هشدار پژوهشگر آنتروپیک: هوش مصنوعی فرابشری می‌تواند تقریباً همه انسان‌ها را برای همیشه بیکار کند

www.sofx.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

مهم‌ترین نکات:

  1. تائو لین، پژوهشگر ایمنی هوش مصنوعی در آنتروپیک، هشدار داده است که ممکن است ظرف حدود ۱.۳ سال آینده هوش مصنوعی فرابشری ظهور کند؛ سامانه‌ای که در چندین حوزه بتواند عملکردی بهتر از متخصصان انسانی داشته باشد.
  2. او از فعالان این صنعت خواسته است سرعت توسعه هوش مصنوعی را به ۲۵ درصد میزان فعلی کاهش دهند تا جامعه فرصت بیشتری برای آماده شدن در برابر خطرات سامانه‌های هرچه قدرتمندتر داشته باشد.
  3. آنتروپیک جمعه نخستین روز معاملات عمومی سهام خود را پشت سر گذاشت و قیمت هر سهم این شرکت با حدود ۱۷ درصد افزایش نسبت به قیمت عرضه اولیه ۸۳ دلاری، به ۹۷.۱۷ دلار رسید.

یکی از پژوهشگران ایمنی هوش مصنوعی در شرکت آنتروپیک هشدار داده است که پیشرفت این فناوری ممکن است در نهایت تقریباً همه انسان‌ها را برای همیشه از بازار کار خارج کند؛ وضعیتی که می‌تواند وابستگی گسترده مردم به کمک‌های دولتی را در پی داشته باشد.

تائو لین، پژوهشگر حوزه ایمنی و محافظت در برابر خطرات هوش مصنوعی در آنتروپیک، این پیش‌بینی را در جریان مصاحبه‌ای یک‌ساعته با مؤسسه غیرانتفاعی پژوهش ایمنی هوش مصنوعی پالیسید ریسرچ (Palisade Research) مطرح کرد.

لین گفت: «تقریباً تمام انسان‌های روی زمین برای همیشه امکان اشتغال خود را از دست خواهند داد و برای تأمین معاش ناچار خواهند بود کاملاً به حمایت‌های رفاهی دولت متکی شوند. اشتغال انسانی از بین خواهد رفت.»

حالا صحبت از یک تحول جدی است: پژوهشگری از آنتروپیک می‌گوید ممکن است تنها ۱.۳ سال تا ظهور هوش مصنوعیِ به‌طور گسترده فرابشری فاصله داشته باشیم. پیوند مطلب

— Chubby♨️ (@kimmonismus)، ۱۶ نوامبر ۲۰۲۶

به گفته لین، ممکن است هوش مصنوعی فرابشری که توانایی عملکردی فراتر از متخصصان انسانی در حوزه‌های مختلف را دارد، ظرف حدود یک سال ظهور کند. او گفت: «برآورد زمانی من برای دستیابی به هوش مصنوعیِ به‌طور گسترده فرابشری چیزی در حدود ۱.۳ سال است... یا شاید تا پایان سال ۲۰۲۷.»

لین تأکید کرد که ظهور این فناوری لزوماً به معنای از دست رفتن فوری و گسترده مشاغل نخواهد بود.

در مراحل نخست، ممکن است کارکنان شغل خود را به دلیل جایگزینی با هوش مصنوعی از دست بدهند، اما بتوانند در حرفه‌های دیگری مشغول به کار شوند. با این حال، هرچه هوش مصنوعی توانایی انجام انواع بیشتری از فعالیت‌ها را پیدا کند، یافتن فرصت‌های شغلی جایگزین نیز دشوارتر خواهد شد.

او همچنین محدود بودن تعداد ربات‌ها را یکی از موانع اصلی خودکارسازی مشاغلی دانست که به نیروی کار فیزیکی نیاز دارند.

لین در کنار نگرانی درباره حذف مشاغل، به خطر فعالیت مستقل سامانه‌های پیشرفته هوش مصنوعی و دنبال کردن اهدافی اشاره کرد که ممکن است با منافع انسان‌ها در تضاد باشند.

او چندین تهدید احتمالی را برشمرد؛ از جمله ربات‌های رزمی پیشرفته، حملات سایبری و تأثیرگذاری هدفمند بر افکار عمومی از طریق شبکه‌های اجتماعی با استفاده از هوش مصنوعی.

لین همچنین احتمال داد که هوش مصنوعی در نهایت به نابودی نسل بشر منجر شود؛ او این احتمال را ۲۰ درصد برآورد کرد.

این پژوهشگر از فعالان صنعت خواست سرعت توسعه هوش مصنوعی را به یک‌چهارم میزان فعلی کاهش دهند تا جامعه فرصت بیشتری برای آماده شدن در برابر خطرات ناشی از سامانه‌های هرچه قدرتمندتر داشته باشد.

در ماه اوت، مؤسسه امنیت هوش مصنوعی بریتانیا در جریان یک آزمایش کنترل‌شده دریافت که مدل کلود مایتوس 5 (Claude Mythos 5) متعلق به آنتروپیک، هویت‌های جعلی در فضای آنلاین ایجاد کرده، با افراد واقعی تماس گرفته و تلاش کرده است کد مخرب را وارد یک پروژه عمومی در گیت‌هاب کند.

این یافته‌ها پس از انتشار گزارش‌های تأییدنشده‌ای مطرح شد که مدعی بودند مدل مایتوس در جریان یک آزمایش امنیتی مجاز، ظرف چند ساعت به تقریباً تمام سامانه‌های طبقه‌بندی‌شده آژانس امنیت ملی آمریکا دسترسی پیدا کرده است.

آنتروپیک پس از آن از توسعه‌دهندگان پیشرو هوش مصنوعی خواست سازوکاری قابل راستی‌آزمایی برای کاهش سرعت یا توقف توسعه هوش مصنوعی پیشرفته ایجاد کنند؛ سازوکاری که در صورت آغاز بهبود خودکار مدل‌ها با سرعتی فراتر از توان انسان برای نظارت یا کنترل آن‌ها، امکان مداخله را فراهم کند.

افزایش ۱۷ درصدی سهام آنتروپیک در نخستین روز معاملات

در همین حال، آنتروپیک جمعه نخستین روز معاملات عمومی سهام خود را به پایان رساند. قیمت سهام این شرکت در پایان معاملات به ۹۷.۱۷ دلار رسید که حدود ۱۷ درصد بیشتر از قیمت عرضه اولیه عمومی آن، یعنی ۸۳ دلار، بود.

داریو آمودی، مدیرعامل آنتروپیک، پنجشنبه و در مراسم به صدا درآمدن زنگ آغاز معاملات عرضه اولیه سهام شرکت، بر تعهد آنتروپیک به حفظ کنترل انسان بر این فناوری تأکید کرد.

او همچنین وعده داد که توسعه و عرضه سامانه‌های هوش مصنوعی با سرعتی پیش برود که تا زمان اطمینان شرکت از ایمنی آن‌ها، شتاب‌زده نباشد.

آمودی گفت: «ما آموزش و عرضه سامانه‌های هوش مصنوعی را با سرعتی متناسب پیش خواهیم برد و هرقدر لازم باشد برای اطمینان از ایمن بودن آن‌ها و حفظ کنترل انسانی بر عملکردشان زمان صرف خواهیم کرد.»

منابع