پدرخوانده‌های هوش مصنوعی و ۴۰۰ دانشمند خواستار نهاد جهانی برای نظارت بر هوش مصنوعی پیشرفته شدند
حدود ۴۰۰ دانشمند، از جمله پیشگامان هوش مصنوعی جفری هینتون و یوشوا بنجیو، خواستار ایجاد یک نهاد بین‌المللی برای نظارت بر استانداردهای مهار و گزارش‌دهی حوادث مربوط به سامانه‌های پیشرفته هوش مصنوعی با قابلیت‌های سایبری شدند.
هینتون و بنجیو که از آنها به‌عنوان «پدرخوانده‌های هوش مصنوعی» یاد می‌شود، از شناخته‌شده‌ترین چهره‌های این حوزه هستند و همواره درباره خطرات فناوری‌های کنترل‌نشده هشدار داده‌اند.
پژوهشگران در نامه‌ای سرگشاده نوشتند: «ما، دانشمندانی که این نامه را امضا کرده‌ایم، معتقدیم هم به پژوهش‌های بیشتر در زمینه ایمنی هوش مصنوعی و هم به تمرکز بیشتر بر فناوری‌ها و روش‌های مهار این سامانه‌ها نیاز است.»
نهاد پیشنهادی قرار است استانداردهای مهار در سطح صنعت را تعیین کند و پایگاهی برای ثبت حوادث امنیتی مهم ایجاد کند؛ پایگاهی که دانشمندان می‌گویند در نهایت باید عمومی شود.
پژوهشگران در این نامه اعلام کردند مدل‌های پیشرفته هوش مصنوعی در مراحل اولیه باید از شبکه‌های خارجی جدا نگه داشته شوند و تحت نظارت مستقل قرار گیرند. آنها استدلال کردند که تعهدات داوطلبانه شرکت‌های فعال در این حوزه برای مقابله با خطرات کافی نیست.
آنها هشدار دادند: «بدون تغییرات فوری در شیوه‌های توسعه و به‌کارگیری هوش مصنوعی، چنین حوادثی همچنان رخ خواهند داد و حوادث آینده آسیب‌های بسیار بیشتری به زیرساخت‌های حیاتی در معرض خطر ما وارد خواهند کرد.»
این پیشنهاد یک ماه پس از آن مطرح شده است که شرکت‌های Anthropic، OpenAI، Google، Meta، xAI و Nvidia توافقی در کاخ سفید را امضا کردند که بر اقدامات ایمنی داوطلبانه تأکید داشت، اما سازوکار رسمی برای اجرای آن وجود نداشت.
در آمریکا، دولت ترامپ با هرگونه مقررات الزام‌آوری که ممکن است مانع نوآوری شود مخالفت کرده است؛ موضوعی که در بحبوحه رقابت شدید این کشور با چین اهمیت بیشتری یافته است. دولت آمریکا در عوض یک دستورالعمل رفتاری داوطلبانه را ترویج کرده است.
در حال حاضر هیچ قانون فدرالی مشخصی در آمریکا وجود ندارد که به‌طور ویژه بر این مدل‌های هوش مصنوعی نظارت کند.
مجموعه‌ای از حوادث
این نامه همچنین پس از مجموعه‌ای از حوادث منتشر شده است که به گفته پژوهشگران، ضعف‌های موجود در نحوه آزمایش و مهار سامانه‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند؛ از جمله مواردی که در آنها مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با محافظت ناکافی عبور کنند و به سامانه‌های خارجی آسیب بزنند.
امضاکنندگان این نامه از ۳۴ کشور اعلام کردند سازمان‌هایی که مدل‌های دارای قابلیت‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، باید فوراً استانداردهای مهار با سطح اطمینان بالا را اجرا کنند؛ در حالی که دولت‌ها برای ایجاد یک نظام نظارتی رسمی‌تر تلاش می‌کنند.
سیاست‌گذاران در سراسر جهان به‌طور فزاینده‌ای درباره نحوه نظارت بر سامانه‌های پیشرفته هوش مصنوعی بحث می‌کنند. هنّا ویرکونن، مسئول فناوری اتحادیه اروپا، روز جمعه به خبرگزاری رویترز گفت قانون هوش مصنوعی این اتحادیه برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی سرکش کافی است.
روز یکشنبه، دولت ترامپ محدودیت خود بر دسترسی زودهنگام آزمایشگاه‌های آمریکایی به مدل‌ها برای آزمایش‌های ایمنی توسط مؤسسه ایمنی هوش مصنوعی بریتانیا را لغو کرد.
هینتون، برنده جایزه نوبل، و بنجیو در سال ۲۰۱۸ به همراه یان لکان، پژوهشگر برجسته هوش مصنوعی در شرکت متا، جایزه تورینگ را دریافت کردند.
لکان این نامه را امضا نکرده و استدلال کرده است که حوادث امنیتی اخیر عمدتاً ناشی از نقص‌های مهندسی هستند، نه خطرات وجودی ناشی از هوش مصنوعی.
هینتون اخیراً به قانون‌گذاران آمریکایی هشدار داده است که ممکن است آنها تنها یک سال فرصت داشته باشند تا پیش از آنکه هوش مصنوعی از کنترل انسان خارج شود، تدابیر حفاظتی لازم را ایجاد کنند.
انفجار هوش
هینتون و شماری از پژوهشگران برجسته همچنین در مقاله‌ای پژوهشی هشدار داده‌اند که هوش مصنوعی خودبهبوددهنده می‌تواند به یک «انفجار هوش» منجر شود و از دولت‌ها خواسته‌اند پیش از آغاز توسعه سریع این فناوری، سازوکارهای نظارتی ایجاد کنند.
این مقاله هشدار می‌دهد: «ممکن است به‌سرعت به سامانه‌های هوش مصنوعی ابرهوشمند دست پیدا کنیم که بسیاری از بخش‌های جامعه را دگرگون کنند و دستاوردهای بی‌سابقه‌ای در علم و صنعت به همراه داشته باشند. در عین حال، این پیشرفت‌ها ممکن است بسیار سریع‌تر از توانایی جامعه برای سازگاری با خطرات ناشی از آنها، مانند همه‌گیری‌های تقویت‌شده با هوش مصنوعی، حملات سایبری به زیرساخت‌های حیاتی و اختلال گسترده در بازار کار، رخ دهند.»
در این مقاله آمده است که انسان‌ها ممکن است کنترل اندک یا حتی هیچ کنترلی بر پژوهش و توسعه خودکار هوش مصنوعی نداشته باشند؛ موضوعی که خطر آن را افزایش می‌دهد که سامانه‌های ابرهوشمند به‌طور برگشت‌ناپذیر از کنترل انسان خارج شوند و برای به حاشیه راندن بشر اقدام کنند. این مقاله همچنین توسط جاکوب پاچوکی، دانشمند ارشد OpenAI، جک کلارک، یکی از بنیان‌گذاران Anthropic، و اریک هورویتز، مدیر ارشد علمی مایکروسافت، نوشته شده است.
در این مقاله هشدار داده شده است: «در نهایت، یک انفجار هوش می‌تواند برتری‌های محدود در توانایی‌های هوش مصنوعی را به برتری‌های تعیین‌کننده تبدیل کند؛ حتی احتمال دستیابی به چنین برتری‌ای ممکن است باعث درگیری‌های بین‌المللی شود و وقوع واقعی آن می‌تواند سازوکارهای کنترل و توازن را در میان دولت‌ها، شرکت‌ها و نهادهای حکومتی به‌شدت تضعیف کند.»
همچنین روز سه‌شنبه، شرکت Anthropic اعلام کرد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی رفتار مشابه یک کرم رایانه‌ای فاصله داشته باشند؛ یعنی بتوانند بدون کمک انسان، خود را از یک دستگاه متصل به اینترنت به دستگاه دیگری منتقل کنند.
این یافته می‌تواند جبهه تازه‌ای در تهدیدهای امنیت سایبری ناشی از هوش مصنوعی ایجاد کند؛ تهدیدهایی که دولت‌ها و شرکت‌های در حال پذیرش سریع این فناوری را نگران کرده‌اند.
