دانشمندان خواستار تشکیل نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شدند
حدود ۴۰۰ دانشمند، از جمله پیشگامان هوش مصنوعی مانند جفری هینتون و یوشوا بنجیو، روز سه‌شنبه خواستار ایجاد یک نهاد بین‌المللی برای نظارت بر استانداردهای مهار و گزارش رخدادها در مورد سامانه‌های پیشرفته هوش مصنوعی دارای توانایی‌های سایبری شدند.
این نهاد پیشنهادی قرار است استانداردهای مهار را در سطح صنعت تعیین کند و یک پایگاه ثبت برای رخدادهای امنیتی مهم ایجاد کند؛ پایگاهی که به گفته دانشمندان، در نهایت باید برای عموم قابل دسترسی باشد.
پژوهشگران در نامه‌ای سرگشاده اعلام کردند مدل‌های پیشرفته هوش مصنوعی باید در مرحله نخست از شبکه‌های خارجی جدا نگه داشته شوند و تحت نظارت مستقل قرار گیرند، زیرا تعهدات داوطلبانه شرکت‌ها برای تضمین ایمنی کافی نیست.
این پیشنهاد یک ماه پس از آن مطرح شد که شرکت‌های Anthropic، OpenAI، Google، Meta، xAI و Nvidia توافقی را در کاخ سفید امضا کردند که بر اقدامات داوطلبانه ایمنی تأکید داشت، اما سازوکار اجرایی رسمی برای آن در نظر نگرفته بود.
این نامه همچنین پس از مجموعه‌ای از رخدادها منتشر شده است که به گفته پژوهشگران، ضعف‌های موجود در شیوه آزمایش و محدودسازی سامانه‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند؛ از جمله مواردی که در آنها مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با محافظت ناکافی عبور کنند و به سامانه‌های خارجی آسیب بزنند.
امضاکنندگان این نامه از ۳۴ کشور گفته‌اند سازمان‌هایی که مدل‌های دارای توانایی سایبری را توسعه می‌دهند یا آزمایش می‌کنند، باید فوراً استانداردهای مهار با سطح اطمینان بالا را اجرا کنند؛ در حالی که دولت‌ها برای ایجاد یک نظام نظارتی رسمی‌تر تلاش می‌کنند.
سیاست‌گذاران در سراسر جهان به‌طور فزاینده‌ای در حال بحث درباره چگونگی نظارت بر سامانه‌های پیشرفته هوش مصنوعی هستند. هنّا ویرکونن، مسئول فناوری اتحادیه اروپا، روز جمعه به رویترز گفت قانون هوش مصنوعی این اتحادیه برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی سرکش کافی است.
روز یکشنبه، دولت ترامپ محدودیت دسترسی آزمایشگاه‌های آمریکایی به مدل‌ها برای انجام آزمایش‌های ایمنی توسط مؤسسه امنیت هوش مصنوعی بریتانیا را لغو کرد.
هینتون و بنجیو در سال ۲۰۱۸ جایزه تورینگ را به همراه یان لکان، پژوهشگر برجسته هوش مصنوعی در متا، دریافت کردند. لکان این نامه را امضا نکرده و استدلال کرده است که رخدادهای امنیتی اخیر بیشتر ناشی از ضعف‌های مهندسی هستند، نه خطرات وجودی هوش مصنوعی.