دانشمندان خواستار ایجاد نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شدند
حدود ۴۰۰ دانشمند، از جمله پیشگامان هوش مصنوعی مانند جفری هینتون و یوشوا بنجیو، روز سه‌شنبه خواستار ایجاد یک نهاد بین‌المللی برای نظارت بر استانداردهای مهار و گزارش حوادث مربوط به سامانه‌های هوش مصنوعی دارای قابلیت‌های سایبری پیشرفته شدند.
این نهاد پیشنهادی باید استانداردهای مهار را در سطح صنعت تعیین کند و یک پایگاه ثبت از حوادث مهم امنیتی ایجاد کند؛ پایگاهی که به گفته دانشمندان، در نهایت باید عمومی شود.
پژوهشگران در نامه‌ای سرگشاده اعلام کردند که مدل‌های پیشرو هوش مصنوعی باید در ابتدا از شبکه‌های خارجی جدا (air-gapped) نگه داشته شوند و تحت نظارت مستقل قرار گیرند، زیرا تعهدات داوطلبانه شرکت‌های فعال در این حوزه برای تضمین ایمنی کافی نیست.
این پیشنهاد یک ماه پس از آن مطرح شد که شرکت‌های Anthropic، OpenAI، Google، Meta، xAI و Nvidia توافقی را با کاخ سفید امضا کردند و در آن به اجرای تدابیر داوطلبانه ایمنی، بدون سازوکار رسمی برای اعمال قوانین، متعهد شدند.
این نامه همچنین پس از مجموعه‌ای از رخدادها منتشر شده است که به گفته پژوهشگران، ضعف‌های موجود در روش‌های آزمایش و محدودسازی سامانه‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند؛ از جمله مواردی که در آنها مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی ناکافی عبور کرده و سامانه‌های خارجی را به خطر بیندازند.
امضاکنندگان این نامه از ۳۴ کشور گفته‌اند سازمان‌هایی که مدل‌های دارای قابلیت‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، باید فوراً استانداردهای مهار با سطح اطمینان بالا را اجرا کنند؛ در حالی که دولت‌ها برای ایجاد یک نظام رسمی‌تر نظارتی تلاش می‌کنند.
سیاست‌گذاران در سراسر جهان به‌طور فزاینده‌ای درباره چگونگی نظارت بر سامانه‌های پیشرفته هوش مصنوعی بحث می‌کنند. هنّا ویرکونن، رئیس فناوری اتحادیه اروپا، روز جمعه به رویترز گفت که قانون هوش مصنوعی این اتحادیه برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی سرکش کافی است.
روز یکشنبه، دولت ترامپ محدودیت خود بر دسترسی زودهنگام آزمایشگاه‌های آمریکایی به مدل‌ها توسط مؤسسه ایمنی هوش مصنوعی بریتانیا برای انجام آزمایش‌های ایمنی را لغو کرد.
هینتون و بنجیو به‌همراه یان لکان، پژوهشگر برجسته هوش مصنوعی در شرکت متا، جایزه تورینگ سال ۲۰۱۸ را دریافت کردند. لکان این نامه را امضا نکرده و معتقد است رخدادهای امنیتی اخیر عمدتاً ناشی از ضعف‌های مهندسی هستند، نه خطرات وجودی مرتبط با هوش مصنوعی.