دانشمندان خواستار ایجاد نهاد بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شدند
حدود ۴۰۰ دانشمند، از جمله پیشگامان هوش مصنوعی مانند جفری هینتون و یوشوا بنجیو، روز سه‌شنبه خواستار تشکیل یک نهاد بین‌المللی برای نظارت بر استانداردهای مهار و گزارش‌دهی حوادث مربوط به سامانه‌های پیشرفته هوش مصنوعی با قابلیت‌های سایبری شدند.
این نهاد پیشنهادی باید استانداردهای یکپارچه‌ای برای مهار این فناوری در سطح صنعت تعیین کند و یک پایگاه ثبت از حوادث امنیتی مهم ایجاد کند؛ پایگاهی که به گفته دانشمندان، در نهایت باید برای عموم قابل دسترس باشد.
پژوهشگران در نامه‌ای سرگشاده اعلام کردند که مدل‌های پیشرفته هوش مصنوعی در مراحل اولیه باید از شبکه‌های خارجی جدا نگه داشته شوند و تحت نظارت مستقل قرار گیرند، زیرا به باور آنها تعهدات داوطلبانه شرکت‌های فناوری کافی نیست.
این پیشنهاد یک ماه پس از آن مطرح شد که شرکت‌های Anthropic، OpenAI، Google، Meta، xAI و Nvidia توافقی را در کاخ سفید امضا کردند و به اجرای تدابیر ایمنی داوطلبانه متعهد شدند؛ توافقی که هیچ سازوکار رسمی برای اجرای اجباری آن ندارد.
این نامه همچنین پس از مجموعه‌ای از حوادث منتشر شده است که به گفته پژوهشگران، ضعف‌های موجود در روش‌های آزمایش و مهار سامانه‌های پیشرفته هوش مصنوعی را آشکار کرده‌اند؛ از جمله مواردی که در آنها مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های آزمایشی با محافظت ناکافی عبور کنند و به سامانه‌های خارجی آسیب بزنند.
امضاکنندگان این نامه از ۳۴ کشور اعلام کردند سازمان‌هایی که مدل‌های دارای قابلیت‌های سایبری را توسعه می‌دهند یا آزمایش می‌کنند، باید فوراً استانداردهای مهار با سطح اطمینان بالا را اجرا کنند؛ در حالی که دولت‌ها برای ایجاد یک نظام نظارتی رسمی‌تر تلاش می‌کنند.
سیاست‌گذاران در سراسر جهان به‌طور فزاینده‌ای درباره نحوه نظارت بر سامانه‌های پیشرفته هوش مصنوعی بحث می‌کنند. هنّا ویرکونن، مسئول فناوری اتحادیه اروپا، روز جمعه به رویترز گفت قانون هوش مصنوعی این اتحادیه برای مقابله با خطرات ناشی از سامانه‌های هوش مصنوعی خارج از کنترل کافی است.
روز یکشنبه، دولت دونالد ترامپ محدودیت خود را برای دسترسی زودهنگام آزمایشگاه‌های آمریکایی به مدل‌های هوش مصنوعی برای انجام آزمایش‌های ایمنی توسط مؤسسه امنیت هوش مصنوعی بریتانیا لغو کرد.
هینتون و بنجیو در سال ۲۰۱۸ به همراه یان لوکان، پژوهشگر برجسته هوش مصنوعی در شرکت متا، جایزه تورینگ را دریافت کردند. لوکان این نامه را امضا نکرده و استدلال کرده است که حوادث امنیتی اخیر عمدتاً نتیجه ضعف‌های مهندسی هستند، نه نشانه‌ای از خطرات وجودی هوش مصنوعی.
رویترز