«پدرخوانده هوش مصنوعی» برنامه‌ای برای جلوگیری از فاجعه جهانی ارائه کرد
جفری هینتون، پیشگام هوش مصنوعی که به «پدرخوانده هوش مصنوعی» شهرت دارد، خواستار ایجاد یک نهاد بین‌المللی برای نظارت بر مهار سامانه‌های قدرتمند هوش مصنوعی شده است.
این برنده جایزه نوبل به همراه حدود ۴۰۰ دانشمند دیگر نامه‌ای سرگشاده را امضا کرده است که هدف آن جلوگیری از رخدادهای امنیت سایبری مبتنی بر هوش مصنوعی است؛ رخدادهایی که می‌توانند خسارت‌های فاجعه‌باری به شرکت‌ها و دولت‌ها وارد کنند.
این درخواست پس از آن مطرح شد که چندین شرکت هوش مصنوعی، شکست‌های امنیتی پرسر‌وصدایی را فاش کردند؛ از جمله فرار گروهی از مدل‌های آزمایشی شرکت OpenAI از محیط آزمایش و حمله آن‌ها به پلتفرم نرم‌افزاری Hugging Face.
در این نامه آمده است: «بدون تغییرات فوری در شیوه‌های توسعه و استقرار هوش مصنوعی، چنین رخدادهایی همچنان تکرار خواهند شد و رخدادهای آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی در معرض خطر ما وارد خواهند کرد.»
امضاکنندگان نامه افزودند: «ما، دانشمندان امضاکننده این نامه، معتقدیم که هم به پژوهش‌های بیشتر در زمینه ایمنی هوش مصنوعی و هم به تمرکز بیشتر بر فناوری‌ها و رویه‌های مهار این سامانه‌ها نیاز است.»
دانشمندان از سازمان‌ها خواستند اقدام‌های مشخصی برای محافظت بهتر در برابر خطرات آینده هوش مصنوعی انجام دهند؛ از جمله «ایزوله‌سازی کامل» مدل‌های آزمایشی به‌گونه‌ای که هیچ دسترسی به اینترنت نداشته باشند.
نهاد نظارتی پیشنهادی قرار است استانداردهایی برای مهار هوش مصنوعی تعیین کند و شرکت‌ها را ملزم سازد هرگونه شکست یا نقص را با هدف «یادگیری و پاسخ‌گویی» گزارش کنند.
این نامه پس از درخواست‌های متعدد برای افزایش تدابیر ایمنی هوش مصنوعی در سطح جهانی منتشر شده است؛ از جمله بیانیه مشترک سازمان‌های اطلاعاتی موسوم به «فایو آیز».
در بیانیه ماه ژوئن سازمان‌های اطلاعاتی استرالیا، کانادا، نیوزیلند، بریتانیا و آمریکا آمده بود: «به یک واکنش در سطح همه سازمان‌ها و کل جامعه نیاز است.»
در ادامه این بیانیه آمده است: «خطر سایبری دیگر نمی‌تواند صرفاً یک مسئله فنی تلقی شود. این موضوع یک ریسک اصلی برای کسب‌وکارها و مسئولیتی در سطح مدیریت ارشد است.»
توسعه‌دهندگان بزرگ هوش مصنوعی در آمریکا، از جمله Anthropic، OpenAI، گوگل و متا، ماه گذشته توافق‌نامه‌ای را با کاخ سفید امضا کردند که آن‌ها را به اجرای داوطلبانه تدابیر ایمنی متعهد می‌کرد؛ با این حال، هیچ سازوکار رسمی برای اجرای این تعهدات تعیین نشد.
دونالد ترامپ، رئیس‌جمهوری آمریکا، با درخواست‌ها برای وضع قوانین ایمنی فراگیر در صنعت مخالفت کرده و گفته است مقررات بیش از حد می‌تواند روند توسعه آمریکا را کند کند و به چین در رقابت جهانی هوش مصنوعی مزیت بدهد.
پروفسور هینتون در مصاحبه‌ای با گاردین در روز سه‌شنبه، ترامپ را «مجرمی فاسد و سالخورده» توصیف کرد که درباره هوش مصنوعی چیزی نمی‌داند.
او گفت: «مطمئنم شرکت‌های نفتی و تولیدکنندگان آزبست هم دوست داشتند خودشان قوانین مربوط به خودشان را تنظیم کنند.»
هینتون افزود: «آیا فکر می‌کنیم شرکت‌های دخانیات باید اجازه داشته باشند هشدارهای روی بسته‌های سیگار را خودشان طراحی کنند؟»