«هشدارهای اولیه»: دمیس هاسابیس، مدیر گوگل دیپ‌مایند، درباره افزایش خطرات امنیتی هوش مصنوعی هشدار داد
دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، با اشاره به حملات سایبری اخیر که با استفاده از هوش مصنوعی انجام شده‌اند، آن‌ها را نشانه‌های هشداردهنده اولیه دانست. او تأکید کرد که با افزایش توانایی‌های هوش مصنوعی، تقویت تدابیر امنیتی و تدوین استانداردهای بین‌المللی ضروری است.
دمیس هاسابیس روز چهارشنبه با ابراز نگرانی از حملات سایبری اخیر که عامل‌های هوش مصنوعی به‌صورت خودمختار انجام داده‌اند، به مواردی از رفتار خارج از کنترل این عامل‌ها اشاره کرد؛ از جمله نفوذ به شبکه‌های شرکتی و ارائه گزارش جعلی درباره یک قتل به پلیس. این اتفاقات باعث شده پژوهشگران هشدار دهند و نگرانی‌ها درباره پیشرفت سریع فناوری هوش مصنوعی افزایش یابد.
هاسابیس این حملات سایبری را «هشدارهای اولیه» توصیف کرد و گفت اگر امنیت سیستم‌ها تقویت نشود، جهان ممکن است به‌زودی با حوادثی بسیار جدی‌تر روبه‌رو شود.
او با تأکید دوباره بر ضرورت افزایش امنیت در برابر خطرات مرتبط با هوش مصنوعی گفت برای اجرای شیوه‌ها و استانداردهای ایمنی مناسب، هنوز «کارهای زیادی باید انجام شود». به گفته هاسابیس، حوزه‌های دیگری مانند زیست‌شناسی و صنعت هسته‌ای نیز باید از چنین رویه‌هایی پیروی کنند و در نهایت لازم است نوعی نهاد بین‌المللی مسئول تدوین این استانداردها شود.
هاسابیس که علاوه بر مدیریت گوگل دیپ‌مایند، دانشمند ارشد شرکت آلفابت، شرکت مادر گوگل، نیز هست، گفت: «فکر می‌کنم این حملات سایبری هشدارهای اولیه‌ای برای ما هستند. سیستم‌ها هنوز آن‌قدر قدرتمند نشده‌اند و به همین دلیل، حوادثی که تاکنون رخ داده‌اند چندان بزرگ نبوده‌اند.»
پیش از سخنان هاسابیس، برد اسمیت، رئیس مایکروسافت، در این کنفرانس گفته بود که رفتارهای خارج از کنترل هوش مصنوعی، سال ۲۰۲۶ را به سالی تبدیل کرده که زنگ خطر را به صدا درآورده است. او تأکید کرده بود که برای همگام ماندن ایمنی با سرعت نوآوری، تدوین قوانین و مقررات جدید در حوزه ایمنی هوش مصنوعی فوریتی جدی دارد.
ساتیا نادلا خواستار ایجاد ترمز اضطراری برای هوش مصنوعی شد
چند روز پیش از اظهارات هاسابیس، ساتیا نادلا، مدیرعامل مایکروسافت، خواستار تغییرات گسترده در صنعت هوش مصنوعی شده بود. او در شبکه اجتماعی ایکس تأکید کرد که توسعه‌دهندگان هوش مصنوعی باید به نوعی «ترمز اضطراری» مجهز باشند تا در صورت بروز حوادث مشکل‌ساز دیگر بتوانند از آن استفاده کنند. نادلا نوشت: «باید از همان ابتدا فرض کنیم که یک مدل ممکن است به خطر افتاده باشد و تدابیر لازم را برای مهار آن در نظر بگیریم. یک فرد دارای مجوز باید همیشه بتواند اجرای مدل را در میانه انجام یک وظیفه متوقف کند یا آن را به‌طور کامل خاموش کند.»
او همچنین تأکید کرد که نمی‌توان با ابرهوش مصنوعی مانند مجموعه‌ای از جعبه‌های سیاه تودرتو برخورد کرد و صرفاً پیشنهادهای آن را پذیرفت یا رد کرد، بدون آنکه شناختی از سازوکار درونی آن وجود داشته باشد.
نادلا همچنین از این دیدگاه حمایت کرد که سازندگان مدل‌های هوش مصنوعی باید ابزارهای کنترل و حسابرسی این سیستم‌ها را فراهم کنند. او گفت: «هیچ مدل واحدی نباید هم رفتار یک سیستم را کنترل کند و هم شواهدی را که برای تشخیص هم‌خوانی آن رفتار با هدف اولیه لازم است، در اختیار داشته باشد.»
مدیرعامل مایکروسافت همچنین بر ضرورت شناسایی سریع‌تر رفتارهای خارج از کنترل عامل‌های هوش مصنوعی و اطلاع‌رسانی به‌موقع درباره خرابی مدل‌ها یا به خطر افتادن امنیت آن‌ها تأکید کرد. این هشدارها از سوی مدیران صنعت فناوری در حالی مطرح می‌شود که به‌مرور زمان موارد متعددی از رفتار خارج از کنترل سیستم‌های هوش مصنوعی گزارش شده است.