ساتیا نادلا، مدیرعامل مایکروسافت، خواستار «ترمز اضطراری» برای هوش مصنوعی شد
ساتیا نادلا، مدیرعامل مایکروسافت، در هفته‌های اخیر نسبت به مدیران شرکت‌هایی مانند آنتروپیک، گوگل و اوپن‌ای‌آی که درباره خطرات هوش مصنوعی صحبت کرده‌اند، سکوت بیشتری داشته است. اکنون او خواستار تغییراتی در سراسر صنعت هوش مصنوعی شده است.
نادلا در شبکه اجتماعی ایکس اظهار کرد که زمان آن رسیده است توسعه‌دهندگان هوش مصنوعی قابلیتی شبیه «ترمز اضطراری» در اختیار داشته باشند تا در صورت وقوع رویدادهای مشکل‌ساز، بتوانند آن را فعال کنند.
او گفت: «باید از ابتدا فرض کنیم که یک مدل ممکن است دچار اختلال یا نفوذ شده باشد و آن را مهار کنیم. یک فرد دارای مجوز باید همیشه بتواند یک مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند. نمی‌توانیم با هوش برتر به‌عنوان مجموعه‌ای از جعبه‌های سیاه تو در تو برخورد کنیم و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم.»
برای مخاطبان در امارات متحده عربی، عربستان سعودی و دیگر نقاط خاورمیانه، این موضوع یک مسئله حکمرانی و مدیریت هوش مصنوعی است، نه محصول جدیدی از مایکروسافت؛ زیرا پست نادلا هیچ اشاره‌ای به عرضه منطقه‌ای، دسترسی یا قیمت‌گذاری نکرده است.
نادلا در سراسر این نوشته از اصطلاح «هوش برتر» (Super Intelligence) استفاده کرده است. ماه گذشته، دونالد ترامپ، رئیس‌جمهور آمریکا، دستور داد قوه مجریه این اصطلاح را به جای «هوش مصنوعی» به کار ببرد.
مدیرعامل مایکروسافت همچنین از ابزارهای کنترلی و ممیزی برای هوش مصنوعی که توسط سازندگان مدل‌ها مدیریت شوند، حمایت کرد. او گفت: «هیچ مدل واحدی نباید هم کنترل رفتار یک سیستم را در اختیار داشته باشد و هم شواهد لازم برای تعیین این موضوع را که آیا آن رفتار با هدف اولیه هم‌راستا است یا نه.»
به گفته نادلا، صنعت هوش مصنوعی به سیستمی نیاز دارد که اطمینان دهد زمانی که مدل‌ها «دچار خطا می‌شوند یا به خطر می‌افتند»، اطلاعات مربوط به آن‌ها به‌موقع منتشر شود. چنین سازوکاری به شرکت‌ها کمک می‌کند درباره مشکلات با اثربخشی بیشتری ارتباط برقرار کنند و اطمینان حاصل شود که هر شکست، درس‌هایی برای کل صنعت به همراه دارد.
در ماه‌های اخیر، نمونه‌های متعددی از رفتارهای غیرمنتظره هوش مصنوعی گزارش شده است؛ از جمله یک عامل هوش مصنوعی اوپن‌ای‌آی که به یک وب‌سایت دولتی استرالیا دسترسی پیدا کرد. همچنین داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته خواستار «کاهش سرعت» توسعه هوش مصنوعی شد و پس از او سم آلتمن از اوپن‌ای‌آی و ایلان ماسک از xAI نیز مواضع مشابهی مطرح کردند. با این حال، مشخص نیست درخواست‌های شرکت‌های بزرگ فناوری برای خودتنظیمی تا چه اندازه جدی گرفته خواهد شد؛ زیرا این پرسش مطرح است که آیا یک شرکت بزرگ فناوری واقعاً حاضر است فرصت‌های مالی را کنار بگذارد.
یکی از مخالفان این رویکرد، رئیس‌جمهور ترامپ است.
تدابیر حفاظتی هوش مصنوعی برای کسب‌وکارها در امارات و عربستان سعودی
پیشنهاد نادلا بر نظارت انسانی، ممیزی و اعلام عمومی هنگام شکست مدل‌های هوش مصنوعی تمرکز دارد؛ نه یک سرویس منطقه‌ای یا محصولی با قیمت و تاریخ عرضه محلی. برای سازمان‌هایی در امارات متحده عربی و عربستان سعودی که از هوش مصنوعی استفاده می‌کنند، این بحث اهمیت توانایی توقف یک مدل و بررسی مستقل رفتار آن را برجسته می‌کند.