رهبران مایکروسافت خواستار ترمز اضطراری برای مهار هوش مصنوعی سرکش شدند
براد اسمیت، رئیس مایکروسافت، می‌گوید شرکت‌ها باید از نظر قانونی موظف شوند به هر فردی که سامانه‌اش توسط یک عامل هوش مصنوعی سرکش مورد نفوذ قرار گرفته است، اطلاع دهند. او این دیدگاه را در مصاحبه‌ای که روز دوشنبه منتشر شد مطرح کرد. دو روز پیش از آن، ساتیا نادلا، مدیرعامل مایکروسافت، در مطلبی طولانی در شبکه اجتماعی ایکس استدلال کرده بود که مدل‌های پیشرفته هوش مصنوعی به مهار و یک ترمز اضطراری تحت کنترل انسان نیاز دارند.
https://t.co/MjwFy73LOF
— ساتیا نادلا (@satyanadella)، ۱۰ اکتبر ۲۰۲۶
اسمیت برای توضیح نگرانی‌های خود به شیر اشاره کرد؛ محصولی که پیش از رسیدن به قفسه فروشگاه‌ها باید آزمایش‌های ایمنی و بازرسی را پشت سر بگذارد. او گفت: «در حال حاضر، ماشین لباسشویی شما بیشتر از هوش مصنوعی تحت قوانین ایمنی قرار دارد.»
اسمیت علاوه بر اطلاع‌رسانی به قربانیان، پیشنهاد ایجاد یک ترمز اضطراری برای هوش مصنوعی، ارائه اجباری گزارش رخدادها از سوی شرکت‌ها و استفاده از ارزیابان مستقل برای بررسی محصولات پیش از عرضه را مطرح کرد. از دیدگاه او، هوش مصنوعی می‌تواند به همان اندازه که یک ابزار است، به‌عنوان یک سلاح نیز مورد استفاده قرار گیرد و دولت‌ها باید هرچه سریع‌تر برای تنظیم مقررات آن اقدام کنند. او معتقد است بریتانیا به دلیل داشتن مؤسسه امنیت هوش مصنوعی که در دوره نخست‌وزیری ریشی سوناک راه‌اندازی شد، موقعیت مناسبی برای هدایت قوانین جهانی در این حوزه دارد.
نادلا در مطلب روز شنبه خود، مدل‌های پیشرفته هوش مصنوعی را، چه مدل‌های بسته و چه مدل‌های دارای وزن‌های باز، به‌عنوان خطرات داخلی بالقوه توصیف کرد. مدیرعامل مایکروسافت نوشت: «باید فرض کنیم یک مدل از ابتدا به خطر افتاده است و آن را از همان ابتدا مهار کنیم.»
بر اساس پیشنهاد نادلا، یک اپراتور تأییدشده باید همیشه بتواند یک مدل را در میانه انجام یک وظیفه متوقف یا خاموش کند. همچنین هر اقدام مهمی که مدل انجام می‌دهد باید یک سابقه غیرقابل دستکاری ایجاد کند که انسان‌ها بتوانند آن را بررسی کنند. او همچنین خواستار افشای سریع اطلاعات برای افراد آسیب‌دیده در صورت اختلال یا نفوذ به این سامانه‌ها و سپس اشتراک‌گذاری گسترده آنچه شکست خورده است، میان شرکت‌های صنعت هوش مصنوعی شد.
شرکت مایکروسافت زیرساخت‌های هوش مصنوعی را اداره می‌کند و در شرکت OpenAI، سازنده ChatGPT، سهام دارد. داریو آمودی، مدیرعامل Anthropic، نیز خواستار سرعت کمتر در توسعه این فناوری شده و معتقد است فعالیت‌های ایمنی دیگر نمی‌توانند همگام با سرعت پیشرفت هوش مصنوعی ادامه پیدا کنند.
پلیس فیلادلفیا در جریان آزمایشی از سوی Anthropic، روز جمعه اعلام کرد که از مدل Claude Haiku 4.5 یک گزارش جعلی درباره یک پرونده قتل حل‌نشده دریافت کرده است. این گزارش که در ۱۸ ژوئیه ثبت شده بود، ادعا می‌کرد فردی شاهدی نزدیک به محل وقوع قتل بوده است، اما به‌عنوان هرزنامه شناسایی شد و هرگز به دست مأموران تحقیق نرسید. در این آزمایش، مدل هوش مصنوعی در حال تولید و اجرای وظایف نمونه روی وب‌سایت‌هایی بود که به‌صورت تصادفی انتخاب شده بودند.
کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه در سخنرانی خود در مرکز Base One کالج سلطنتی لندن، از آزمایشگاه‌های توسعه‌دهنده مدل‌های پیشرفته خواست هشدارهای پژوهشگران خود درباره خطرات جدی را جدی بگیرند. او خطاب به توسعه‌دهندگان گفت: «اگر نمی‌توانید خطرات را به‌طور مناسب کنترل کنید، سیستم را منتشر نکنید.»
وزیران بریتانیا با پارلمان همکاری خواهند کرد تا بررسی کنند آیا می‌توان لایحه امنیت سایبری و تاب‌آوری را در برابر حملات سایبری مبتنی بر هوش مصنوعی و خطر از دست رفتن کنترل سیستم‌ها تقویت کرد یا نه. این بررسی شامل نحوه گزارش رخدادهای شدید و موارد نزدیک به وقوع حادثه خواهد بود. نارایان همچنین به حاضران گفت که از نظر او، نفوذ به دفاع سایبری دولت بریتانیا تقریباً اجتناب‌ناپذیر است.