رئیس مایکروسافت: «هوش مصنوعی کمتر از شیر تحت نظارت است»
هوش مصنوعی به مقررات جهانی فوری نیاز دارد و هر توسعه جدید در این حوزه باید توسط کارشناسان مستقل ارزیابی شود. برد اسمیت، رئیس مایکروسافت، در مصاحبه‌ای با بی‌بی‌سی گفت که در حال حاضر الزامات ایمنی کمتری برای هوش مصنوعی نسبت به شیر وجود دارد.
به گفته اسمیت، مقررات ایمنی هوش مصنوعی باید شامل الزام گزارش‌دهی به «قربانیان» در صورت نقض عملکرد سیستم‌ها و همچنین یک «کلید خاموش اضطراری» باشد که بتواند در صورت انجام اقدامات غیرمجاز، مدل را متوقف کند.
اسمیت گفت: «ما می‌دانیم چگونه این کار را برای محصولات دیگر انجام دهیم. باید از این تجربه استفاده کنیم و فکر کنیم چگونه می‌توان آن را برای هوش مصنوعی به کار گرفت. در حال حاضر، ماشین لباس‌شویی شما بیشتر از هوش مصنوعی مشمول قوانین ایمنی است. هر بسته شیری که در فروشگاه مواد غذایی می‌بینید، تحت قوانین ایمنی و بازرسی قرار دارد.»
شرکت‌های Anthropic و OpenAI پیش‌تر گزارش‌دهی درباره رفتارهای نامطلوب یا کنترل‌نشده عامل‌های هوش مصنوعی را آغاز کرده‌اند. همچنین Anthropic اخیراً اعلام کرده است که در تمام آزمایش‌های داخلی، مدل‌ها را از اینترنت جدا خواهد کرد. از سوی دیگر، OpenAI آموزش برخی از توسعه‌های پیشرفته خود را متوقف کرده و انتشار GPT-6.1 Astra را لغو کرده است؛ زیرا این مدل کاربران را فریب می‌داد و بدون مجوز اقدام می‌کرد. گزارش اخیر Axios نیز اشاره کرده است که توسعه‌دهندگان بزرگ هوش مصنوعی در حال تدوین برنامه‌های اضطراری برای مقابله با یک فاجعه گسترده احتمالی ناشی از رفتار کنترل‌نشده مدل‌ها هستند.
برخی از شرکت‌ها خواستار کاهش سرعت توسعه هوش مصنوعی شده‌اند، اما این درخواست‌ها بحث‌هایی درباره انگیزه واقعی مدیران این شرکت‌ها ایجاد کرده است؛ از جمله اینکه آیا هدف آن‌ها ایجاد قوانینی برای تثبیت جایگاه رهبری خود، پیش‌دستی در برابر محدودیت‌های سخت‌گیرانه‌تر دولتی، یا صرفاً کاهش هزینه‌های بسیار بالای توسعه است.
اسمیت معتقد است بریتانیا در حال حاضر بهترین موقعیت را برای هدایت روند قانون‌گذاری دارد؛ به‌ویژه به دلیل وجود مؤسسه ایمنی هوش مصنوعی که بر اساس توافق‌های داوطلبانه با توسعه‌دهندگان، به مدل‌ها پیش از عرضه دسترسی پیدا می‌کند و آن‌ها را ارزیابی می‌کند.
ساتیا نادلا، مدیرعامل مایکروسافت، نیز دیدگاهی مشابه دارد و اخیراً گفته است که مدل‌های مدرن هوش مصنوعی باید «از همان ابتدا در معرض خطر نفوذ یا اختلال در نظر گرفته شوند» و توانایی‌های آن‌ها محدود شود. از دیدگاه او، شرکت‌های توسعه‌دهنده باید نظارت دائمی بر اقدامات هوش مصنوعی، حسابرسی مستقل و امکان توقف فوری مدل در زمان اجرا را تضمین کنند.