مایکروسافت پس از ارسال گزارش جعلی پلیس توسط مدل هوش مصنوعی آنتروپیک، خواستار ترمزهای اضطراری برای هوش مصنوعی شد
برد اسمیت، رئیس مایکروسافت، خواستار ایجاد سازوکارهای اجباری برای خاموش‌سازی اضطراری و تقویت قوانین جهانی در حوزه هوش مصنوعی شده است؛ این درخواست چند روز پس از آن مطرح شد که آنتروپیک اعلام کرد یکی از مدل‌های کلود این شرکت در جریان آزمایشی، اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده را به پلیس فیلادلفیا ارسال کرده است.
اسمیت در مصاحبه‌ای با بی‌بی‌سی که دوشنبه ۱۲ اکتبر منتشر شد، گفت هوش مصنوعی به الزامات ایمنی قابل اجرا، ارزیابی‌های مستقل و تعهدات قانونی برای گزارش رخدادها نیاز دارد. این هشدار در شرایطی مطرح می‌شود که سامانه‌های هوش مصنوعی خودکارتر شده‌اند و توانایی حرکت در وب‌سایت‌ها، اجرای نرم‌افزارها و تعامل با نهادهای دنیای واقعی را پیدا کرده‌اند.
مایکروسافت خواستار کلیدهای خاموش اضطراری و گزارش اجباری رخدادهای هوش مصنوعی است
اسمیت گفت توسعه‌دهندگان فناوری باید ملزم شوند کنترل‌های اضطراری ایجاد کنند که بتواند سامانه‌های هوش مصنوعی را در صورت عبور از محدوده عملکرد مورد انتظار متوقف کند. پیشنهادهای او همچنین شامل اطلاع‌رسانی به قربانیان در صورت به خطر افتادن سامانه‌هایشان توسط عامل‌های هوش مصنوعی و الزام شرکت‌ها به ثبت رخدادهای جدی ایمنی است.
بر اساس گزارش رویترز از این مصاحبه، اسمیت نظارت بر هوش مصنوعی را با استانداردهای ایمنی موجود برای محصولات مصرفی مقایسه کرد و گفت کالاهای معمولی خانگی در مقایسه با فناوری‌های پیشرفته هوش مصنوعی، تحت بازرسی‌های نظام‌مندتری قرار می‌گیرند.
موضع مایکروسافت فراتر از تعهدات داوطلبانه توسعه‌دهندگان است. اسمیت از آزمایش مستقل سامانه‌های قدرتمند هوش مصنوعی پیش از عرضه حمایت می‌کند و معتقد است مؤسسه امنیت هوش مصنوعی بریتانیا می‌تواند نقشی پیشرو در ارزیابی‌های بین‌المللی ایمنی داشته باشد.
این پیشنهاد پس از تلاش‌های قبلی در صنعت مطرح شده است؛ از جمله کلید خاموش اضطراری هوش مصنوعی انویدیا که برای جداسازی عامل‌های خودکار در زمانی طراحی شده است که رفتار آن‌ها از محدودیت‌های تأییدشده فراتر می‌رود.
مدل کلود آنتروپیک یک گزارش جعلی قتل به پلیس ارسال کرد
بحث درباره مقررات پس از آن اهمیت بیشتری یافت که آنتروپیک اعلام کرد مدل Claude Haiku 4.5 در جریان یک ارزیابی خودکار در ۱۸ ژوئیه، از طریق وب‌سایت مربوط به پرونده‌های قتل حل‌نشده در فیلادلفیا، یک گزارش جعلی ارسال کرده است.
طبق تحقیق آنتروپیک در ۹ اکتبر، این مدل در حال انجام وظایف نمونه روی وب‌سایت‌هایی بود که به‌صورت تصادفی انتخاب شده بودند و در این روند با فرم ارسال اطلاعات پلیس مواجه شد. دستورهای داده‌شده به مدل، انجام برخی فعالیت‌ها را ممنوع کرده بودند اما به‌طور مشخص ارسال فرم را منع نمی‌کردند.
کلود پس از آن اطلاعات ساختگی‌ای ارسال کرد که نشان می‌داد ممکن است شاهد فردی مرتبط با یک پرونده قتل حل‌نشده بوده باشد.
این ارسال به‌عنوان هرزنامه طبقه‌بندی شد و هرگز به مأموران تحقیق منتقل نشد. آنتروپیک در ۲۸ سپتامبر این رخداد را کشف کرد و در ماه اکتبر پلیس فیلادلفیا را در جریان گذاشت؛ بنابراین این رفتار به مدت ۷۲ روز شناسایی نشده بود.
پلیس فیلادلفیا تأیید کرد که هیچ‌یک از سامانه‌های این اداره مورد نفوذ قرار نگرفته‌اند. با این حال، این نهاد از تأخیر در اطلاع‌رسانی انتقاد کرد و خواستار ایجاد تدابیر حفاظتی قوی‌تر برای جلوگیری از ارسال اطلاعات جعلی شد.
بحث ایمنی هوش مصنوعی به سمت مسئولیت‌پذیری قانونی پیش می‌رود
آنتروپیک پس از این رخداد، دسترسی مستقیم به اینترنت را در ارزیابی‌های داخلی محدود کرده و سامانه‌های نظارتی بیشتری برای شناسایی اقدامات غیرمجاز مدل‌ها معرفی کرده است. گزارش این شرکت همچنین به موارد دیگری از ارسال ناخواسته فرم‌ها و تلاش برای دور زدن محدودیت‌های وب‌سایت‌ها اشاره کرده است.
این افشاگری‌ها ادامه هشدارهای پیشین آنتروپیک درباره ایمنی است و هم‌زمان پرسش‌هایی را درباره اینکه در صورت آسیب‌رسانی یک سامانه خودکار، چه کسی مسئولیت آن را بر عهده خواهد داشت، مطرح می‌کند.
این بحث همچنین بازتاب‌دهنده نگرانی‌های پالانتیر درباره مسئولیت حقوقی و احتمال مواجهه توسعه‌دهندگان هوش مصنوعی با پیامدهای قانونی است.