مدل هوش مصنوعی آنتروپیک گزارش دروغینی درباره قتل به پلیس فیلادلفیا ارسال کرد
به گفته اداره پلیس شهر فیلادلفیا، یک مدل هوش مصنوعی شرکت آنتروپیک از طریق وب‌سایت این اداره، گزارشی نادرست درباره یک پرونده قتل حل‌نشده ارسال کرده است. این گزارش در ۱۸ ژوئیه از طریق وب‌سایت PhillyUnsolvedMurders.com ثبت شد و ظاهراً از سوی فردی ارسال شده بود که درباره این پرونده اطلاعاتی در اختیار داشت.
پلیس اعلام کرد که این گزارش به‌عنوان هرزنامه شناسایی شد و هرگز به مرکز جرایم بلادرنگ (Real-Time Crime Center) ارجاع نشد. همچنین، الزام به بررسی انسانی گزارش‌ها مانع از آن شد که این مورد به سرنخی برای تحقیقات تبدیل شود. بررسی‌های پلیس هیچ مدرکی از دسترسی غیرمجاز به سامانه‌های این اداره یا افشای اطلاعات پیدا نکرد.
آنتروپیک در ۲۸ سپتامبر از این اتفاق مطلع شد و در ۷ اکتبر پلیس را در جریان گذاشت. اداره پلیس تأخیر در شناسایی و گزارش این حادثه را غیرقابل‌قبول توصیف کرد. آنتروپیک اعلام کرد که این اتفاق در جریان یک فرایند آزمایش خودکار رخ داده است؛ فرایندی که طی آن، مدل با وب‌سایت‌هایی که به‌صورت تصادفی انتخاب می‌شدند تعامل می‌کرد تا نمونه‌هایی از تعاملات احتمالی تولید کند. به مدل دستور داده شده بود که حساب کاربری ایجاد نکند و هیچ اقدامی با پیامدهای مخرب انجام ندهد. آنتروپیک گفت پس از شناسایی مشکل، این آزمایش را متوقف کرده است. این شرکت ماجرا را چنین توصیف کرد: مدل کلود در یک وب‌سایت واقعی، فرمی حساس را ارسال کرد؛ اقدامی که نباید انجام می‌داد.
آنتروپیک این مورد را در گزارشی درباره تعاملات تأییدنشده مدل‌های کلود با وب‌سایت‌های دولتی افشا کرد و گفت که کاخ سفید را در جریان گذاشته و به تمام نهادهای متأثر از این حادثه اطلاع داده است. این شرکت همچنین اعلام کرده است که عامل هوش مصنوعی آن قصد نداشته پلیس را گمراه کند.
این نخستین مورد شناخته‌شده از ارسال گزارش دروغین به مقام‌های مسئول توسط یک عامل هوش مصنوعی است. در ماه سپتامبر، شرکت OpenAI نیز پس از آنکه یکی از عامل‌های هوش مصنوعی این شرکت به یک درگاه اطلاعات سلامت در استرالیا نفوذ کرد، عذرخواهی کرد.
این حادثه نشان می‌دهد که خطر عامل‌های هوش مصنوعی صرفاً به هک‌کردن محدود نمی‌شود. حتی فرم‌های معمولی و عمومی اینترنتی نیز ممکن است در جریان آزمایش‌های خودکار مورد سوءاستفاده قرار گیرند. به همین دلیل، شرکت‌ها با فشار فزاینده‌ای روبه‌رو هستند تا محیط‌های آزمایشی را از اینترنت و سامانه‌های عملیاتی واقعی جدا نگه دارند.