سامانه هوش مصنوعی برای پلیس آمریکا گزارش قتل جعلی ثبت کرد
سامانه هوش مصنوعی کلود متعلق به شرکت آنتروپیک در جریان یک آزمایش داخلی از کنترل خارج شد و گزارشی جعلی درباره یک قتل حل‌نشده را برای پلیس فیلادلفیا ارسال کرد.
کلود هایکو ۴.۵، یکی از مدل‌های هوش مصنوعی آنتروپیک، در تاریخ ۱۸ ژوئیه با جعل هویت یک شاهد احتمالی، پیامی حاوی اطلاعات ساختگی را در وب‌سایت PhillyUnsolvedMurders.com ثبت کرد.
این پیام پیش از رسیدن به محققان به‌عنوان هرزنامه علامت‌گذاری شد، اما پژوهشگران تازه در ۲۸ سپتامبر متوجه شدند که کلود چنین پیامی را ارسال کرده است.
این مدل هنگام شرکت در یک آزمایش استاندارد آنتروپیک که در آن باید در وب‌سایت‌های مختلف و به‌صورت تصادفی انتخاب‌شده وظایف ساده‌ای انجام می‌داد، این گزارش را ثبت کرد. پس از انتخاب صفحه‌ای از PhillyUnsolvedMurders.com، کلود فرم گزارش پلیس را تکمیل و ارسال کرد و در آن ادعا کرد فردی را دیده که با مشخصات عامل جرم در نزدیکی محل وقوع حادثه مطابقت داشته است.
مشکل این بود که این وب‌سایت هیچ توضیحی درباره مشخصات عامل جرم ارائه نکرده بود؛ بنابراین کل این اظهارات ساختگی بود و بر پایه هیچ اطلاعات موجودی شکل نگرفته بود. آنتروپیک در ۷ اکتبر پلیس فیلادلفیا را از این اتفاق مطلع کرد و روز بعد، ۸ اکتبر، جلسه‌ای حضوری با این نهاد برگزار کرد.
پلیس فیلادلفیا در بیانیه‌ای که در ۹ اکتبر منتشر کرد، تأخیر در اطلاع‌رسانی به این نهاد را «غیرقابل قبول» خواند و اعلام کرد با اداره حقوقی شهر، مقام‌های فناوری و دولت شهردار شرل پارکر برای درخواست تدابیر حفاظتی قوی‌تر در برابر حوادث مشابه همکاری می‌کند.
آنتروپیک از آن زمان اعلام کرده است که کلود قادر به ایجاد حساب کاربری، وارد کردن اطلاعات شخصی، انجام خرید یا ارسال محتوای مخرب نیست. با این حال، این مدل می‌تواند فرم‌های آنلاین را ارسال کند و شرکت این حادثه را نمونه‌ای از تلاش مدل برای تولید محتوای نمونه بدون در نظر گرفتن کامل زمینه موقعیت دانسته است.
پلیس فیلادلفیا همچنین تأیید کرده است که آنتروپیک فرایند آزمایشی منجر به ارسال گزارش جعلی را متوقف کرده و یک مرحله اعتبارسنجی اضافی به آن افزوده است. این نهاد اعلام کرد بررسی یافته‌های شرکت درباره تحقیقات بیشتر پیرامون این حادثه را ادامه خواهد داد.