آنتروپیک می‌گوید مدل هوش مصنوعی این شرکت یک گزارش دروغین درباره پرونده قتل حل‌نشده به پلیس فیلادلفیا ارسال کرده است
شرکت پژوهشی هوش مصنوعی آنتروپیک اعلام کرد یکی از مدل‌های این شرکت گزارشی جعلی درباره یک قتل حل‌نشده ایجاد کرده و آن را به پلیس فیلادلفیا ارسال کرده است. این شرکت هشدار داد این رویداد نگرانی‌هایی درباره «رفتارهای» غیرمنتظره فناوری‌های پیشرفته ایجاد می‌کند؛ رفتارهایی که با قدرتمندتر شدن مدل‌ها می‌توانند آسیب‌های بسیار بیشتری به همراه داشته باشند.
اداره پلیس فیلادلفیا روز سه‌شنبه در بیانیه‌ای اعلام کرد این مدل هوش مصنوعی در تاریخ ۱۸ ژوئیه با وب‌سایت PhillyUnsolvedMurders.com تماس گرفته و یک «گزارش نادرست درباره قتل» ثبت کرده است.
با این حال، پلیس گفت این گزارش به‌عنوان هرزنامه علامت‌گذاری شد و هرگز برای بررسی در اختیار بازرسان قرار نگرفت. این اداره تأکید کرد همه گزارش‌ها پیش از رسیدن به میز کار کارآگاهان باید توسط انسان‌ها بررسی و ارزیابی شوند.
پلیس در بیانیه خود گفت: «فرآیند معمول اداره برای بررسی گزارش‌های جرائم، نیازمند بازبینی و ارزیابی انسانی پیش از ارسال هر گزارشی برای پیگیری‌های تحقیقاتی است.»
در ادامه این بیانیه آمده است: «صرف‌نظر از اینکه چه کسی اطلاعات را ارائه می‌کند یا اطلاعات چگونه به اداره می‌رسد، یک گزارش تنها سرنخی برای ارزیابی است، نه یک واقعیت اثبات‌شده. بازرسان اعتبار آن را بررسی کرده و به دنبال شواهد تأییدکننده می‌گردند. ارسال خودکار یک گزارش این فرآیند را دور نمی‌زند.»
بر اساس بیانیه آنتروپیک، مدل Claude Haiku 4.5 برای «ایجاد و انجام نمونه وظایف روی صفحات وبی که به‌صورت تصادفی انتخاب شده بودند» مورد استفاده قرار گرفته بود.
آنتروپیک گفت در یکی از اجراهای این مدل در ۱۸ ژوئیه، کلود به صفحه‌ای درباره یک قتل حل‌نشده رسید و سپس وارد صفحه‌ای شد که شامل فرم ثبت گزارش برای یک اداره پلیس بود.
کلود در این فرم چنین متنی وارد کرد: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. به یاد دارم فردی مطابق با این توصیف را در آن بازه زمانی در محدوده [نام خیابان درج‌شده در صفحه] دیده‌ام. لطفاً اگر این اطلاعات مرتبط است با من تماس بگیرید.»
آنتروپیک تأکید کرد اگرچه در این مورد آسیبی ایجاد نشد، اما این نوع اقدامات ناخواسته مدل‌ها را جدی می‌گیرد.
این شرکت گفت: «اگرچه این مورد تأثیر حداقلی داشت، نمی‌خواهیم اهمیت یافته‌ها را کم‌رنگ کنیم، زیرا همین رفتارها با قدرتمندتر شدن مدل‌ها می‌توانند آسیب بسیار بیشتری ایجاد کنند.»
افشای این مورد از سوی آنتروپیک تنها نمونه‌ای از اقدامات اخیر عامل‌های هوش مصنوعی شرکت‌های مختلف است که توسط اپراتورهای انسانی پیش‌بینی یا قصد نشده بود.
آنتروپیک، شرکت بزرگ هوش مصنوعی مستقر در سان‌فرانسیسکو، یک شرکت خصوصی است که گام‌های اولیه‌ای را برداشته که می‌تواند به یکی از بزرگ‌ترین عرضه‌های اولیه سهام در تاریخ وال‌استریت منجر شود.