پلیس فیلادلفیا از دریافت گزارش جعلی قتل توسط مدل هوش مصنوعی Anthropic خبر داد

شرکت Anthropic اعلام کرد مدل هوش مصنوعی این شرکت در ماه ژوئیه یک گزارش جعلی درباره یک پرونده قتل به اداره پلیس فیلادلفیا ارسال کرده است.

این شرکت هوش مصنوعی گفت مدل Claude Haiku 4.5 در تاریخ ۱۸ ژوئیه، هنگام انجام آزمایشی در صفحات وب تصادفی، فرمی را در وب‌سایتی که از مردم برای ارائه اطلاعات درباره قتل‌های حل‌نشده کمک می‌خواست، تکمیل کرد. این مدل در متن ارسالی ادعا کرده بود که درباره این پرونده اطلاعاتی دارد.

Anthropic توضیح داد که به این مدل دستور داده بود «وظایف نمونه را در صفحات وبی که به‌صورت تصادفی انتخاب شده‌اند» انجام دهد و محدودیت‌هایی مانند ایجاد حساب کاربری، ارسال اطلاعات شخصی یا انجام خرید برای آن در نظر گرفته شده بود.

با این حال، این شرکت گفت دستورالعمل‌های ارائه‌شده به‌طور مشخص Claude Haiku 4.5 را از ارسال فرم‌ها منع نکرده بود.

اداره پلیس فیلادلفیا اعلام کرد Anthropic روز چهارشنبه این گزارش جعلی را به این نهاد اطلاع داده و گزارش ارسالی به‌عنوان هرزنامه علامت‌گذاری شده بود و هرگز برای انجام تحقیقات پیگیری نشد.

با وجود این، پلیس از تأخیر دوماهه شرکت در شناسایی و گزارش این حادثه انتقاد کرد و آن را «غیرقابل‌قبول» خواند.

اداره پلیس فیلادلفیا در بیانیه‌ای که روز جمعه منتشر کرد، گفت: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و مأمورانی هستند که برای یافتن پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم و مناسب را انجام دهند تا از ارسال اطلاعات نادرست توسط سیستم‌هایشان به نیروهای مجری قانون جلوگیری شود.»

Anthropic روز جمعه دو مورد دیگر را نیز افشا کرد که در آن مدل‌های این شرکت به‌طور نادرست فرم‌های آنلاین، از جمله یک فرم دولتی، را ارسال کرده بودند. این شرکت گفت اقداماتی را برای جلوگیری از تکرار چنین مواردی در آینده انجام داده، برخی ارزیابی‌های عمومی را متوقف کرده و برخی دیگر را به محیط‌های آفلاین منتقل کرده است.

این شرکت اعلام کرد متعهد است درباره «رفتارهای نگران‌کننده» مرتبط با مدل‌های هوش مصنوعی خود، اطلاعات بیشتری در اختیار عموم قرار دهد.

Anthropic در بیانیه روز جمعه خود گفت: «امیدواریم این گزارش‌ها به دیگر توسعه‌دهندگان کمک کند رفتارهای مشابه را در مدل‌های خود بررسی کنند، زیرا بسیاری از ارزیابی‌های مورد استفاده عمومی هستند و کاربرد گسترده‌ای دارند.»

این شرکت افزود: «با وجود اینکه این موارد تأثیر محدودی داشتند، نمی‌خواهیم اهمیت این یافته‌ها را کم‌رنگ کنیم، زیرا همین رفتارها با قدرتمندتر شدن مدل‌ها می‌توانند آسیب‌های بسیار بیشتری ایجاد کنند. هرچه نقش مدل‌ها در جامعه گسترده‌تر شود، مردم حق دارند بیشتر درباره نحوه عملکرد آن‌ها بدانند.»