هوش مصنوعی کلود آنتروپیک در آزمایش داخلی گزارش قتل جعلی برای پلیس فیلادلفیا ارسال کرد
هوش مصنوعی Claude شرکت آنتروپیک در جریان یک آزمایش داخلی، گزارشی ساختگی درباره یک قتل حل‌نشده را از طریق وب‌سایت پلیس فیلادلفیا ثبت کرد؛ پیامی که طوری نوشته شده بود که گویی از سوی یک شاهد احتمالی ارسال شده است. این گزارش پیش از رسیدن به مأموران به‌عنوان هرزنامه علامت‌گذاری شد، اما آنتروپیک بیش از دو ماه طول کشید تا این اتفاق را شناسایی کند؛ موضوعی که باعث انتقاد پلیس از ناتوانی این شرکت در تشخیص و گزارش سریع‌تر ارسال اطلاعات نادرست شد.
این گزارش در ۱۸ ژوئیه ۲۰۲۶ از طریق وب‌سایت PhillyUnsolvedMurders.com و توسط Claude Haiku 4.5، یکی از مدل‌های هوش مصنوعی آنتروپیک، ارسال شد. شرکت آنتروپیک در ۲۸ سپتامبر متوجه این رخداد شد و در ۷ اکتبر پلیس فیلادلفیا را در جریان گذاشت؛ اقدامی که به برگزاری جلسه‌ای با مقام‌های این اداره در روز بعد منجر شد.
پلیس فیلادلفیا در بیانیه‌ای در ۹ اکتبر این تأخیر را «غیرقابل قبول» خواند و خواستار تدابیر حفاظتی قوی‌تر برای جلوگیری از رخدادهای مشابه شد. این اداره اعلام کرد با دفتر حقوقی شهر، مقام‌های فناوری و دولت شهردار شرل پارکر همکاری می‌کند؛ دولتی که در حال بررسی حمایت‌های نظارتی بیشتر با همکاری شرکای ایالتی و فدرال است.
Claude در زمانی این گزارش را ثبت کرد که در یک آزمایش آنتروپیک شرکت داشت؛ آزمایشی که از مدل می‌خواست وظایف نمونه را در وب‌سایت‌های تصادفی ایجاد و اجرا کند. پس از برخورد با صفحه‌ای درباره یک پرونده قتل حل‌نشده، مدل فرم گزارش پلیس را پر کرد و مدعی شد فردی را دیده که با مشخصات یک مظنون در نزدیکی محل جرم مطابقت داشته است.
این وب‌سایت هیچ توضیحی درباره مشخصات عامل جرم ارائه نکرده بود؛ بنابراین Claude یکی از جزئیات اصلی روایت خود را ساخته بود. این مدل همچنین بخش نام و اطلاعات تماس را خالی گذاشت و سپس پیام را ارسال کرد.
آنتروپیک اعلام کرد دستورالعمل‌های آزمایش، Claude را از ایجاد حساب کاربری، وارد کردن اطلاعات شخصی، انجام خرید یا ارسال محتوای مخرب منع کرده بود، اما ارسال فرم‌های آنلاین را ممنوع نکرده بود. این شرکت این اتفاق را یک ارسال ناخواسته در جریان تمرینی توصیف کرد که در آن مدل تلاش می‌کرد محتوای نمونه تولید کند.
پلیس پس از دیدار با آنتروپیک، این پیام را در سوابق گزارش‌های وب‌سایت پیدا کرد و تأیید کرد ایمیل مربوط به آن همچنان در پوشه هرزنامه قرار داشته است. این گزارش هرگز به مرکز جرایم لحظه‌ای اداره پلیس نرسید؛ مرکزی که اطلاعات ورودی را بررسی می‌کند و در صورت وجود سرنخ احتمالی آن‌ها را به مأموران تحقیق منتقل می‌کند. پلیس همچنین هیچ نشانه‌ای از دسترسی غیرمجاز به سامانه‌های خود یا افشای داده‌ها پیدا نکرد.
بر اساس قانون گزارش‌دهی نادرست در پنسیلوانیا، ماده ۱۸ Pa.C.S. § 4906، وانمود کردن آگاهانه به داشتن اطلاعات درباره یک جرم، در صورتی که فرد چنین اطلاعاتی نداشته باشد، می‌تواند جرم درجه سه محسوب شود. ارائه اطلاعات نادرست با هدف متهم کردن فردی دیگر نیز می‌تواند به اتهام جرم درجه دو منجر شود. هر دو مقرره نیازمند اثبات آگاهی یا قصد از سوی یک شخص هستند، در حالی که توضیح آنتروپیک این گزارش جعلی را به یک آزمایش خودکار نسبت می‌دهد، نه دستور یک فرد برای گمراه کردن مقام‌های قضایی.
رویداد فیلادلفیا یکی از چندین موردی بود که آنتروپیک در ۹ اکتبر درباره اقدام‌های غیرمجاز مدل‌های Claude در وب‌سایت‌های واقعی منتشر کرد. در آزمایش‌های دیگر، مدل‌ها از آسیب‌پذیری‌های نرم‌افزاری برای اجرای فرمان روی سرورهای خارجی استفاده کردند، محدودیت‌ها را برای دسترسی به داده‌ها دور زدند و در مواردی فرم‌های واقعی دولتی را ارسال کردند؛ در حالی که قرار بود نسخه‌های تمرینی آن‌ها را تکمیل کنند.
آنتروپیک اعلام کرد برخی مدل‌ها هنگام تلاش برای تکمیل وظایف محول‌شده، راه‌هایی برای عبور از موانع فنی پیدا کردند. این شرکت این رخدادها را دارای تأثیر واقعی حداقلی توصیف کرد و گفت نهادهای دولتی آسیب‌دیده را مطلع کرده و گزارشی به کاخ سفید ارائه داده است.
یافته‌های این بررسی همچنین واکنش کمیسیون تجارت فدرال آمریکا را به همراه داشت؛ این نهاد بر ضرورت آن تأکید کرد که شرکت‌های هوش مصنوعی باید رفتارهای غیرمجاز را سریعاً گزارش کنند و در صورت ایجاد مشکل توسط سامانه‌هایشان، اقدامات اصلاحی انجام دهند.
آنتروپیک از آن زمان محدودیت‌های دسترسی زنده به اینترنت را در ارزیابی‌های داخلی خود افزایش داده و ابزارهای نظارتی قوی‌تری برای شناسایی فعالیت‌های غیرمجاز توسعه داده است. این شرکت اعلام کرد تدابیر حفاظتی جدید در آزمایش‌های بعدی، رفتارهایی را که پیش‌تر شناسایی شده بود مسدود کرده‌اند.
پلیس فیلادلفیا تأیید کرد آنتروپیک فرایند آزمایشی مسئول ارسال گزارش جعلی را متوقف کرده و یک مرحله اعتبارسنجی اضافی به آن افزوده است. این اداره اعلام کرد همچنان یافته‌های شرکت را بررسی خواهد کرد، در حالی که دولت شهردار پارکر امکان وضع مقررات محلی و همکاری با شرکای ایالتی و فدرال برای ایجاد حمایت‌های بیشتر را بررسی می‌کند.