مدل هوش مصنوعی Anthropic در پرونده قتل حل‌نشده فیلادلفیا اطلاعات جعلی ارسال کرد
یک مدل هوش مصنوعی شرکت Anthropic در یک پرونده قتل حل‌نشده، اطلاعاتی جعلی را در وب‌سایت اداره پلیس فیلادلفیا ارسال کرده است؛ موضوعی که این شرکت و مقام‌های پلیس تأیید کرده‌اند.
این شرکت فناوری در گزارشی مفصل که برای عموم منتشر شد، اعلام کرد مدل هوش مصنوعی Claude Haiku 4.5 در تابستان امسال یک گزارش ساختگی را در صفحه مربوط به قتل‌های حل‌نشده اداره پلیس فیلادلفیا ثبت کرده است.
اداره پلیس فیلادلفیا در بیانیه‌ای اعلام کرد: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و مأمورانی هستند که برای یافتن پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم را برای جلوگیری از ارسال اطلاعات نادرست سامانه‌هایشان به نیروهای انتظامی انجام دهند.»
مقام‌های پلیس گفتند این اتفاق ساعت ۲۳:۲۷ به وقت محلی در ۱۸ ژوئیه رخ داده و این گزارش ظاهراً از سوی «فردی ارسال شده بود که ممکن است اطلاعاتی درباره این پرونده داشته باشد».
بر اساس بیانیه Anthropic، مدل Claude Haiku 4.5 در فرم ارسال‌شده به وب‌سایت نوشته بود: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. به یاد دارم فردی مطابق با مشخصات ارائه‌شده را در همان بازه زمانی در نزدیکی [نام خیابان درج‌شده در صفحه] دیده‌ام. لطفاً اگر این اطلاعات مرتبط است، با من تماس بگیرید.»
اداره پلیس اعلام کرد این گزارش به‌عنوان هرزنامه علامت‌گذاری شد و هرگز برای کارآگاهان بخش قتل ارسال نشد. مقام‌ها توضیح ندادند چرا این گزارش وارد پوشه هرزنامه شده است.
پلیس فیلادلفیا گفت تا ۷ اکتبر از وجود این گزارش جعلی مطلع نشده بود؛ زمانی که Anthropic این حادثه را به اطلاع اداره رساند. طبق بیانیه پلیس، Anthropic این رخداد را در ۲۸ سپتامبر شناسایی کرده بود.
Anthropic همچنین اعلام کرد که کاخ سفید را نیز در جریان این حادثه قرار داده است.
در رویدادی جدا از این گزارش جعلی، رئیس‌جمهور دونالد ترامپ در سپتامبر رهبران بزرگ فناوری، از جمله داریو آمودی، مدیرعامل Anthropic، را برای نشستی گرد هم آورد؛ نشستی که در آن شرکت‌ها توافقی را امضا کردند که ترامپ آن را «قانون اساسی» برای خودنظارتی نامید. این اقدام پس از هشدارهای شدید رهبران حوزه هوش مصنوعی درباره خطرات این فناوری انجام شد. ترامپ گفت این توافق خودنظارتی «از نظر اخلاقی الزام‌آور» است.
در بیانیه پلیس فیلادلفیا آمده است: «شهر فیلادلفیا این حادثه را بسیار جدی می‌گیرد. شرکت باید تدابیر حفاظتی خود را تقویت کند تا از تأثیرگذاری رخدادهای مشابه بر سامانه‌های شهری بدون اطلاع شهر جلوگیری شود. تأخیر دوماهه در شناسایی و گزارش این حادثه به شهر غیرقابل قبول است.»
Anthropic در گزارشی که روز جمعه منتشر کرد، گفت Claude Haiku 4.5 هنگام «تولید و اجرای نمونه وظایف روی صفحات وبی که به‌صورت تصادفی انتخاب شده بودند» این گزارش نادرست را ایجاد کرده است.
این شرکت در گزارش خود نوشت: «به Claude دستور داده شده بود هرگز وارد حساب کاربری نشود، حساب جدید ایجاد نکند، اطلاعات شخصی وارد نکند، خرید انجام ندهد یا چیزی مخرب ارسال نکند؛ اما این دستورها ارسال فرم‌ها را ممنوع نکرده بودند.»
پلیس فیلادلفیا اعلام نکرد که این مدل هوش مصنوعی درباره کدام پرونده قتل حل‌نشده گزارش ارسال کرده است.
تأیید این رخداد از سوی Anthropic پس از آن انجام شد که این شرکت در اوایل سال جاری اعلام کرد بررسی گزارش‌های مربوط به امنیت سایبری، سه مورد را شناسایی کرده است که در آن‌ها یک مدل Claude از طریق اینترنت و در تعامل با یک محیط ارزیابی شخص ثالث، به سامانه‌های واقعی سه سازمان مختلف بدون مجوز دسترسی پیدا کرده است.
این گزارش جعلی پلیس تقریباً هم‌زمان با حادثه‌ای رخ داد که در آن گفته شد یک عامل هوش مصنوعی خودکار متعلق به OpenAI در جریان یک آزمایش امنیت سایبری، بدون مجوز به سامانه‌های رایانه‌ای شرکت نوپای هوش مصنوعی Hugging Face دسترسی پیدا کرده است. این حادثه باعث شد گروه غیرانتفاعی ایمنی هوش مصنوعی Legal Advocates for Safe Science & Technology (LASST) شکایتی علیه OpenAI ثبت کند.
درو پوزاتری، سخنگوی OpenAI، ماه گذشته به ABC News گفت: «Hugging Face یک حادثه جدی بود و ما در پاسخ به آن مجموعه‌ای از اقدامات را انجام داده‌ایم، اما این شکایت کاملاً بی‌اساس است.»
Anthropic در گزارش خود اهمیت این حادثه مربوط به گزارش جعلی پلیس را کم‌رنگ دانست و گفت این مورد و سایر رخدادهایی که شناسایی کرده است «تأثیر واقعی بسیار محدودی» داشته‌اند.
پلیس فیلادلفیا نیز اعلام کرد تدابیر حفاظتی موجود، تأثیر این حادثه را محدود کرده است.
این اداره گفت: «فرآیند معمول بررسی گزارش‌های جرائم در این اداره نیازمند بازبینی و ارزیابی انسانی پیش از ارسال هر گزارشی برای پیگیری‌های تحقیقاتی است.»
پلیس فیلادلفیا افزود: «صرف‌نظر از اینکه چه کسی اطلاعات را ارسال کرده یا این اطلاعات چگونه به اداره می‌رسد، یک گزارش فقط سرنخی برای ارزیابی است، نه یک واقعیت اثبات‌شده. مأموران اعتبار آن را بررسی و به دنبال شواهد تأییدکننده می‌گردند. ارسال خودکار اطلاعات این فرآیند را دور نمی‌زند.»
Anthropic اعلام کرد فرآیند آزمایشی که به این گزارش جعلی پلیس منجر شد را متوقف کرده و اقدامات بیشتری برای بهبود امنیت و سامانه‌های نظارتی خود انجام داده است تا بتواند «رفتارهایی از این دست را به‌طور قابل اعتماد شناسایی کند».
این شرکت مدل به‌روزشده خود با نام Claude Haiku 5.5 را در ۷ اکتبر، همان روزی که پلیس فیلادلفیا را از گزارش جعلی مطلع کرد، منتشر کرد.
حق نشر © ۲۰۲۶، ABC Audio. تمامی حقوق محفوظ است.