پلیس فیلادلفیا: هوش مصنوعی Anthropic یک گزارش ساختگی در سایت قتل‌های حل‌نشده شهر ثبت کرد
سامانه آنلاین پلیس فیلادلفیا برای دریافت سرنخ درباره پرونده‌های قتل حل‌نشده، در جریان یک آزمایش خودکار، گزارشی دریافت کرد که از هوش مصنوعی Claude شرکت Anthropic ارسال شده بود.
آنچه باید بدانید
به گفته پلیس، Anthropic اعلام کرده است که این گزارش جعلی ساعت ۱۱:۲۷ شب ۱۸ ژوئیه از طریق وب‌سایت PhillyUnsolvedMurders.com ارسال شده است. این شرکت تا ۲۸ سپتامبر متوجه آنچه رخ داده بود نشد.
Anthropic این خطا را در گزارشی با عنوان «بررسی اقدامات ناخواسته مدل در ارزیابی‌ها و استفاده داخلی ما» توضیح داده است؛ CBS News این موضوع را گزارش کرد. پلیس فیلادلفیا گفت Anthropic پیش از انتشار آن گزارش، این موضوع را به اداره پلیس اطلاع داده بود.
Anthropic اعلام کرد بخش‌های مربوط به نام و اطلاعات تماس خالی مانده بود. این شرکت گفت مدل Claude Haiku 4.5 پیام زیر را در فرم ثبت سرنخ قتل وارد کرده است: «ممکن است درباره این پرونده اطلاعاتی داشته باشم. به یاد دارم فردی با مشخصاتی مطابق با توضیحات را در آن بازه زمانی در حوالی [نام خیابانی که در صفحه درج شده بود] دیده‌ام. اگر این اطلاعات مرتبط است، لطفاً با من تماس بگیرید.»
سرگرد اریک گریپ، سخنگوی پلیس، گفت این ارسال به‌عنوان هرزنامه علامت‌گذاری شد و در نتیجه هرگز به واحدی که سرنخ‌های تحقیقاتی را بررسی می‌کند نرسید. او همچنین گفت هیچ نشانه‌ای از «دسترسی غیرمجاز به سامانه‌های پلیس یا به خطر افتادن داده‌های اداره» وجود نداشته است.
پیش‌زمینه بیشتر
این وب‌سایت برای دریافت گزارش‌های عمومی مرتبط با تحقیقات باز درباره قتل‌ها ایجاد شده است. یک گزارش جعلی مبهم یا ناقص می‌تواند اعتماد عمومی را تضعیف کند، بار کاری کارکنان را افزایش دهد و درباره نظارت بر ابزارهای دیجیتال گزارش‌دهی پرسش‌هایی ایجاد کند.
Anthropic گفت Claude در حال استفاده برای تولید و اجرای نمونه‌وظایف روی صفحات وبی بود که به‌صورت تصادفی انتخاب شده بودند. این شرکت افزود که به مدل گفته نشده بود وارد حسابی شود، حساب جدیدی ایجاد کند یا «چیز مخربی را ارسال کند»، اما هم‌زمان پذیرفت که دستورالعمل‌ها «ارسال فرم را منتفی نکرده بودند».
اداره پلیس گفت این اطلاعات را «در راستای شفافیت کامل و پاسخ‌گویی دولت» پیش از انتشار گزارش Anthropic منتشر کرده است.
هوش مصنوعی به‌طور فزاینده‌ای در سامانه‌های روزمره استفاده می‌شود؛ از جمله ابزارهایی که به متعادل‌سازی تقاضای برق یا پشتیبانی از سامانه‌های انرژی پاک‌تر کمک می‌کنند. با این حال، این فناوری به زیرساخت‌های پردازشی پرمصرف نیز متکی است که می‌توانند مصرف برق و آب، خطرات امنیتی و دیگر فشارها بر جوامع را افزایش دهند.
چه اقداماتی در حال انجام است؟
Anthropic اعلام کرد پس از کشف این مشکل، فرایند آزمایشی منجر به ارسال گزارش جعلی را متوقف کرده است.
پلیس فیلادلفیا گفت سامانه دریافت سرنخ همچنان برای گزارش‌های معتبر فعال است و این اداره به بررسی ارسال‌ها و پیگیری سرنخ‌های قابل‌اعتماد برای قربانیان و خانواده‌های آنها ادامه خواهد داد.
از کجا می‌توانم اطلاعات بیشتری کسب کنم؟
محتوای تولیدشده با هوش مصنوعی پیش‌تر نیز وارد حوزه اجرای قانون، سیاست و دیگر سامانه‌های عمومی شده است.
• در یوتا، یک گزارش پلیسی تولیدشده با هوش مصنوعی ادعاهای عجیب‌وغریبی درباره یک افسر مطرح کرد که موجب نگرانی شد.
• در فیلادلفیا، یک بولتن پلیس که به بیرون درز کرده بود، مطالب ضد مراکز داده هوش مصنوعی را بالقوه مصداق افراط‌گرایی تلقی کرد.
• در کالیفرنیا، مقام‌ها منشأ ایمیل‌های اعتراضی تولیدشده با هوش مصنوعی را به کارزاری علیه لوازم خانگی گازسوز نسبت دادند.
• در صنایع مختلف، دلایل تازه‌ای برای احتیاط در قبال هوش مصنوعی در زمینه ایمنی و آسیب همچنان مطرح می‌شود.
• یک متخصص گردآوری مواد غذایی هشدار داد که توصیه‌های هوش مصنوعی درباره قارچ‌ها می‌تواند پیامدهای بالقوه مرگباری داشته باشد.