پلیس پس از دریافت گزارش جعلی قتل از هوش مصنوعی کلود آنتروپیک، هشدار داد
خطوط تلفنی دریافت گزارش‌های مردمی پلیس همیشه تماس‌های بی‌اساس خود را داشته‌اند. ظاهراً اکنون باید با عامل‌های هوش مصنوعی بی‌اساس‌گو نیز روبه‌رو شوند.
عامل‌های هوش مصنوعی پیش از این در مواردی مانند هک شرکت‌های نرم‌افزاری، نفوذ به یک سامانه دولتی استرالیا و تلاش برای هک یک وب‌سایت دولتی کانادا مشاهده شده‌اند. اکنون کلود شرکت آنتروپیک نیز با یک گزارش ساختگی قتل به این فهرست اضافه شده است.
شرکت آنتروپیک اعلام کرد مدل Haiku 4.5 از کلود، یک گزارش جعلی درباره یک پرونده قتل حل‌نشده در فیلادلفیا را از طریق فرم عمومی آنلاین گزارش‌های مردمی پلیس ثبت کرده است. این گزارش به‌عنوان هرزنامه علامت‌گذاری شد و هرگز به دست بازرسان نرسید.
این اتفاق تازه در مجموعه موارد «این دکمه چه کاری انجام می‌دهد؟» هوش مصنوعی، در جریان یک آزمایش داخلی رخ داد که در آن صفحات وب به‌صورت تصادفی انتخاب می‌شدند.
بر اساس اعلام پلیس، کلود در ساعت ۲۳:۲۷ روز ۱۸ ژوئیه از طریق وب‌سایت PhillyUnsolvedMurders.com این گزارش را ارسال کرد. گزارش‌های ثبت‌شده در این وب‌سایت می‌توانند در تحقیقات واقعی قتل مورد استفاده قرار گیرند. یک روایت ساختگی ممکن است باعث شود مأموران به دنبال حادثه‌ای بروند که هرگز رخ نداده است.
متنی که کلود هائیکو ارسال کرد چنین بود:
«ممکن است درباره این پرونده اطلاعاتی داشته باشم. به یاد می‌آورم فردی مطابق با این توصیف را در آن بازه زمانی در محدوده [نام خیابان درج‌شده در صفحه] دیده‌ام. لطفاً اگر این اطلاعات مرتبط است با من تماس بگیرید.»
این عامل هیچ توصیفی از فردی که واقعاً ندیده بود ارائه نکرد. همچنین پیش از فشردن دکمه ارسال، هیچ اطلاعات تماسی وارد نکرد.
هائیکو این کار را به‌عنوان بخشی از آزمایش‌های داخلی آنتروپیک انجام داد. این مدل باید با دسترسی زنده به اینترنت، وظایف نمونه‌ای را در صفحات وب تصادفی ابداع و اجرا می‌کرد تا شرکت بتواند رفتار آن را بررسی کند.
برای این آزمایش فهرستی از اقدامات ممنوع نیز وجود داشت. آنتروپیک به عامل‌ها گفته بود وارد حساب‌ها نشوند، حساب جدید نسازند، اطلاعات شخصی وارد نکنند، خرید انجام ندهند یا «هیچ اقدام مخربی» ثبت نکنند. با این حال، دستورالعمل‌ها به‌طور مشخص ارسال فرم‌ها را ممنوع نکرده بودند.
سامانه فیلتر هرزنامه این گزارش را شناسایی کرد. پلیس فیلادلفیا اعلام کرد این گزارش هرگز به مرکز جرایم لحظه‌ای این اداره برای بررسی یا توزیع میان بازرسان نرسید. این اداره توضیح نداد که چرا گزارش به‌عنوان هرزنامه علامت‌گذاری شده است.
تمام گزارش‌های مردمی پیش از ارسال برای بازرسان، تحت بررسی انسانی قرار می‌گیرند. پلیس گفت این سازوکار از اثرگذاری این حادثه کاست، اما از جدیت موضوع کم نمی‌کند؛ زیرا یک سامانه هوش مصنوعی اطلاعات ساختگی را طوری ارائه کرده بود که گویی از سوی فردی دارای اطلاعات درباره یک جرم ارسال شده است.
این اداره در بیانیه‌ای خود نوشت:
«پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازرسانی هستند که برای یافتن پاسخ تلاش می‌کنند.»
طبق اعلام پلیس، آنتروپیک این گزارش جعلی را در ۲۸ سپتامبر کشف کرد و در ۷ اکتبر به پلیس اطلاع داد. پلیس این تأخیر دوماهه در شناسایی و گزارش حادثه را «غیرقابل قبول» خواند. این اداره افزود که با اداره حقوقی شهر، دفتر نوآوری و فناوری و تیم اجرایی شهردار در حال هماهنگی است.
آنتروپیک در گزارش خود تأثیر واقعی این رخدادها را حداقلی توصیف کرد. این شرکت اکنون دسترسی زنده به اینترنت را در تمام ارزیابی‌های داخلی خود غیرفعال کرده است تا زمانی که اطمینان پیدا کند سازوکارهای حفاظتی آن می‌توانند این رفتار را به‌طور قابل اعتماد شناسایی کنند.
این شرکت گفت متن ثبت‌شده نشان می‌دهد هائیکو احتمالاً تنها تلاش می‌کرد محتوای نمونه تولید کند و قصد فریب پلیس را نداشته است. با این حال، آنتروپیک پذیرفت که نمی‌توان کاملاً به توضیح یک مدل درباره فرایند استدلال خودش اعتماد کرد. بنابراین این توضیح، هرچقدر هم اطمینان‌بخش به نظر برسد، همچنان قطعی نیست.
استفاده از فهرست‌های مجاز می‌تواند مرز دقیق‌تری برای چنین آزمایش‌هایی ایجاد کند و عامل‌ها را به وب‌سایت‌ها و اقدام‌های تأییدشده محدود کند. یک فرم واقعی گزارش جرم برای پلیس، به‌سختی می‌تواند محل مناسبی برای آزمایش باشد.
گزارش قتل تنها ارسال ناخواسته‌ای نبود که رخ داد.
آنتروپیک اشاره کرد که وب‌سایت‌های دولتی فدرال، ایالتی و محلی نیز توسط کلود بازدید شده‌اند و این مدل بارها تلاش کرده فرم‌های مختلف را تکمیل کند. اگرچه آنتروپیک جزئیات بیشتری ارائه نکرد، یک مقام وزارت خارجه گفت این وزارتخانه ۲۰ درخواست ویزا از یک مدل آزمایشی دریافت کرده است؛ ۱۹ مورد در اوت و یک مورد در مه. این مقام افزود هیچ‌یک از آن درخواست‌ها پردازش نشدند.
وقتی یک هوش مصنوعی درباره اینکه بیانسه با چه کسی ازدواج کرده است اطلاعات جعلی ارائه می‌دهد، ممکن است فقط آزاردهنده باشد و نهایتاً نتیجه یک مسابقه اطلاعات عمومی را تغییر دهد.
اما وقتی پای اطلاعاتی در میان است که می‌تواند بر اقدامات نیروهای انتظامی یا سیاست‌گذاری عمومی اثر بگذارد، پیامدها بسیار جدی‌تر می‌شوند.
در ماه اوت، رئیس مرکز هوش مصنوعی پلیس بریتانیا به نیروهای انتظامی این کشور هشدار داد برنامه‌های استفاده از هوش مصنوعی در امور قضایی کیفری را متوقف کنند. این هشدار پس از آن صادر شد که پلیس وست میدلندز بریتانیا به اعضای پارلمان درباره شواهد جعلی مربوط به یک مسابقه فوتبال ساختگی عذرخواهی کرد. این خطا ناشی از استفاده از مایکروسافت کوپایلوت بود.
آخرین حادثه آنتروپیک نگرانی دیگری را مطرح می‌کند: عامل‌های هوش مصنوعی می‌توانند اطلاعات ساختگی را خودشان وارد سامانه‌های واقعی کنند. اگر فردی عمداً عامل‌های هوش مصنوعی را برای پر کردن خطوط گزارش پلیس با اطلاعات جعلی به کار بگیرد، چه اتفاقی خواهد افتاد؟
این بار، روایت جعلی در پوشه هرزنامه باقی ماند. اما افرادی که به این سامانه‌های گزارش‌دهی اعتماد می‌کنند، به سازوکارهای حفاظتی نیاز دارند که در صورت عبور گزارش بعدی نیز بتوانند از آن‌ها محافظت کنند.