هوش مصنوعی کلود انترپیک در پرونده قتل حل‌نشده فیلادلفیا گزارش جعلی ارسال کرد
نشان روی شانه یک مأمور پلیس فیلادلفیا، یکشنبه ۲۶ دسامبر ۲۰۲۱ در فیلادلفیا. (عکس از مت رورک/AP)
مت رورک/AP
نوشته: مِی اندرسون
خبرنگار تجاری آسوشیتدپرس
نیویورک — مقام‌های مسئول و شرکت انترپیک اعلام کردند یکی از مدل‌های هوش مصنوعی این شرکت، اطلاعاتی جعلی درباره یک پرونده قتل حل‌نشده را در وب‌سایت پلیس فیلادلفیا ثبت کرده است.
این اتفاق تازه‌ترین نمونه از رفتارهای پیش‌بینی‌نشده مدل‌های هوش مصنوعی و تلاش آن‌ها برای تعامل یا تغییر در وب‌سایت‌های دولتی و دیگر سامانه‌ها در جریان آزمایش‌هاست. انترپیک همچنین در گزارشی که روز جمعه منتشر کرد، از رویداد جداگانه‌ای خبر داد که در آن مدل هوش مصنوعی این شرکت فرم‌هایی را در یک وب‌سایت دولتی نامشخص ارسال کرده بود، در حالی که باید پیش از ثبت نهایی متوقف می‌شد.
این حادثه در فیلادلفیا در تاریخ ۱۸ ژوئیه رخ داد؛ زمانی که مدل کلود هایکو ۴.۵ برای انجام وظایف نمونه روی وب‌سایت‌هایی که به‌صورت تصادفی انتخاب شده بودند، مورد آزمایش قرار گرفت.
انترپیک اعلام کرد کلود فرمی را در وب‌سایت PhillyUnsolvedMurders.com تکمیل کرد و در آن نشان داد که ممکن است درباره یکی از قتل‌های حل‌نشده فهرست‌شده در این سایت اطلاعاتی داشته باشد.
پلیس فیلادلفیا در بیانیه‌ای اعلام کرد تا زمانی که انترپیک روز چهارشنبه آن‌ها را مطلع نکرده بود، از این حادثه بی‌خبر بودند. پس از بررسی، مأموران این ثبت را در سوابق ارسال گزارش‌های سایت پیدا کردند و تأیید کردند که پیام به‌عنوان هرزنامه علامت‌گذاری شده و هرگز برای پلیس ارسال نشده است.
نگرانی‌ها درباره دخالت عامل‌های هوش مصنوعی بدون کنترل کافی در امور مختلف، از وب‌سایت‌های دولت آمریکا گرفته تا داده‌های حوزه سلامت، افزایش یافته است. منتقدان خواستار مقررات بیشتری برای این فناوری شده‌اند.
در ماه سپتامبر، شرکت دیگری در حوزه هوش مصنوعی، اوپن‌ای‌آی، از شش مورد رفتار «غیرمنتظره یا نگران‌کننده» در مدل‌های هوش مصنوعی خود خبر داد.
اداره پلیس فیلادلفیا در بیانیه‌ای گفت: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و مأمورانی هستند که برای یافتن پاسخ تلاش می‌کنند. شرکت‌های فناوری باید همه اقدامات لازم و مناسب را انجام دهند تا از ارسال اطلاعات نادرست سامانه‌هایشان به نیروهای انتظامی جلوگیری شود.»
انترپیک در گزارش خود اعلام کرد بیشتر رفتارهای گزارش‌شده، نمونه‌ای از چیزی است که این شرکت آن را «پافشاری» می‌نامد؛ وضعیتی که در آن کلود، وقتی نمی‌تواند وظیفه محول‌شده را انجام دهد، به جای توقف، تلاش می‌کند محدودیت موجود را دور بزند.
این شرکت اعلام کرد آموزش مدل‌های خود را تغییر می‌دهد تا «احتمال بروز رفتارهای نادرست بیشتر کاهش یابد».
انترپیک همچنین گفت درباره مواردی که مربوط به سازمان‌های دولتی آمریکا در سطوح فدرال، ایالتی و محلی بوده‌اند، کاخ سفید را در جریان قرار داده و هر سازمان مرتبط را نیز مطلع کرده است.