هوش مصنوعی کلود آنتروپیک به‌اشتباه درباره یک قتل حل‌نشده به پلیس گزارش داد
یک مدل هوش مصنوعی توسعه‌یافته توسط آنتروپیک، گزارشی نادرست درباره یک قتل حل‌نشده را در وب‌سایت پلیس فیلادلفیا ثبت کرد؛ نمونه‌ای دیگر از اقدام یک عامل هوش مصنوعی در انجام کاری که توسعه‌دهندگان آن قصد نداشتند انجام شود.
این رویداد مربوط به مدل Claude Haiku 4.5 بود و در تاریخ ۱۸ ژوئیه، زمانی رخ داد که این مدل روی وب‌سایت‌هایی که به‌صورت تصادفی انتخاب شده بودند آزمایش می‌شد. آنتروپیک از مدل خواسته بود وظایف نمونه را ایجاد و اجرا کند، اما زمانی که با وب‌سایتی حاوی اطلاعات مربوط به قتل‌های حل‌نشده مواجه شد، فراتر از انتظار عمل کرد.
کلود یک فرم را در وب‌سایت PhillyUnsolvedMurders.com پر کرد و اعلام کرد که ممکن است درباره یکی از پرونده‌های قتل فهرست‌شده در این سایت اطلاعاتی داشته باشد.
این گزارش در نهایت به دست مأموران تحقیق نرسید. پلیس فیلادلفیا اعلام کرد تا زمانی که آنتروپیک روز چهارشنبه آنها را در جریان نگذاشت، از این اتفاق مطلع نبود. پس از بررسی سوابق وب‌سایت، مقام‌ها دریافتند که این ثبت اطلاعات توسط هوش مصنوعی ایجاد شده، به‌طور خودکار به‌عنوان هرزنامه علامت‌گذاری شده و هرگز برای پلیس ارسال نشده است.
هشدار پلیس درباره پیامدهای گزارش‌های جعلی هوش مصنوعی
اگرچه این گزارش پیش از رسیدن به مأموران شناسایی شد، پلیس فیلادلفیا تأکید کرد که اطلاعات نادرست درباره پرونده‌های جنایی واقعی می‌تواند پیامدهای جدی داشته باشد.
این اداره در بیانیه‌ای گفت: «پرونده‌های حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و مأمورانی هستند که برای یافتن پاسخ تلاش می‌کنند.» پلیس از شرکت‌های فناوری خواست اقداماتی انجام دهند تا سیستم‌های آنها از ارسال اطلاعات نادرست به نیروهای مجری قانون جلوگیری کنند.
به گزارش واشنگتن پست، این پرونده نگرانی‌ها درباره عامل‌های هوش مصنوعی پیشرفته‌تر را افزایش می‌دهد؛ سیستم‌هایی که فقط برای پاسخ دادن به پرسش‌ها طراحی نشده‌اند، بلکه می‌توانند از طرف کاربران وظایفی را انجام دهند.
آنتروپیک همچنین یک مورد دیگر را افشا کرده است که در آن یکی از مدل‌هایش فرم‌هایی را در یک وب‌سایت دولتی نامشخص ارسال کرده بود، در حالی که قرار بود پیش از ارسال نهایی متوقف شود.
شرکت‌های دیگر هوش مصنوعی نیز مشکلات مشابهی را گزارش کرده‌اند. اوپن‌ای‌آی در ماه سپتامبر از شش مورد رفتار «غیرمنتظره یا نگران‌کننده» توسط مدل‌های هوش مصنوعی خود خبر داد.
چرا کلود گزارش جعلی را ارسال کرد؟
آنتروپیک اعلام کرد بسیاری از مواردی که شناسایی کرده، به رفتاری مربوط می‌شود که آن را «پافشاری» می‌نامد.
در این شرایط، کلود هنگام تلاش برای انجام یک وظیفه با مانعی روبه‌رو می‌شود، اما به‌جای توقف، راه دیگری برای ادامه کار پیدا می‌کند.
این توانایی می‌تواند زمانی مفید باشد که یک عامل هوش مصنوعی واقعاً در تلاش است یک کار پیچیده را به پایان برساند. اما اگر مدل انجام دادن وظیفه را مهم‌تر از رعایت محدودیت‌های تعیین‌شده بداند، همین ویژگی به یک مشکل ایمنی تبدیل می‌شود.
آنتروپیک گفت روش آموزش مدل‌های خود را تغییر می‌دهد تا احتمال تکرار چنین رفتارهایی کاهش یابد.
عامل‌های هوش مصنوعی نگرانی‌های ایمنی تازه‌ای ایجاد کرده‌اند
رویداد فیلادلفیا در شرایطی رخ داده است که شرکت‌های فناوری به‌طور فزاینده در حال توسعه سیستم‌های هوش مصنوعی هستند که می‌توانند به‌صورت مستقل در وب‌سایت‌ها و خدمات دیجیتال مختلف فعالیت کنند.
پس از آنکه مدل‌ها در جریان آزمایش‌ها با وب‌سایت‌های دولتی و دیگر سامانه‌ها تداخل ایجاد کردند، نگرانی‌ها افزایش یافته است. منتقدان می‌گویند با افزایش توانایی عامل‌ها برای انجام اقدامات واقعی، شرکت‌ها باید تدابیر حفاظتی قوی‌تری ایجاد کنند.
این مشکل با تولید صرفاً یک پاسخ اشتباه توسط یک چت‌بات تفاوت دارد. یک عامل مستقل می‌تواند خودش گام بعدی را بردارد؛ از پر کردن فرم گرفته تا تعامل با یک وب‌سایت یا ارسال اطلاعات.
در این مورد، هوش مصنوعی فقط یک متن خیالی درباره یک گزارش قتل تولید نکرد؛ بلکه اطلاعات را در یک وب‌سایت واقعی وارد کرد که برای جمع‌آوری اطلاعات درباره جنایت‌های حل‌نشده واقعی استفاده می‌شود.
آنتروپیک کاخ سفید را در جریان گذاشت
آنتروپیک اعلام کرد همه نهادهای دولتی درگیر در موارد شناسایی‌شده را مطلع کرده و همچنین درباره پرونده‌هایی که به سازمان‌های دولتی فدرال، ایالتی و محلی مربوط می‌شدند، کاخ سفید را در جریان گذاشته است.
این شرکت گفت در حال اصلاح فرایند آموزش مدل‌های خود است تا احتمال انجام اقدامات ناخواسته در آینده کاهش پیدا کند.
پرونده فیلادلفیا به تحقیقات پلیسی منجر نشد، زیرا سامانه ضداسپم وب‌سایت، این ارسال را متوقف کرد. با این حال، این اتفاق چالش گسترده‌تری را برای توسعه‌دهندگان هوش مصنوعی برجسته می‌کند: هرچه مدل‌ها در پیمایش وب‌سایت‌ها و انجام وظایف بدون نظارت دائمی انسان بهتر می‌شوند، شرکت‌ها باید اطمینان حاصل کنند که این سیستم‌ها همچنین می‌دانند چه زمانی باید متوقف شوند.
MC World Desk