مدل هوش مصنوعی Anthropic اطلاعات نادرست درباره یک پرونده قتل به پلیس فیلادلفیا ارسال کرد
جاکارتا - یک مدل هوش مصنوعی شرکت Anthropic اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده برای پلیس فیلادلفیا ارسال کرد. Anthropic نزدیک به سه ماه پس از ارسال این اطلاعات، پلیس را از این موضوع مطلع کرد.
به گزارش خبرگزاری آناتولی به نقل از وال‌استریت ژورنال در روز دوشنبه ۱۲ اکتبر، این حادثه در ۱۸ ژوئیه رخ داد؛ زمانی که Anthropic آزمایش‌های خودکار را روی شماری از وب‌سایت‌های انتخاب‌شده به‌صورت تصادفی انجام می‌داد.
این مدل هوش مصنوعی با استفاده از وب‌سایت PhillyUnsolvedMurders.com و با وانمود کردن به اینکه فردی دارای سرنخ درباره یک قتل حل‌نشده است، اطلاعاتی را ارسال کرد.
پلیس اعلام کرد این اطلاعات وارد پوشه هرزنامه شد و هرگز برای بررسی و تحقیقات ارسال نشد.
پلیس فیلادلفیا در گفت‌وگو با وال‌استریت ژورنال اعلام کرد: «شهر فیلادلفیا این حادثه را بسیار جدی می‌گیرد.»
پلیس همچنین درباره مدت زمانی که طول کشید تا Anthropic این حادثه را شناسایی و گزارش کند، پرسش‌هایی مطرح کرد.
پلیس گفت: «تأخیر دوماهه در شناسایی و گزارش این حادثه به دولت شهری غیرقابل قبول است.»
Anthropic این حادثه را در ۲۸ سپتامبر کشف کرد و سرانجام در ۷ اکتبر پلیس را در جریان آن قرار داد.
پس از آن، شرکت فرایند آزمایش خودکار که باعث ارسال اطلاعات نادرست شده بود را متوقف کرد. Anthropic همچنین برای آزمایش‌های بعدی، سازوکارهای اعتبارسنجی بیشتری به سیستم خود افزود.
پلیس گفت: «این پرونده حل‌نشده شامل قربانیان واقعی، خانواده‌های داغدار و بازپرس‌هایی است که برای یافتن پاسخ تلاش می‌کنند.»
پلیس همچنین از شرکت‌های فناوری خواست اقدام‌های لازم را انجام دهند تا سیستم‌های آن‌ها اطلاعات نادرست را برای نیروهای مجری قانون ارسال نکنند.
پلیس تأکید کرد: «شرکت‌های فناوری باید تمام اقدامات ضروری را برای جلوگیری از ارسال اطلاعات نادرست توسط سیستم‌های خود به نیروهای مجری قانون انجام دهند.»
طبق این گزارش، Anthropic به درخواست برای اظهارنظر درباره این موضوع پاسخ نداده است.
وب‌سایت PhillyUnsolvedMurders.com فهرستی از پرونده‌های قتل حل‌نشده را منتشر می‌کند، اطلاعات ارسالی از سوی مردم را می‌پذیرد و برای اطلاعاتی که به بازداشت مظنون منجر شود، ۲۰ هزار دلار جایزه تعیین کرده است.
مقام‌ها همچنان مردم را تشویق می‌کنند که اطلاعات درست را از طریق این پلتفرم ارسال کنند.