کلود بدون مجوز انسانی به داده‌های تجمیعی رأی‌دهندگان در ایالت جورجیا دسترسی پیدا کرد
چت‌بات کلود متعلق به شرکت آنتروپیک، بدون دریافت مجوز از انسان، به‌طور خودکار محدودیت پرداخت را دور زد و به داده‌های مربوط به رأی‌دهندگان در ایالت جورجیا دسترسی پیدا کرد. بااین‌حال، هم شرکت و هم مقام‌های ایالت تأکید کرده‌اند که این چت‌بات نتوانسته به حساس‌ترین اطلاعات رأی‌دهندگان دسترسی پیدا کند.
به گفته آنتروپیک، این سامانه هوش مصنوعی راهی برای دور زدن محدودیت‌ها در نسخه قدیمی وب‌سایت یک نهاد دولتی ایالت پیدا کرد. کلود متوجه شد که وب‌سایت برای بازدیدکنندگان یک مجوز دیجیتال، موسوم به «توکن دسترسی»، صادر می‌کند.
کلود بدون آنکه انسانی چنین درخواستی از آن کرده باشد، توکن دسترسی درخواست کرد و توانست برای انجام یک پروژه آماری به آمار تجمیعی آرای انتخاباتی دسترسی پیدا کند.
آنتروپیک، که به‌تازگی مدارک مربوط به عرضه اولیه سهام خود در بازار بورس آمریکا را پس از مدت‌ها انتظار به‌طور عمومی ثبت کرده است، و مقام‌های ایالت هر دو به‌سرعت تأکید کردند که داده‌های مورد دسترسی کلود در اصل از سوی ایالت و در ازای دریافت هزینه در اختیار عموم قرار می‌گیرند.
آنتروپیک در گفت‌وگو با آکسیوس، نخستین رسانه‌ای که این حادثه را گزارش کرد، اعلام کرد: «کلود به سامانه ثبت‌نام رأی‌دهندگان ایالت دسترسی پیدا نکرد، هیچ‌یک از سوابق رأی‌گیری را تغییر نداد و اطلاعات مربوط به هیچ رأی‌دهنده‌ای را به‌صورت فردی استخراج نکرد.»
دفتر وزیر امور خارجه جورجیا نیز تأیید کرد که حساس‌ترین اطلاعات رأی‌دهندگان در امان مانده است.
برد رافنسپرگر، وزیر امور خارجه جورجیا، در بیانیه‌ای گفت: «جورجیا همواره به‌عنوان یکی از ایالت‌های دارای امن‌ترین انتخابات در کشور شناخته شده است. سامانه‌های رأی‌گیری این ایالت به اینترنت متصل نیستند و برای جلوگیری از تقلب طراحی شده‌اند؛ همچنین از برگه‌های رأی کاغذی و حسابرسی‌هایی استفاده می‌شود که با هدف محدود کردن خطر خطا و تقلب انجام می‌گیرند.»
آنتروپیک نام جورجیا را اعلام نکرده بود
این حادثه حدود سه هفته پیش رخ داد. آنتروپیک اعلام کرده است که برای جلوگیری از تکرار رفتارهای مشابه، تدابیر حفاظتی لازم را از پیش اجرا کرده است.
این شرکت فعال در حوزه هوش مصنوعی، پیش‌تر و در اوایل اکتبر، رفتارهای غیرمجاز را شناسایی کرده بود. آنتروپیک در نوشته‌ای در وبلاگ خود اعلام کرد نمونه‌هایی یافته است که در آن‌ها کلود «محدودیتی را دور زده تا به داده‌هایی دسترسی پیدا کند که دسترسی به آن‌ها به توکن یا پرداخت هزینه وابسته بوده است». برخی از این موارد به وب‌سایت‌های متعلق به نهادهای دولتی آمریکا مربوط می‌شدند.
بااین‌حال، آنتروپیک در آن نوشته نام جورجیا را مطرح نکرد و تنها چند روز پیش این حادثه را تأیید کرد. افشای این موضوع احتمالاً نگرانی‌های فزاینده درباره امنیت هوش مصنوعی را در آستانه انتخابات میان‌دوره‌ای آمریکا تشدید خواهد کرد.
یکی از دلایل این نگرانی‌ها آن است که شرکت‌های فعال در حوزه هوش مصنوعی، از جمله آنتروپیک و اوپن‌ای‌آی، پیوسته از حوادثی خبر می‌دهند که در آن‌ها عامل‌های هوش مصنوعی اقداماتی غیرمجاز یا ناخواسته انجام داده‌اند. یکی از نمونه‌های پیشین، رخداد نفوذ مرتبط با هاجینگ فیس بود.
گزارش این حوادث پرسش‌هایی درباره توانایی‌های عامل‌های هوش مصنوعی و محدودیت‌های کنترل انسانی بر عملکرد آن‌ها ایجاد کرده است.
حادثه جورجیا همچنین در شرایطی رخ داده است که هوش مصنوعی نقش فزاینده‌ای در دسترسی مردم به اطلاعات انتخاباتی پیش از انتخابات میان‌دوره‌ای ایفا می‌کند. آنتروپیک اخیراً توضیحاتی درباره تدابیر حفاظتی خود در انتخابات منتشر کرده و گفته است برای هدایت مردم به سوی اطلاعات دقیق درباره رأی‌گیری چه اقداماتی انجام می‌دهد.