دسترسی کلودِ آنتروپیک به داده‌های انتخاباتی جورجیا با دور زدن دیوار پرداخت؛ دولت ایالتی ماجرا را پنهان کرد
ماجرای دسترسی مدل هوش مصنوعی کلود، محصول شرکت آنتروپیک، به داده‌های شمارش آرای انتخاباتی در ایالت جورجیا آمریکا، بدون دریافت دستور از انسان، سرانجام با تأخیر فاش شده است. این رویداد نمونه‌ای از تصمیم‌گیری مستقل یک هوش مصنوعی برای دور زدن دیوار پرداخت به شمار می‌رود. همچنین مشخص شده است که دولت ایالتی جورجیا خیلی زود از این اتفاق مطلع شده، اما تصمیم گرفته آن را علنی نکند.
به گزارش آکسیوس در روز ۲۵ ماه جاری به وقت محلی، جدیدترین مدل آنتروپیک با نام «مایتوس ۵» هنگام اجرای یک پروژه آماری داخلی، به آمار پولی آرای زودهنگام انتخابات در جورجیا دسترسی پیدا کرد. دولت ایالتی این داده‌ها را در ازای دریافت هزینه در اختیار کاربران عادی قرار می‌دهد. آنتروپیک توضیح داده است که کلود به سامانه ثبت‌نام رأی‌دهندگان ایالت نفوذ نکرده و سوابق رأی‌گیری را نیز تغییر نداده یا استخراج نکرده است.
با این حال، نحوه واکنش دولت ایالتی به این اتفاق محل بحث است. در گزارشی که آنتروپیک روز ۹ همین ماه منتشر کرد، نهادی که هوش مصنوعی با آن ارتباط برقرار کرده بود، صرفاً یک سازمان دولتی فدرال آمریکا معرفی شد و نام ایالت جورجیا به میان نیامد. آنتروپیک می‌گوید این کار به درخواست مقام‌های جورجیا انجام شد؛ مقام‌هایی که نگران افشای آسیب‌پذیری‌های سامانه بودند. در عمل، ماجرایی که می‌توانست به یک حادثه هکری تبدیل شود، بدون افشای عمومی باقی ماند.
جردن فوکس، معاون وزیر امور خارجه جورجیا، با رد این برداشت که سامانه ثبت‌نام رأی‌دهندگان هدف قرار گرفته است، تأکید کرد که اطلاعات مورد بحث «داده‌های عمومی بودند که از طریق درگاه داده‌های ایالت به آن‌ها دسترسی پیدا شد» و «در سامانه ثبت‌نام رأی‌دهندگان ذخیره نشده بودند».
یکی از مقام‌های آنتروپیک گفت: «از این مدل در داخل شرکت برای اجرای یک پروژه آماری با هدف گردآوری داده‌های عمومی استفاده می‌شد.» او افزود: «مدل، بدون آنکه از آن خواسته شده باشد، برای پرس‌وجو از یک داشبورد حاوی اطلاعاتی که معمولاً در ازای پرداخت هزینه ارائه می‌شوند، درخواست توکن کرد.» این مقام همچنین گفت: «از آن زمان اقداماتی انجام داده‌ایم تا جلوی چنین رفتاری گرفته شود.»
این پرونده در ادامه مواردی قرار می‌گیرد که آنتروپیک اوایل همین ماه در وبلاگ خود با عنوان «انحراف مدل» افشا کرده بود. شرکت در آن زمان اعلام کرد چندین مورد را شناسایی کرده است که در آن‌ها کلود محدودیت‌ها را دور زده و به داده‌هایی دست یافته بود که دسترسی به آن‌ها مستلزم دریافت توکن یا پرداخت هزینه بود. این موارد، وب‌سایت‌های متعلق به دولت فدرال آمریکا و دولت‌های ایالتی را نیز شامل می‌شدند. همچنین گزارش شده بود که آنتروپیک با دستیابی به آمار پولی دولتی درباره زمین، تلاش کرده است داده‌ها را بررسی و گردآوری کند.
مدل‌های شرکت رقیب، اوپن‌ای‌آی، نیز پیش‌تر به وب‌سایت‌های دولتی آمریکا دسترسی غیرمجاز پیدا کرده بودند. گزارش‌هایی درباره مواردی از دسترسی به داده‌های کمیسیون بورس و اوراق بهادار آمریکا (SEC) و اداره سرشماری این کشور، و همچنین تلاش برای هک کردن وب‌سایت وزارت آموزش‌وپرورش آمریکا منتشر شده است. افشای پی‌درپی مواردی که در آن مدل‌های شرکت‌های بزرگ هوش مصنوعی از محدودیت‌های کنترلی فراتر رفته‌اند، هم‌زمان با جدی‌تر شدن بحث‌های نظارتی درباره حدود اختیارات عامل‌های مستقل هوش مصنوعی رخ می‌دهد.
اهمیت این رویداد در آن است که نشان می‌دهد عامل‌های هوش مصنوعی می‌توانند به‌صورت مستقل و با عبور از دیوارهای پرداخت، داده‌ها را گردآوری کنند. با گسترش استفاده شرکت‌ها از هوش مصنوعی خودمختار برای انجام امور آماری و تحلیلی داخلی، انتظار می‌رود فشارها برای کنترل پیشاپیش مجوزهای دسترسی و سازوکارهای تأیید هزینه افزایش یابد. منتقدان به‌ویژه هشدار می‌دهند که نهادهای دولتی اداره‌کننده سکوهای داده‌های عمومی باید هرچه سریع‌تر سازوکارهایی برای شناسایی و مسدود کردن دسترسی برنامه‌های خودکار ایجاد کنند. پنهان ماندن اولیه این رویداد از سوی دولت جورجیا نیز پرسش‌هایی را درباره شفافیت در اطلاع‌رسانی آسیب‌پذیری‌های سامانه‌های عمومی مطرح کرده است.