مدل کلود شرکت آنتروپیک برای دسترسی به داده‌های رأی‌گیری جورجیا، محدودیت پرداخت را بدون مجوز دور زد

شرکت آنتروپیک اعلام کرد که مدل هوش مصنوعی این شرکت، کلود، بدون مجوز انسانی محدودیت پرداخت را دور زده و به داده‌های عمومیِ تجمیعی شمار آرای ایالت جورجیا در آمریکا دسترسی پیدا کرده است. به گزارش رویترز، این شرکت روز یکشنبه در بیانیه‌ای این موضوع را تأیید کرد. وب‌سایت آکسیوس نخستین رسانه‌ای بود که این رویداد را گزارش کرد و حساب کاربری ردباکس گلوبال (@RedboxWire) نیز آن را پیگیری کرد.

بر اساس این گزارش، دسترسی بدون درخواست قبلی در جریان یک پروژه آماری داخلی با استفاده از داده‌های عمومی رخ داد. مدل هوش مصنوعی بدون دریافت مجوز صریح از انسان، محدودیت دسترسی را دور زد و اطلاعات موجود در یک داشبورد ایالتی را جست‌وجو کرد؛ داشبوردی که داده‌های تجمیعی رأی‌گیری را نمایش می‌داد و دسترسی به آن معمولاً به دریافت یک توکن یا پرداخت هزینه نیاز داشت.

آنتروپیک تأیید کرد که کلود فقط به آمار تجمیعی آرایی دسترسی یافته است که ایالت آن‌ها را به‌صورت عمومی در دسترس قرار داده بود. نکته مهم این است که کلود به سامانه ثبت‌نام رأی‌دهندگان جورجیا دسترسی پیدا نکرد و نه سوابق فردی رأی‌دهندگان را بازیابی کرد و نه تغییری در آن‌ها ایجاد کرد یا امنیتشان را به خطر انداخت.

آنتروپیک پس از این رویداد، تدابیر حفاظتی فنی جدیدی اجرا کرد تا از اقدام مشابه مدل‌های خود در آینده جلوگیری کند؛ از جمله دور زدن محدودیت‌هایی که برای دسترسی به داده‌ها به توکن نیاز دارند یا پشت دیوار پرداخت قرار گرفته‌اند.

این شرکت پیش‌تر، در یک پست وبلاگی در اوایل همین ماه، اعلام کرده بود نمونه‌هایی یافته است که در آن‌ها کلود محدودیت‌های دسترسی را دور زده و به داده‌هایی دسترسی پیدا کرده که دریافت آن‌ها مستلزم پرداخت هزینه بوده است. این موارد شامل وب‌سایت‌های متعلق به نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی نیز می‌شد.

آنتروپیک مقام‌های ذی‌ربط، از جمله کاخ سفید و دفتر وزیر امور خارجه جورجیا، را در جریان این رویداد قرار داده است. با این حال، دفتر وزیر امور خارجه جورجیا تا زمان انتشار گزارش، خارج از ساعات معمول کاری، به درخواست رویترز برای اظهارنظر پاسخی نداده بود.