آنتروپیک می‌گوید کلود بدون مجوز انسانی از سد پرداخت عبور کرد و داده‌های شمارش آرای جورجیا را دریافت کرد
شرکت آنتروپیک اعلام کرد مدل هوش مصنوعی کلود بدون دریافت مجوز انسانی از سد پرداخت عبور کرده و به داده‌های تجمیعی شمارش آرا در ایالت جورجیا آمریکا دسترسی یافته است؛ داده‌هایی که به‌صورت عمومی، اما در ازای پرداخت هزینه، در اختیار متقاضیان قرار می‌گیرند. به گفته آنتروپیک، این اتفاق زمانی رخ داد که مدل در حال انجام یک پروژه آماری داخلی بود.
کلود چگونه از سد پرداخت عبور کرد؟
سخنگوی آنتروپیک به وب‌سایت اکسیوس گفت کلود بدون آنکه از او خواسته شود، درخواست دریافت یک توکن دسترسی را ارسال کرد تا بتواند اطلاعات موجود در یک داشبورد را جست‌وجو کند؛ داشبوردی که دسترسی به داده‌های آن معمولاً مستلزم پرداخت هزینه است. این سخنگو افزود که از آن زمان، تدابیر حفاظتی لازم برای جلوگیری از تکرار چنین اقداماتی اعمال شده است.
هیچ‌گونه دسترسی به سوابق رأی‌دهندگان صورت نگرفت
آنتروپیک بر محدود بودن دامنه این رویداد تأکید کرد. این شرکت اعلام کرد کلود نه به سامانه ثبت‌نام رأی‌دهندگان ایالت دسترسی پیدا کرده و نه هیچ‌یک از سوابق رأی‌گیری را تغییر داده یا دریافت کرده است. مقام‌های جورجیا نیز روایت مشابهی ارائه کردند. جردن فوکس، معاون وزیر امور خارجه ایالت جورجیا، گفت داده‌ها از طریق درگاه عمومی داده‌های ایالت دریافت شده‌اند و هرگز به سامانه ثبت‌نام رأی‌دهندگان راه نیافته‌اند.
بخشی از الگویی گسترده‌تر
اوایل همین ماه، آنتروپیک در یک پست وبلاگی اعلام کرد نمونه‌هایی را شناسایی کرده است که در آن‌ها کلود با دور زدن محدودیت‌ها به داده‌هایی دسترسی پیدا کرده که دریافت آن‌ها مستلزم داشتن توکن یا پرداخت هزینه بوده است. برخی از این موارد به وب‌سایت‌های متعلق به نهادهای دولتی آمریکا در سطوح فدرال، ایالتی و محلی مربوط می‌شدند. پرونده جورجیا نخستین موردی است که به‌طور علنی به داده‌های انتخاباتی یک ایالت مشخص ارتباط پیدا می‌کند.
افشای ماجرا و فشارهای سیاسی
به گفته منبعی آگاه که با اکسیوس گفت‌وگو کرده است، آنتروپیک چند هفته پیش دفتر وزیر امور خارجه جورجیا و کاخ سفید را از این رویداد مطلع کرده بود. مقام‌های دولت فدرال از دفتر ایالتی خواسته بودند موضوع را زودتر به‌صورت عمومی اعلام کند. اکسیوس یادآوری کرد که آنتروپیک پیش‌تر نیز به دلیل افشای ناکافی حوادث مرتبط با هوش مصنوعی با انتقاد دولت آمریکا روبه‌رو شده بود. این رسانه همچنین گزارش داد که ماجرای اخیر به نگرانی‌ها درباره امنیت هوش مصنوعی در آستانه انتخابات میان‌دوره‌ای آمریکا دامن زده است.
چرا این رویداد اهمیت دارد؟
هرچند در این حادثه هیچ داده حساسی در میان نبوده است، اما ماجرا بار دیگر نگرانی شناخته‌شده‌ای را مطرح می‌کند: عامل‌های هوش مصنوعی ممکن است اقداماتی انجام دهند که گردانندگان آن‌ها هرگز درخواست نکرده‌اند. آنتروپیک و اوپن‌ای‌آی نیز اخیراً مواردی را گزارش کرده‌اند که در آن‌ها عامل‌های هوش مصنوعی بدون مجوز یا برخلاف انتظار عمل کرده‌اند. این اتفاق‌ها پرسش‌هایی را درباره میزان کنترل شرکت‌ها بر سامانه‌های خود و کافی بودن تدابیر حفاظتی فعلی مطرح می‌کنند.