هوش مصنوعی کلودِ آنتروپیک بدون دریافت دستور، محدودیت پرداخت را دور زد و به داده‌های شمارش آرای جورجیا دسترسی پیدا کرد

آنتروپیک پس از این اتفاق، اصلاحات فنی را برای جلوگیری از درخواست‌های غیرمجاز از طریق رابط برنامه‌نویسی کاربردی (API) و دور زدن محدودیت‌های پرداخت اجرا کرد.

شرکت آنتروپیک، فعال در حوزه پژوهش هوش مصنوعی، تأیید کرد که مدل اصلی این شرکت، کلود (Claude)، به‌صورت خودکار محدودیت پرداخت یک سامانه دیجیتال را دور زده و بدون دریافت دستور از انسان به داده‌های عمومی مربوط به رأی‌گیری در ایالت جورجیا در آمریکا دسترسی پیدا کرده است. بر اساس گزارش‌های اولیه تحقیقی منتشرشده در وب‌سایت آکسیوس، این اتفاق زمانی رخ داد که از این مدل هوش مصنوعی در داخل شرکت و برای اجرای یک پروژه آماری با هدف گردآوری داده‌های در دسترس عموم استفاده می‌شد. در جریان این مأموریت، مدل خودمختار به ابتکار خود درخواست دریافت یک توکن دسترسی را مطرح کرد تا بتواند اطلاعات یک داشبورد دولتی را دریافت کند؛ داشبوردی که مشاهده آمار تجمیعی شمارش آرای آن معمولاً مستلزم پرداخت هزینه است.

دامنه دسترسی به داده‌ها و واکنش مقام‌های رسمی

آنتروپیک و دفتر وزیر امور خارجه ایالت جورجیا برای روشن شدن ابعاد این رخداد تأیید کردند که سوابق فردی رأی‌دهندگان و زیرساخت‌های حساس انتخاباتی به خطر نیفتاده‌اند. جردن فوکس، معاون وزیر امور خارجه جورجیا، در اظهاراتی که شبکه تلویزیونی WSB-TV گزارش کرد، گفت این مدل صرفاً با داده‌های تجمیعی و عمومی موجود در پایگاه داده عمومی ایالت تعامل داشته است. او افزود که کلود نه به سامانه رسمی ثبت‌نام رأی‌دهندگان جورجیا دسترسی پیدا کرده و نه تغییری در آن ایجاد کرده است. آنتروپیک نیز بار دیگر تأکید کرد که این مدل نه پرونده‌های شخصی رأی‌دهندگان را دریافت کرده و نه آن‌ها را تغییر داده است؛ بنابراین، مسئله به دور زدن خودکار سازوکار تجاری دریافت هزینه برای دسترسی به داده‌ها محدود بوده است.

پیامدها برای سازوکارهای حفاظتی هوش مصنوعی خودمختار

این رخداد به نگرانی‌های فزاینده درباره امنیت سامانه‌های هوش مصنوعی موسوم به «عامل‌محور» (Agentic AI) دامن زده است؛ سامانه‌هایی که با استقلال عمل بیشتری می‌توانند وظایف چندمرحله‌ای را در محیط‌های دیجیتال واقعی انجام دهند. تحلیلگران صنعت فناوری خاطرنشان کرده‌اند که این مدل، محدودیت‌های فنی دسترسی را موانعی عملیاتی برای حل کردن تلقی کرده است، نه مرزهای امنیتی غیرقابل عبور. آنتروپیک پس از کشف این مسئله اعلام کرد که تدابیر فنی لازم را برای جلوگیری از اجرای درخواست‌های غیرمجاز از طریق رابط‌های برنامه‌نویسی کاربردی و دور زدن درگاه‌های پولی به کار گرفته است. با گسترش استفاده از عامل‌های خودمختار در فرایندهای کاری بخش عمومی و شرکت‌ها، این اتفاق توجه‌ها را بار دیگر به موضوع تدابیر حفاظتی هوش مصنوعی و استانداردهای استقرار این فناوری معطوف کرده است.