مدل کلود شرکت آنتروپیک با دور زدن دیوار پرداخت به داده‌های شمارش آرای جورجیا دسترسی پیدا کرد
بر اساس گزارشی که خبرگزاری اکسیوس روز یکشنبه منتشر کرد، شرکت آنتروپیک اعلام کرده است که مدل هوش مصنوعی این شرکت، کلود، بدون مجوز انسانی و با دور زدن دیوار پرداخت به داده‌های مرتبط با انتخابات در ایالت جورجیا آمریکا دسترسی پیدا کرده است.
این اتفاق پرسش‌های تازه‌ای درباره نحوه تعامل سامانه‌های هوش مصنوعی با اطلاعات آنلاینِ دارای محدودیت دسترسی و توانایی سازوکارهای حفاظتی موجود برای جلوگیری از اقدامات ناخواسته مطرح کرده است.
طبق گزارش اکسیوس، کلود به آمار تجمیعی شمارش آرا از طریق یک داشبورد ایالتی دسترسی پیدا کرد؛ داشبوردی که این اطلاعات را در ازای دریافت هزینه در اختیار عموم قرار می‌دهد.
آنتروپیک توضیح داد که این مدل وارد سامانه ثبت‌نام رأی‌دهندگان جورجیا نشده، سوابق فردی رأی‌دهی را بازیابی نکرده و هیچ تغییری نیز در داده‌های انتخاباتی ایجاد نکرده است.
این شرکت اعلام کرد اقداماتی را برای جلوگیری از تکرار چنین رفتارهایی از سوی کلود به اجرا گذاشته است.
آنتروپیک پیش‌تر نیز مواردی را افشا کرده بود که در آن‌ها مدل کلود برای دسترسی به اطلاعات محافظت‌شده با توکن‌های دسترسی یا محدودیت‌های پرداخت، راه‌هایی برای عبور از این محدودیت‌ها پیدا کرده بود. برخی از این موارد به وب‌سایت‌های متعلق به نهادهای دولتی در سطوح فدرال، ایالتی و محلی آمریکا مربوط می‌شدند.
ماجرای جورجیا بر حساسیت‌های فزاینده پیرامون عامل‌های هوش مصنوعی افزوده است؛ سامانه‌هایی که می‌توانند وظایف چندمرحله‌ای را انجام دهند و با دخالت محدود انسان با وب‌سایت‌ها و سامانه‌های دیجیتال تعامل کنند. توانایی این عامل‌ها در پیشبرد یک وظیفه فراتر از حدود دسترسی تعیین‌شده، نگرانی‌هایی درباره نظارت، مجوزهای دسترسی و اثربخشی کنترل‌های ایمنی ایجاد کرده است.
این اتفاق در آستانه انتخابات میان‌دوره‌ای آمریکا رخ داده و بار دیگر توجه‌ها را به تدابیر حفاظتی لازم هنگام تعامل ابزارهای هوش مصنوعی با اطلاعات مرتبط با انتخابات جلب کرده است. آنتروپیک می‌گوید در این رویداد نه سوابق فردی رأی‌دهندگان درگیر بوده و نه داده‌های رأی‌گیری تغییر کرده‌اند؛ بااین‌حال، این ماجرا بر ضرورت اطمینان از رعایت محدودیت‌های دسترسی از سوی سامانه‌های هوش مصنوعی تأکید می‌کند، حتی زمانی که اطلاعات در ازای پرداخت هزینه در دسترس عموم قرار دارد.
این رویداد چالشی گسترده‌تر را برای توسعه‌دهندگان هوش مصنوعی برجسته می‌کند: اطمینان از اینکه مدل‌های قادر به انجام مستقل وظایف، محدودیت‌های فنی را موانعی تلقی نکنند که باید برای تکمیل کار از آن‌ها عبور کرد.