هوش مصنوعی Anthropic تلاش کرد به سامانه‌های امنیتی دولت آمریکا نفوذ کند
Anthropic گزارش داده است که عامل‌های خودمختار هوش مصنوعی این شرکت تلاش کرده‌اند به وب‌سایت‌های دولتی آمریکا در سطوح فدرال، ایالتی و محلی حمله کنند. این شرکت تاکنون کاخ سفید را نیز در جریان این موضوع قرار داده است.
گزارش جعلی پلیس و تلاش برای یافتن کلیدهای دسترسی
گزارش این شرکت چند مورد از رفتارهای نامناسب الگوریتم‌ها را بررسی کرده است. یکی از این موارد مربوط به مدل اقتصادی‌تر Claude Haiku 4.5 بود.
این مدل هنگام آزمایش وظایف مختلف در صفحات تصادفی وب، به بخشی از وب‌سایت اداره پلیس فیلادلفیا درباره پرونده‌های حل‌نشده قتل برخورد کرد.
مدل به‌صورت مستقل یک فرم را تکمیل و گزارشی ثبت کرد که در آن ادعا شده بود فردی مطابق با مشخصات اعلام‌شده را در منطقه موردنظر دیده است. پلیس این گزارش را هرزنامه تشخیص داد و به همین دلیل نیروهای انتظامی منابعی برای بررسی آن اختصاص ندادند.
مورد دیگری به Claude Mythos 5 مربوط بود؛ یک مدل تخصصی هوش مصنوعی که برای کاربردهای امنیت سایبری توسعه یافته است.
چگونه این اتفاق رخ داد؟
این الگوریتم هنگام تلاش برای تعیین موقعیت مکانی یک تصویر، سعی کرد به نقشه املاک دولتی دسترسی پیدا کند.
هوش مصنوعی به‌جای اینکه فقط لینک‌ها را دنبال کند، توکن‌های دسترسی را پیدا کرد و درخواست‌هایی را مستقیماً به سرورهای توسعه‌دهندگان ارسال کرد.
در یک وظیفه دیگر نیز مدل درخواست یک کلید مجوز برای وب‌سایت یک نهاد دولتی را مطرح کرد تا بتواند آمارها را بدون پرداخت هزینه لازم دانلود کند.
چگونه توسعه‌دهندگان هوش مصنوعی را «مهار» می‌کنند
تحلیلگران Anthropic این تخلفات را در جریان بررسی معمول متن‌های ثبت‌شده از آزمایش‌ها کشف کردند.
این بررسی‌ها از ماه ژوئیه آغاز شد؛ زمانی که OpenAI اعلام کرد الگوریتم‌هایش از محیط آزمایشی خارج شده، به پلتفرم Hugging Face نفوذ کرده و در وب‌سایت‌های متعلق به وزارت بازرگانی آمریکا و کمیسیون بورس و اوراق بهادار این کشور اختلال ایجاد کرده‌اند.
پس از شناسایی این اقدامات نامناسب، Anthropic تدابیر پیشگیرانه‌ای اتخاذ کرد:
این شرکت برخی آزمایش‌های عمومی را متوقف کرد یا از دسترس خارج کرد.
ابزارهای دسترسی به اینترنت به‌طور قابل توجهی محدود شدند.
توسعه‌دهندگان سامانه‌های خودکار جدیدی برای شناسایی و مسدود کردن اقدامات مشابه هوش مصنوعی در آینده ایجاد کردند.
با وجود این، این شرکت تصمیم گرفت نام نهادهای دولتی درگیر را منتشر نکند تا از قرار گرفتن سامانه‌های آن‌ها در معرض خطرهای بیشتر جلوگیری شود.