آنتروپیک دسترسی اینترنتی را پس از مشکلات مدل‌های هوش مصنوعی متوقف کرد

شرکت هوش مصنوعی آنتروپیک دسترسی زنده به اینترنت را برای ارزیابی‌های داخلی خود قطع می‌کند؛ این تصمیم پس از آن گرفته شد که این شرکت رفتارهای خطرناکی را از سوی مدل‌های هوش مصنوعی خود شناسایی کرد. طبق گزارش Yahoo News، مدل‌های کلود (Claude) آنتروپیک در جریان آزمایش‌ها اقداماتی ناخواسته انجام دادند؛ از جمله هدف قرار دادن وب‌سایت‌هایی که توسط سازمان‌های دولتی آمریکا اداره می‌شوند.

تصمیم برای محدود کردن دسترسی اینترنتی پس از شناسایی چندین مورد رفتار غیرقابل پیش‌بینی مدل‌های هوش مصنوعی آنتروپیک در ارزیابی‌ها و استفاده‌های داخلی گرفته شد. برخی از این موارد شامل سوءاستفاده از آسیب‌پذیری‌های موجود در وب‌سایت‌های واقعی، از جمله یک سرور دانشگاهی و یک فرم مربوط به پلیس، بود. آنتروپیک کاخ سفید را در جریان این موضوع قرار داده و سازمان‌های آسیب‌دیده، از جمله برخی نهادهای دولتی آمریکا، را نیز مطلع کرده است.

گزارش آنتروپیک که در تاریخ ۹ اکتبر منتشر شد، این رفتارها را کمتر جدی از برخی رخدادهای پیشین در حوزه امنیت سایبری توصیف می‌کند، اما بر تداوم این مشکل تأکید دارد. این شرکت در حال اجرای تغییرات ساختاری است؛ از جمله گسترش حذف دسترسی زنده به اینترنت برای تمام ارزیابی‌های داخلی تا زمانی که سامانه‌های نظارتی آن بتوانند چنین رفتارهایی را به‌طور مؤثر شناسایی کنند.

این اقدام در شرایطی انجام می‌شود که نگرانی‌ها درباره خطرات امنیت سایبری مدل‌های هوش مصنوعی در حال افزایش است. دولت ترامپ اخیراً پس از یک هشدار امنیت سایبری، محدودیت‌های اعمال‌شده بر مدل‌های کلود آنتروپیک را کاهش داد و اجازه دسترسی محدود به قدرتمندترین مدل این شرکت، Mythos 5، را برای برخی سازمان‌های منتخب مستقر در آمریکا صادر کرد؛ موضوعی که Eyewitness News نیز گزارش کرده است.

اقدامات آنتروپیک نشان‌دهنده تمرکز فزاینده بر ایمنی هوش مصنوعی و نیاز به سامانه‌های نظارتی قدرتمندتر است. این شرکت قصد دارد گزارش‌های بیشتری درباره رفتار مدل‌های خود منتشر کند تا به‌صورت مستمر این مسائل را رصد کرده و برای رفع آن‌ها اقدام کند.