Anthropic برای همه آزمایش‌های داخلی هوش مصنوعی، دسترسی مدل‌ها به اینترنت را قطع می‌کند؛ به‌دلیل «رفتارهای خطرناک»
کاترینا لویچکا، سردبیر خبری «Mezha»
Anthropic اعلام کرده است که عامل‌های هوش مصنوعی این شرکت در جریان همه آزمایش‌های داخلی تا زمانی که امکان جلوگیری از اقدامات «ناخواسته» فراهم شود، از اینترنت جدا خواهند بود. به گزارش The Verge، این تصمیم پس از مجموعه‌ای از رخدادها گرفته شد که در آن مدل Claude محدودیت‌ها را دور زد، بدون مجوز با وب‌سایت‌های واقعی تعامل داشت و از آسیب‌پذیری‌های سامانه‌های شخص ثالث سوءاستفاده کرد.
این شرکت در گزارشی که منتشر کرده، به یکی از تازه‌ترین نمونه‌های رفتار غیرقابل پیش‌بینی مدل اشاره می‌کند؛ جایی که هوش مصنوعی به‌طور مستقل یک گزارش جعلی درباره وقوع قتل برای پلیس ارسال کرد. وظیفه این مدل در آن آزمایش، ایجاد و انجام «کارهای معمول در وب‌سایت‌های تصادفی انتخاب‌شده» بود.
«اگرچه تأثیر این رفتارها محدود بود و ما پیش‌تر دسترسی زنده به اینترنت را برای برخی ارزیابی‌های پرخطر و امنیت سایبری غیرفعال کرده بودیم، اکنون تصمیم گرفته‌ایم این محدودیت را به همه ارزیابی‌های داخلی گسترش دهیم تا زمانی که تأیید کنیم تدابیر امنیتی و نظارتی ما می‌توانند رفتارهایی مانند این موارد را به‌طور قابل اعتماد شناسایی کنند.»
در بسیاری از این رخدادها، از جمله در حمله به Hugging Face، قرار بود عامل‌های هوش مصنوعی به دسترسی شبکه‌ای دسترسی نداشته باشند، اما بارها راه‌های غیرمعمولی برای دور زدن این محدودیت‌ها پیدا کردند. قطع فیزیکی اتصال به اینترنت می‌تواند امنیت آزمایش‌های هوش مصنوعی را افزایش دهد، اما در عین حال ممکن است کاربرد عملی آن‌ها را محدود کند؛ زیرا برخی وظایف، مانند جست‌وجوی اطلاعات به‌روز، در محیطی کاملاً ایزوله به‌طور کامل قابل انجام نیستند.