آنتروپیک می‌گوید تدابیر امنیتی جدید حملات تقطیر هوش مصنوعی را به‌طور چشمگیری کاهش داده است

آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.

تقطیر مدل‌های هوش مصنوعی به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در این حوزه تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، OpenAI و گوگل استدلال کنند که این روش به رقبا اجازه می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.

آنتروپیک گفت تدابیر حفاظتی که دسترسی به فرایندهای استدلال Claude را محدود می‌کنند، تلاش‌های استخراج اطلاعات را به‌شدت کاهش داده‌اند. این شرکت اعلام کرد «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.

این شرکت مستقر در کالیفرنیا افزود استفاده از شبکه‌های واسطه برای بررسی مکرر و آزمایشی Claude محافظت‌شده دشوارتر شده است؛ اقدامی که تلاش‌های استخراج اطلاعات را مسدود کرده و عملیات گسترده تقطیر را محدود می‌کند.

آنتروپیک گفت سامانه ایمنی آن «تقریباً به اندازه سامانه‌هایی مقاوم است که مانع کمک Claude به ساخت سلاح‌های زیستی می‌شوند» و نرخ خطای مثبت کاذب آن کمتر از ۰.۱ درصد است.

این شرکت همچنین اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده است. آنتروپیک از شرکت نوپای هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود قابلیت‌های Claude را تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی می‌تواند خطرات ایمنی و امنیت ملی ایجاد کند.

Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.