Anthropic می‌گوید سرقت توکن‌های استدلال کلود را در مقابله با تقطیر صنعتی تا ۹۹ درصد کاهش داده است

the-decoder.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

Anthropic در حال مقابله با حملات تقطیر گسترده علیه مدل‌های Claude است. در این حملات، شرکت‌ها به‌صورت سازمان‌یافته توانایی‌های یک مدل هوش مصنوعی را کپی می‌کنند تا مدل‌های کوچک‌تر خود را آموزش دهند. Anthropic می‌گوید دفاع‌های جدید این شرکت باعث شده حجم استخراج توکن‌های استدلال، یعنی مراحل داخلی زنجیره فکر مدل، بین ۹۰ تا ۹۹ درصد کاهش پیدا کند. مهاجمان برای اجرای این حملات از شبکه‌هایی شامل صدها هزار حساب جعلی استفاده می‌کنند.

به گفته Anthropic، پس از فعال شدن تدابیر دفاعی این شرکت، تلاش‌های موفق برای تقطیر به‌شدت کاهش یافته است. | تصویر: Anthropic

Anthropic شرکت‌های چینی Zhipu و Moonshot را به‌عنوان مشارکت‌کنندگان این حملات نام برده است. طبق ادعای این شرکت، Zhipu توانایی‌های مرتبط با امنیت سایبری را از مدل‌های پیشرفته آمریکایی استخراج کرده تا در مدل GLM-5.3 خود استفاده کند؛ در حالی که Moonshot به‌طور مخفیانه درخواست‌ها را از طریق Claude هدایت کرده است. این توانایی‌های به‌سرقت‌رفته ممکن است در نهایت به سامانه‌های نظامی و نظارتی خارجی راه پیدا کنند.

Anthropic اکنون دسترسی به مراحل داخلی استدلال Claude را محدود کرده، یک سامانه طبقه‌بندی برای شناسایی تلاش‌های استخراج راه‌اندازی کرده و حساب‌های علامت‌گذاری‌شده را به‌صورت خودکار مسدود می‌کند. تاکنون ده‌ها هزار حساب مسدود شده‌اند. Anthropic از دیگر توسعه‌دهندگان هوش مصنوعی خواسته است تدابیر حفاظتی مشابهی را اجرا کنند، هرچند این شرکت اذعان دارد که برخی کاربران قانونی نیز در این فرایند به‌اشتباه گرفتار می‌شوند.

منبع: Anthropic / Distillation Defenses