آنتروپیک می‌گوید تدابیر حفاظتی جدید حملات تقطیر هوش مصنوعی را به‌شدت کاهش داده است
شرکت آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از توانایی‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در حوزه هوش مصنوعی تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، OpenAI و گوگل استدلال کنند که این روش به رقبا امکان می‌دهد توانایی‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک اعلام کرد تدابیر حفاظتی برای محدود کردن دسترسی به فرایندهای استدلال Claude، تلاش‌های استخراج را به‌طور چشمگیری کاهش داده است. این شرکت گفت «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
این شرکت مستقر در کالیفرنیا افزود استفاده از شبکه‌های واسطه برای آزمایش مکرر و نفوذ به فرایندهای استدلال محافظت‌شده Claude دشوارتر شده است؛ اقدامی که تلاش‌های استخراج را مسدود کرده و مانع اجرای عملیات تقطیر در مقیاس بزرگ می‌شود.
آنتروپیک گفت سامانه ایمنی آن «تقریباً به اندازه سامانه‌هایی که مانع کمک Claude به ساخت سلاح‌های زیستی می‌شوند، قدرتمند است» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
آنتروپیک اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده است. این شرکت همچنین از استارتاپ هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود توانایی‌های Claude را تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی خطرات ایمنی و امنیت ملی به همراه دارد.
Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.