آنتروپیک می‌گوید دفاع‌های جدید، داده‌های استخراج‌شده از کلود در حملات تقطیر را ۹۰ تا ۹۹ درصد کاهش داده‌اند
شرکت آنتروپیک می‌گوید در مقابله با افرادی که تلاش می‌کنند قابلیت‌های کلود را کپی کنند، پیشرفت قابل توجهی داشته است. به گفته این شرکت، دفاع‌های جدید میزان داده‌هایی را که از طریق حملات تقطیر استخراج می‌شوند، ۹۰ تا ۹۹ درصد کاهش داده‌اند.
این ارقام از گزارش اطلاعات تهدید آنتروپیک در سپتامبر ۲۰۲۶ به دست آمده است. این شرکت در این گزارش توضیح داده که چگونه تلاش‌های غیرمجاز برای استخراج قابلیت‌های کلود را ردیابی، شناسایی و مختل کرده است. تمرکز اصلی این عملیات‌ها بر توانایی‌های استدلال، برنامه‌نویسی و استفاده از ابزارهای مدل بوده است.
نزدیک به ۲۰۰ میلیون تعامل و یک مشتری بسیار بزرگ
از نظر فنی، در حملات تقطیر یک رقیب حجم زیادی از پاسخ‌های یک مدل قدرتمندتر را جمع‌آوری می‌کند و از این متن‌ها به‌عنوان داده آموزشی برای مدل خود استفاده می‌کند.
آنتروپیک می‌گوید در جدیدترین گزارش خود، نزدیک به ۲۰۰ میلیون تعامل مرتبط با تقطیر را در پنج کارزار جداگانه به یک عامل نسبت داده است.
بزرگ‌ترین مورد در میان این پنج کارزار برجسته است. آنتروپیک این عملیات را به Qwen شرکت علی‌بابا مرتبط دانسته و گفته است که این عملیات بین ماه‌های مه و ژوئیه ۲۰۲۶ بیش از ۱۵۱ میلیون تعامل را شامل می‌شده است.
این نخستین بار نیست که آنتروپیک درباره این موضوع به‌صورت عمومی صحبت می‌کند. این شرکت در فوریه ۲۰۲۶ از کارزارهای قبلی خبر داده بود که شامل بیش از ۱۶ میلیون تعامل می‌شدند. آن عملیات‌ها بر پایه حدود ۲۴ هزار حساب جعلی انجام شده بودند.
دفاع‌ها چگونه کار می‌کنند؟
آنتروپیک می‌گوید رویکرد این شرکت بر مجموعه‌ای از لایه‌های دفاعی استوار است، نه یک راهکار واحد. مسدود کردن حساب‌ها یکی از این لایه‌هاست. تحلیل فراداده‌ها و سامانه‌های طبقه‌بندی رفتاری نیز در لایه‌های دیگر قرار دارند. علاوه بر این، شرکت از روش‌های انتساب سازمانی استفاده می‌کند تا فعالیت‌ها را به گروه‌های پشت آن‌ها مرتبط کند.
برخی از این دفاع‌ها همراه با به‌روزرسانی‌های محصول ارائه شدند. به‌روزرسانی Fable 5 شامل تقویت سامانه‌های تشخیص استخراج بود که برای شناسایی الگوهای استفاده‌ای طراحی شده‌اند که نشانه برداشت نظام‌مند داده‌ها هستند. این به‌روزرسانی همچنین قابلیت‌های خلاصه‌سازی را در کلود معرفی کرد.
قابلیت خلاصه‌سازی، ارزش داده‌های برداشت‌شده را کاهش می‌دهد. اگر خروجی مدل به جای یک مسیر کامل و مرحله‌به‌مرحله از استدلال، نسخه‌ای فشرده‌شده باشد، متن گفتگو برای استفاده به‌عنوان داده آموزشی بسیار کم‌فایده‌تر خواهد بود.
سپس Fable 5.1 قابلیتی را اضافه کرد که آنتروپیک آن را «تفکر حفظ‌شده» می‌نامد. این ویژگی مانع از آن می‌شود که حساب‌های جدید API بتوانند زمینه استدلال رمزگذاری‌شده را ویرایش کنند.
ردیابی‌های استدلالی از ارزشمندترین داده‌هایی هستند که یک عامل تقطیر می‌تواند به دست آورد. اگر حساب‌های تازه نتوانند زمینه استدلال رمزگذاری‌شده را دستکاری کنند، یکی از مسیرهای وادار کردن مدل به افشای این استدلال یا تغییر شکل آن مسدود می‌شود.
آنتروپیک تنها شرکت درگیر این نبرد نیست
اوپن‌ای‌آی نیز روی همین مشکل کار کرده است. این شرکت گزارش سپتامبر ۲۰۲۶ خود را منتشر کرد و در آن روش‌هایی برای مقابله با تلاش‌های مشابه تقطیر، از جمله روشی به نام بازپخش استدلال رمزگذاری‌شده، توضیح داد.
در این موضوع یک بحث مرتبط با ایمنی نیز مطرح است. تقطیر غیرمجاز این پرسش را ایجاد می‌کند که آیا تدابیر حفاظتی تعبیه‌شده در مدل اصلی به نسخه تقطیرشده نیز منتقل می‌شوند یا نه. یک آزمایشگاه ممکن است تلاش زیادی برای آموزش مدلی انجام دهد که درخواست‌های خطرناک را رد کند، اما نسخه‌ای که با خروجی‌های استخراج‌شده آموزش دیده است ممکن است همان محدودیت‌های ایمنی را به ارث نبرد.
آنتروپیک میان این نوع فعالیت و استفاده پژوهشی مشروع از تقطیر تفاوت قائل می‌شود. این تمایز اهمیت دارد، زیرا تقطیر به‌عنوان یک روش ذاتاً مخرب نیست. مشکل زمانی ایجاد می‌شود که این کار در مقیاس بزرگ، با استفاده از حساب‌های جعلی و برخلاف شرایط استفاده یک ارائه‌دهنده انجام شود.
آنتروپیک خود نیز اذعان می‌کند که تلاش‌های غیرمجاز برای تقطیر همچنان ادامه دارد و تدابیر حفاظتی این شرکت باید به‌طور مداوم تکامل پیدا کنند.
افشا: این مقاله توسط دیه‌گو آلمادا لوپز ویرایش شده است. برای اطلاعات بیشتر درباره نحوه تولید و بررسی محتوا، به سیاست تحریریه مراجعه کنید.