Anthropic می‌گوید دفاع‌های جدید، برداشت داده از حملات تقطیر هوش مصنوعی را ۹۰ تا ۹۹ درصد کاهش داده‌اند
Anthropic اعلام کرد که دفاع‌های جدید ضدتقطیر این شرکت، میزان داده‌های مربوط به فرایند استدلال Claude که توسط مهاجمان استخراج می‌شود را حدود ۹۰ تا ۹۹ درصد کاهش داده است.
این شرکت حملات تقطیر را تلاش‌های پنهانی و در مقیاس صنعتی برای استخراج توانایی‌های یک مدل پیشرفته و بازتولید آن‌ها در مدلی دیگر، بدون دریافت مجوز از توسعه‌دهنده اصلی، توصیف کرد.
Anthropic گفت این حملات اغلب از طریق شبکه‌هایی از حساب‌های جعلی انجام می‌شوند و می‌توانند به دیگر توسعه‌دهندگان هوش مصنوعی اجازه دهند قابلیت‌های پیشرفته را با کسری از زمان و هزینه لازم برای ساخت مستقل آن‌ها، بازسازی کنند.
این شرکت اعلام کرد یکی از نگرانی‌های اصلی آن این است که تقطیر می‌تواند به تولید مدل‌های قدرتمندی منجر شود که از تدابیر حفاظتی معادل برخوردار نیستند؛ موضوعی که ممکن است خطرات را در حوزه‌هایی مانند امنیت سایبری و زیست‌شناسی افزایش دهد.
Anthropic به توسعه مدل GLM-5.3 توسط Zhipu اشاره کرد و گفت این شرکت تلاش کرده بود قابلیت‌های سایبری Claude را پیش از انتقال به یک مدل قدیمی‌تر Claude و سامانه یک آزمایشگاه دیگر، از آن استخراج کند؛ پس از آن‌که حفاظت‌های جدیدتر، حملات این شرکت را کم‌اثر کردند.
Anthropic همچنین گفت مدل‌هایی که به‌صورت غیرقانونی از طریق تقطیر ساخته شده‌اند، در صورتی که قابلیت‌های استخراج‌شده در سامانه‌های نظامی، اطلاعاتی یا نظارتی خارجی به کار گرفته شوند، می‌توانند خطرات امنیت ملی ایجاد کنند.
این شرکت اعلام کرد برای مقابله با فعالیت‌های مرتبط با تقطیر، از درآمد قابل‌توجه و تریلیون‌ها توکن ترافیک پولی صرف‌نظر کرده و منابع مهندسی و محصولی زیادی را برای توسعه دفاع‌های قوی‌تر اختصاص داده است.
راهبرد ضدتقطیر Anthropic به‌شدت بر محدود کردن دسترسی به فرایند استدلال پنهان Claude متمرکز است؛ زیرا این شرکت می‌گوید این اطلاعات برای آموزش مدل‌های کوچک‌تر به‌منظور تقلید از قابلیت‌های مدل‌های پیشرفته، ارزش ویژه‌ای دارد.
یکی از نخستین اقدامات دفاعی، خلاصه‌سازی فرایند استدلال Claude پیش از نمایش آن به کاربران بود.
در آزمایش‌های Anthropic، مدلی که با متن‌های کامل استدلال Claude Opus 4.8 آموزش دیده بود، در آزمون SWE-bench Verified امتیاز ۸۰.۴ درصد کسب کرد؛ در حالی که مدلی که فقط با خلاصه‌های استدلال آموزش دیده بود، امتیاز ۷۱.۸ درصد به دست آورد.
مهاجمان پس از آن به سمت روش‌های فعال استخراج روی آوردند که با هدف وادار کردن Claude به افشای کامل فرایند استدلال طراحی شده بودند.
Anthropic گفت برخی گروه‌ها هزاران دستور مختلف را برای دور زدن این حفاظت‌ها آزمایش کردند، در حالی که گروه‌های دیگر شبکه‌های واسطه‌ای با صدها هزار حساب جعلی ایجاد کردند.
این شرکت اعلام کرد یکی از شبکه‌هایی که پیش‌تر شناسایی شده بود، هم‌زمان بیش از ۲۰ هزار حساب جعلی را کنترل می‌کرد.
Anthropic اکنون دفاع‌های خود را در سه حوزه اصلی گسترش داده است.
نخست، این شرکت کنترل‌هایی معرفی کرده که مکان انتقال یا دسترسی به متن‌های استدلال را محدود می‌کنند.
با Claude Fable 5.1 و Claude Opus 5.5، Anthropic قابلیتی به نام «تفکر حفظ‌شده» معرفی کرده است که مانع از ویرایش زمینه قبلی Claude توسط حساب‌های جدید API می‌شود؛ حساب‌هایی که در تاریخ ۳۱ اوت ۲۰۲۶ یا پس از آن ایجاد شده‌اند.
این شرکت همچنین مانع خواندن استدلال‌های تولیدشده توسط مدل‌های جدیدتر از سوی مدل‌های قدیمی‌تر با حفاظت‌های ضعیف‌تر می‌شود.
در Claude Sonnet 5.5، متن‌های استدلال فقط برای سازمانی قابل دسترسی هستند که درخواست مربوطه را ایجاد کرده است.
دوم، Anthropic یک سامانه طبقه‌بندی دومرحله‌ای ساخته است که برای شناسایی تلاش‌ها جهت استخراج فرایند استدلال Claude طراحی شده است.
این شرکت گفت برای آزمایش این سامانه و برطرف کردن آسیب‌پذیری‌ها، از آزمایش‌های تهاجمی داخلی و خارجی استفاده کرده است.
Anthropic اعلام کرد دفاع‌های حاصل اکنون تقریباً به اندازه تدابیر حفاظتی آن در برابر درخواست‌های زیست‌شناختی خطرناک مقاوم هستند و نرخ مثبت کاذب آن‌ها کمتر از ۰.۱ درصد است.
این سامانه طبقه‌بندی اکنون روی Claude Sonnet 5.5، Claude Opus 5 و 5.5 و Claude Fable 5 و 5.1 اجرا می‌شود و قرار است به مدل‌های آینده‌ای که ممکن است هدف جذابی برای تقطیر باشند نیز گسترش یابد.
سوم، Anthropic با سخت‌تر کردن محدودیت‌های استفاده و مسدود کردن حساب‌های مرتبط با فعالیت‌های مداوم تقطیر، تکرار تلاش‌های استخراج را دشوارتر کرده است.
این شرکت همچنین اعلام کرد در برخی دسته‌های درخواست، از جمله تقطیر که سامانه‌های آن نرخ مثبت کاذب کمتر از ۰.۱ درصد دارند، دریافت هزینه برای درخواست‌های مسدودشده را از سر گرفته است.
Anthropic گفت حفاظت‌های جدید آن تمام روش‌های تقطیری را که در گزارش ماه سپتامبر این شرکت توضیح داده شده بود، شناسایی می‌کنند.
پس از استقرار طبقه‌بندی‌کننده جدید، تعداد توکن‌های استدلال Claude که توسط تقطیرکنندگان در پلتفرم Anthropic استخراج می‌شد، بین ۱۰ تا بیش از ۱۰۰ برابر کاهش یافت.
این شرکت اعلام کرد همچنین ده‌ها هزار حساب مرتبط با تقطیر را مسدود کرده است؛ اقدامی که در بسیاری از موارد ظرف دو ساعت پس از آغاز یک کارزار حمله انجام شده است.
Anthropic پذیرفت که این حفاظت‌ها با برخی هزینه‌ها و مصالحه‌ها همراه هستند.
برخی توسعه‌دهندگان به دلیل قابلیت تفکر حفظ‌شده مجبور به به‌روزرسانی اتصال‌های خود شده‌اند، گاهی درخواست‌های مشروع ممکن است مسدود شوند و اکنون ممکن است کاربران برای درخواست‌هایی که توسط سامانه رد می‌شوند نیز هزینه پرداخت کنند.
این شرکت همچنین هشدار داد که تقطیر همچنان یک مسئله دائماً در حال تغییر است و مهاجمان احتمالاً به جست‌وجوی روش‌های جدید برای دور زدن تدابیر حفاظتی ادامه خواهند داد.
Anthropic جزئیات رویکرد خود را منتشر می‌کند تا دیگر توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی و پلتفرم‌های ابری را تشویق کند تدابیر ضدتقطیر خود را تقویت کنند.
این شرکت استدلال کرد که توسعه‌دهندگان مدل، ارائه‌دهندگان خدمات استنتاج و پلتفرم‌های شخص ثالث همگی در شناسایی سوءاستفاده‌ها و متوقف کردن حساب‌های جعلی نقش دارند.
نقل‌قول‌های کلیدی:
«در ماه‌های اخیر، ما پیشرفت قابل‌توجهی در کاهش اثربخشی حملات تقطیر علیه Claude با استفاده از روش‌های جدید داشته‌ایم. شواهد اولیه نشان می‌دهد این روش‌ها میزان داده‌های برداشت‌شده توسط تقطیرکنندگان را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.»
«تقطیر مشکلی است که هر توسعه‌دهنده مدل با آن روبه‌رو است و باید با آن مقابله کند. امیدواریم این مطلب به توسعه‌دهندگان و پلتفرم‌ها کمک کند بهتر درک کنند چگونه می‌توانند از این حملات جلوگیری کنند، این اقدامات چه مصالحه‌هایی دارند و چرا تحمل هزینه‌های آن‌ها ارزشمند است.»
«هنوز نمی‌دانیم این دستاوردها چه مدت دوام خواهند داشت. انتظار داریم تقطیر همچنان یک رقابت رفت‌وبرگشتی باشد و ما مجبور باشیم در طول زمان به بهبود تدابیر دفاعی خود ادامه دهیم.»
بیانیه Anthropic