Anthropic دفاع‌های خود در برابر حملات تقطیر علیه کلود را تقویت کرد و برداشت داده‌ها را تا ۹۹ درصد کاهش داد
دهلی نو، هند، ۱۳ اکتبر (ANI): شرکت پژوهشی هوش مصنوعی Anthropic تدابیر امنیتی پیشرفته‌ای را برای مقابله با حملات غیرمجاز تقطیر مدل علیه مدل‌های Claude معرفی کرده و اعلام کرده است که این اقدامات باعث کاهش تخمینی ۹۰ تا ۹۹ درصدی داده‌های برداشت‌شده توسط عوامل غیرمجاز شده است.
این تحولات که در یک پست وبلاگی Anthropic تشریح شده، به نگرانی‌های فزاینده درباره کارزارهای صنعتی گسترده‌ای می‌پردازد که با هدف استخراج توانایی‌های استدلالی اختصاصی از سامانه‌های پیشرفته هوش مصنوعی و استفاده از آن‌ها برای آموزش مدل‌های رقیب بدون مجوز طراحی شده‌اند.
حملات تقطیر به گفته Anthropic «کارزارهای مخفی و صنعتی در مقیاس بزرگ برای استخراج توانایی‌های یک مدل و بازتولید آن‌ها در مدل دیگری بدون اجازه توسعه‌دهندگان مدل اصلی» هستند.
این شرکت افزود: «این حملات اغلب با استفاده از شبکه‌هایی از حساب‌های جعلی انجام می‌شوند. چنین حملاتی به شرکت‌ها اجازه می‌دهد قابلیت‌های پیشرفته‌ترین مدل‌ها را با کسری از زمان و هزینه توسعه، تقلید کنند.»
این گزارش تأکید می‌کند که چنین اقداماتی خطرهای جدی در حوزه‌های امنیت زیستی، امنیت سایبری و امنیت ملی ایجاد می‌کنند. از آنجا که نسخه‌های تقطیرشده مدل‌ها اغلب بدون وجود سازوکارهای ایمنی متناسب وارد گردش می‌شوند، بازیگران مخرب می‌توانند از آن‌ها برای اهداف سوءاستفاده کنند.
این پست وبلاگی به نمونه‌ای از آزمایشگاه چینی Zhipu اشاره می‌کند که توانایی‌های سایبری مدل‌های پیشرو آمریکایی را استخراج کرده تا مدل GLM-5.3 را توسعه دهد؛ مدلی که مرکز آمریکایی «پیشبرد نوآوری و استانداردها برای ابرهوش مصنوعی» آن را تاکنون توانمندترین مدل متن‌باز با وزن‌های قابل دسترس در حوزه سایبری ارزیابی کرده و اعلام کرده است که می‌تواند اکسپلویت‌های کامل و سرتاسری ایجاد کند.
در نمونه‌ای دیگر، Anthropic اعلام کرد که درخواست‌های ارسال‌شده به مدل‌های Kimi متعلق به Moonshot به Claude هدایت شده‌اند؛ از جمله درخواستی مرتبط با ارتش آزادی‌بخش خلق چین که خواستار تحلیل سامانه‌های نظارت تصویری دوربین‌های مداربسته بود.
برای مقابله با این تلاش‌ها، Anthropic تمرکز اصلی دفاع فنی خود را بر محافظت از متن‌های داخلی استدلال Claude گذاشته است؛ داده‌هایی که برای مهاجمان تقطیر از خروجی‌های نهایی متنی ارزشمندتر هستند.
این شرکت توضیح داد: «هدف تقطیرکنندگان این است که میلیون‌ها پاسخ از یک مدل بزرگ‌تر و توانمندتر (در این مورد Claude) تولید کنند و سپس از این پاسخ‌ها برای آموزش یک مدل کوچک‌تر استفاده کنند تا رفتار مدل قدرتمندتر را تقلید کند.»
Anthropic افزود: «ارزشمندترین نوع داده برای این هدف، متن‌های ثبت‌شده از استدلال Claude است؛ یعنی فرایند فکری که Claude پیش از پاسخ‌دادن آن را می‌نویسد.»
چارچوب دفاعی این شرکت بر سه محور اصلی استوار است: کنترل جابه‌جایی داده‌های استدلالی میان حساب‌ها، استفاده از یک دسته‌بند تخصصی دومرحله‌ای برای مسدود کردن تلاش‌های استخراج، و محدود کردن سوءاستفاده‌کنندگان دائمی از طریق مسدودسازی حساب‌ها، تعیین سقف مصرف و دریافت هزینه برای درخواست‌های مسدودشده.
این دسته‌بند طبق اعلام شرکت، نرخ مثبت کاذب کمتر از ۰.۱ درصد دارد؛ سطحی از دقت که Anthropic آن را با استانداردهای سخت‌گیرانه مورد استفاده در دفاع‌های مرتبط با سلاح‌های زیستی مقایسه کرده است.
اجرای این تدابیر حفاظتی با ملاحظات تجاری و فنی همراه بوده است. Anthropic اذعان کرده که برای مقابله با شبکه‌های مخرب، از درآمد قابل توجه و تریلیون‌ها توکن ترافیک صرف‌نظر کرده است.
این شرکت تأکید کرد که مقابله با استخراج غیرمجاز قابلیت‌های مدل‌ها به همکاری گسترده در سطح صنعت میان سازندگان مدل‌های هوش مصنوعی و پلتفرم‌های استنتاج ابری نیاز دارد. (ANI)