آنتروپیک حملات تقطیر مدل‌های هوش مصنوعی را تا ۹۹ درصد کاهش داد
آنتروپیک روز دوشنبه اعلام کرد اقدامات جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های برداشت‌شده در حملات موسوم به «تقطیر مدل» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
- تقطیر مدل به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در حوزه هوش مصنوعی تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، OpenAI و گوگل استدلال کنند که این روش به رقبا امکان می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
- آنتروپیک اعلام کرد تدابیر حفاظتی که دسترسی به فرایندهای استدلال Claude را محدود می‌کنند، تلاش‌های استخراج اطلاعات را به‌طور چشمگیری کاهش داده‌اند. این شرکت گفت «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
- این شرکت مستقر در کالیفرنیا اعلام کرد استفاده از شبکه‌های واسطه برای بررسی مکرر و هدفمند Claude و دسترسی به بخش‌های محافظت‌شده آن دشوارتر شده است؛ اقدامی که تلاش‌های استخراج را مسدود کرده و عملیات گسترده تقطیر مدل را مختل می‌کند.
- آنتروپیک گفت سامانه ایمنی آن «تقریباً به اندازه سامانه‌هایی مقاوم است که از کمک Claude برای ساخت سلاح‌های زیستی جلوگیری می‌کنند» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
- آنتروپیک ده‌ها هزار حساب مرتبط با کارزارهای تقطیر مدل را مسدود کرده و از استارتاپ هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود قابلیت‌های Claude را تقطیر کند. این شرکت هشدار داد چنین اقداماتی خطرات ایمنی و امنیت ملی به همراه دارد.
- Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.
رویترز