آنتروپیک می‌گوید تدابیر حفاظتی جدید حملات تقطیر هوش مصنوعی را به‌طور چشمگیری کاهش داده است
۱۲ اکتبر (رویترز) – آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی کلاد (Claude) طراحی شده، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «تقطیر» (distillation attacks) را حدود ۹۰ تا ۹۹ درصد کاهش داده است.
تقطیر مدل‌های هوش مصنوعی به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در این حوزه تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، اوپن‌ای‌آی و گوگل استدلال کنند که این روش به رقبا امکان می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک اعلام کرد تدابیر حفاظتی که دسترسی به فرایندهای استدلال کلاد را محدود می‌کند، تلاش‌ها برای استخراج اطلاعات را به‌شدت کاهش داده است؛ به‌طوری که «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
این شرکت مستقر در کالیفرنیا گفت استفاده از شبکه‌های واسطه برای بررسی مکرر و آزمایشی فرایندهای استدلال محافظت‌شده کلاد دشوارتر شده است؛ اقدامی که تلاش‌های استخراج را مسدود کرده و عملیات تقطیر در مقیاس بزرگ را مختل می‌کند.
آنتروپیک اعلام کرد سامانه ایمنی این شرکت «تقریباً به اندازه سامانه‌هایی که از کمک کلاد برای ساخت سلاح‌های زیستی جلوگیری می‌کنند، مقاوم است» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
آنتروپیک همچنین اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده است. این شرکت به استارتاپ هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی اشاره کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود قابلیت‌هایی را از کلاد استخراج و تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی خطرهای ایمنی و امنیت ملی به همراه دارد.
Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.
گزارش از مِرین‌می دِی در مکزیکوسیتی؛ ویرایش: شری جیکوب-فیلیپس