آنتروپیک: تدابیر حفاظتی جدید حملات تقطیر هوش مصنوعی را به‌شدت کاهش داده است
آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی کلود طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «حملات تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل‌های هوش مصنوعی به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در این حوزه تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، اوپن‌ای‌آی و گوگل استدلال کنند که این روش به رقبا امکان می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک اعلام کرد تدابیر حفاظتی که دسترسی به فرایندهای استدلال کلود را محدود می‌کنند، تلاش‌ها برای استخراج اطلاعات را به‌طور چشمگیری کاهش داده‌اند؛ به‌طوری که «تعداد توکن‌های استدلال استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
این شرکت مستقر در کالیفرنیا اعلام کرد استفاده از شبکه‌های واسطه برای بررسی مکرر و آزمایشی کلود دشوارتر شده و این اقدام، تلاش‌های استخراج را مسدود کرده و مانع اجرای عملیات تقطیر در مقیاس بزرگ شده است.
آنتروپیک گفت سامانه ایمنی آن «تقریباً به همان اندازه سامانه‌هایی قدرتمند است که از کمک کلود برای ساخت سلاح‌های زیستی جلوگیری می‌کنند» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
این شرکت اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده و از شرکت نوپای هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود قابلیت‌هایی را از کلود تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی می‌توانند خطرات ایمنی و امنیت ملی ایجاد کنند.
Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.