آنتروپیک می‌گوید تدابیر حفاظتی جدید حملات تقطیر هوش مصنوعی را به‌طور چشمگیری کاهش داده است
۱۲ اکتبر (رویترز) – شرکت آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «حملات تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل‌های هوش مصنوعی به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در این حوزه تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی از جمله آنتروپیک، OpenAI و گوگل استدلال کنند این روش به رقبا امکان می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک گفت تدابیر حفاظتی که دسترسی به فرایند استدلال Claude را محدود می‌کنند، تلاش‌های استخراج را به‌طور چشمگیری کاهش داده‌اند؛ به‌گونه‌ای که «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» است.
این شرکت مستقر در کالیفرنیا اعلام کرد استفاده از شبکه‌های واسطه برای بررسی مکرر فرایند استدلال محافظت‌شده Claude دشوارتر شده است؛ اقدامی که تلاش‌های استخراج را مسدود کرده و مانع فعالیت‌های گسترده برای تقطیر مدل شده است.
آنتروپیک گفت سامانه ایمنی آن «تقریباً به اندازه سامانه‌هایی که مانع کمک Claude به ساخت سلاح‌های زیستی می‌شوند، قدرتمند است» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
آنتروپیک همچنین اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده است. این شرکت از استارتاپ هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 خود تلاش کرده بود قابلیت‌های Claude را تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی می‌توانند خطرات ایمنی و امنیت ملی ایجاد کنند.
Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.
گزارش از مِرینمی دِی در مکزیکوسیتی؛ ویرایش: شری جیکوب-فیلیپس