آنتروپیک می‌گوید تدابیر حفاظتی جدید حملات تقطیر هوش مصنوعی را به‌شدت کاهش داده است
۱۲ اکتبر (رویترز) - آنتروپیک روز دوشنبه اعلام کرد تدابیر جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل‌های هوش مصنوعی به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در این حوزه تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی از جمله آنتروپیک، OpenAI و گوگل استدلال کنند که این روش به رقبا امکان می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک گفت تدابیر حفاظتی که دسترسی به فرایند استدلال Claude را محدود می‌کنند، تلاش‌های استخراج را به‌شدت کاهش داده‌اند؛ به‌طوری که «تعداد توکن‌های استدلالی استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
این شرکت مستقر در کالیفرنیا اعلام کرد استفاده از شبکه‌های واسطه برای بررسی مکرر فرایند استدلال محافظت‌شده Claude دشوارتر شده است؛ اقدامی که تلاش‌های استخراج را مسدود کرده و مانع اجرای عملیات تقطیر در مقیاس بزرگ می‌شود.
آنتروپیک گفت سامانه ایمنی آن «تقریباً به اندازه سامانه‌هایی که مانع کمک Claude به ساخت سلاح‌های زیستی می‌شوند، قدرتمند است» و نرخ مثبت کاذب آن «کمتر از ۰.۱ درصد» است.
این شرکت اعلام کرد ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرده و از شرکت نوپای هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، به‌عنوان نمونه‌ای از شرکتی یاد کرد که هنگام توسعه مدل GLM-5.3 تلاش کرده بود قابلیت‌هایی را از Claude تقطیر کند. آنتروپیک هشدار داد چنین اقداماتی خطرات ایمنی و امنیت ملی به همراه دارد.
Z.AI بلافاصله به درخواست برای اظهارنظر پاسخ نداد.
گزارش از مرینمای دی در مکزیکوسیتی؛ ویرایش از شری جیکوب-فیلیپس