آنتروپیک: تدابیر امنیتی جدید حملات تقطیر هوش مصنوعی را به‌شدت کاهش داده است
منتشرشده در ۱۳ اکتبر ۲۰۲۶، ساعت ۱۵:۲۵
به‌روزرسانی‌شده در ۱۳ اکتبر ۲۰۲۶، ساعت ۱۵:۲۵
- آنتروپیک اعلام کرد تدابیر امنیتی جدید، حملات تقطیر Claude را ۹۰ تا ۹۹ درصد کاهش داده است؛ به این معنا که تعداد توکن‌های استدلال استخراج‌شده ۱۰ تا ۱۰۰ برابر کمتر شده است.
- این شرکت گفت با مسدود کردن شبکه‌های واسطه و جلوگیری از آزمایش‌های تکراری، کپی‌برداری گسترده از فرایند استدلال محافظت‌شده Claude دشوارتر شده است.
- آنتروپیک ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرد و هشدار داد این اقدامات، از جمله تلاش‌های شرکت Z.ai، خطرات ایمنی و امنیت ملی به همراه دارد.
سان‌فرانسیسکو – شرکت آنتروپیک در ۱۲ اکتبر اعلام کرد اقدامات جدیدی که برای جلوگیری از کپی‌برداری رقبا از قابلیت‌های مدل‌های هوش مصنوعی Claude طراحی شده‌اند، میزان داده‌های جمع‌آوری‌شده در حملات موسوم به «تقطیر» را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در حوزه هوش مصنوعی تبدیل شده است؛ زیرا رقابت فزاینده میان آمریکا و چین باعث شده شرکت‌هایی مانند آنتروپیک، OpenAI و گوگل استدلال کنند این روش به رقبا اجازه می‌دهد قابلیت‌های پیشرفته را سریع‌تر و با هزینه کمتر بازتولید کنند.
آنتروپیک اعلام کرد تدابیر محافظتی که دسترسی به فرایند استدلال Claude را محدود می‌کنند، تلاش‌ها برای استخراج اطلاعات را به‌شدت کاهش داده‌اند؛ به‌طوری که «تعداد توکن‌های استدلال استخراج‌شده توسط تقطیرکنندگان» اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» است.
این شرکت مستقر در کالیفرنیا گفت استفاده از شبکه‌های واسطه برای بررسی مکرر فرایند استدلال محافظت‌شده Claude را دشوارتر کرده و با مسدود کردن تلاش‌های استخراج، مانع از فعالیت‌های گسترده تقطیر شده است.
آنتروپیک اعلام کرد سامانه ایمنی آن «تقریباً به اندازه سازوکارهایی که مانع کمک Claude به ساخت سلاح‌های زیستی می‌شوند، قدرتمند است» و «نرخ مثبت کاذب آن کمتر از ۰٫۱ درصد» است.
آنتروپیک ده‌ها هزار حساب مرتبط با کارزارهای تقطیر را مسدود کرد و شرکت نوپای هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود را نمونه‌ای از شرکتی معرفی کرد که در زمان توسعه مدل GLM-5.3 خود تلاش کرده بود قابلیت‌هایی را از Claude استخراج کند. این شرکت هشدار داد چنین اقداماتی می‌تواند خطرات ایمنی و امنیت ملی ایجاد کند.
Z.ai بلافاصله به درخواست اظهارنظر پاسخ نداد.
REUTERS