آنتروپیک تدابیر امنیتی جدیدی برای کاهش تا ۹۹ درصدی سرقت داده در تقطیر مدل‌ها معرفی کرد
کوین‌دسک گزارش می‌دهد:
شرکت آنتروپیک روز دوشنبه به وقت محلی اعلام کرد چندین سازوکار حفاظتی جدید را برای جلوگیری از کپی‌برداری رقبا از مدل هوش مصنوعی Claude معرفی کرده است. این اقدامات میزان داده‌های سرقت‌شده از طریق حملات تقطیر مدل را حدود ۹۰ تا ۹۹ درصد کاهش داده‌اند.
تقطیر مدل به یکی از نگرانی‌های اصلی شرکت‌های پیشرو در حوزه هوش مصنوعی تبدیل شده است؛ شرکت‌هایی مانند آنتروپیک، OpenAI و گوگل معتقدند این روش به رقبا اجازه می‌دهد توانایی‌های پیشرفته‌ترین مدل‌ها را با هزینه کمتر و در زمان کوتاه‌تر بازسازی کنند.
آنتروپیک اعلام کرد مجموعه مکانیزم‌های حفاظتی جدید که برای محدود کردن دسترسی خارجی به فرایند استدلال Claude طراحی شده‌اند، تلاش‌ها برای استخراج اطلاعات از این مدل را به‌طور چشمگیری کاهش داده‌اند. این شرکت اکنون می‌گوید «تعداد توکن‌های استدلالی که مهاجمانِ انجام‌دهنده تقطیر می‌توانند استخراج کنند، تنها یک‌دهم تا یک‌صدم مقدار پیشین است.»
به گزارش IT Home، این شرکت مستقر در کالیفرنیا اعلام کرده است که حفاظت‌های جدید، بررسی مکرر مسیرهای استنتاج محافظت‌شده Claude از طریق شبکه‌های واسطه را دشوارتر می‌کند، تلاش‌ها برای استخراج اطلاعات را مسدود می‌سازد و مانع اجرای عملیات گسترده تقطیر مدل می‌شود.
آنتروپیک اعلام کرد استحکام این سامانه امنیتی «تقریباً معادل تدابیری است که از کمک Claude به ساخت سلاح‌های زیستی جلوگیری می‌کنند» و نرخ مثبت کاذب آن کمتر از ۰٫۱ درصد است.
آنتروپیک ده‌ها هزار حساب مرتبط با فعالیت‌های تقطیر مدل را مسدود کرده است. این شرکت از استارتاپ چینی هوش مصنوعی Zhipu AI به‌عنوان نمونه یاد کرد و مدعی شد این شرکت هنگام توسعه مدل GLM-5.3 تلاش کرده است قابلیت‌های مدل Claude را استخراج کند. آنتروپیک هشدار داد چنین فعالیت‌هایی می‌توانند خطرات امنیتی و امنیت ملی ایجاد کنند.