آنتروپیک: سامانه امنیتی جدید تا ۹۹ درصد تلاش‌های سرقت فناوری هوش مصنوعی را مسدود کرد؛ زنگ خطر برای شرکت چینی زیپو
آنتروپیک سامانه امنیتی جدیدی معرفی کرد
نشت داده‌های استنتاج هوش مصنوعی ۹۰ تا ۹۹ درصد کاهش یافت
این شرکت خواستار اقدام هماهنگ صنعت برای «توقف تقطیر غیرمجاز» شد
شرکت آمریکایی هوش مصنوعی آنتروپیک اعلام کرد برای جلوگیری از سرقت فناوری توسط شرکت‌های هوش مصنوعی خارجی، از جمله شرکت‌های چینی، یک سامانه امنیتی جدید معرفی کرده است که توانسته میزان نشت داده‌های استنتاج مدل‌های هوش مصنوعی را تا ۹۹ درصد کاهش دهد. این شرکت همچنین خواستار واکنشی هماهنگ در سراسر صنعت برای جلوگیری از «تقطیر غیرمجاز» شد و گفت شرکت‌های چینی بدون اجازه از مدل‌های پیشرفته هوش مصنوعی آمریکایی استفاده می‌کنند تا هزینه توسعه محصولات خود را کاهش دهند.
آنتروپیک در مطلبی که روز ۱۲ اکتبر (به وقت محلی) در وبلاگ خود منتشر کرد، گفت فناوری دفاعی جدیدی که برای مسدود کردن «حملات تقطیر» علیه مدل هوش مصنوعی کلود طراحی شده، میزان داده‌هایی را که مهاجمان می‌توانند جمع‌آوری کنند حدود ۹۰ تا ۹۹ درصد کاهش داده است.
تقطیر هوش مصنوعی به فرایندی گفته می‌شود که در آن حجم زیادی از پاسخ‌ها و فرایندهای استنتاجی یک مدل قدرتمند هوش مصنوعی به دست می‌آید و از آن‌ها برای آموزش مدل دیگری استفاده می‌شود.
خودِ فرایند تقطیر هوش مصنوعی غیرقانونی نیست، اما زمانی که بدون اجازه توسعه‌دهنده مدل اصلی انجام شود، می‌تواند به‌عنوان روشی برای سرقت فناوری تلقی شود.
آنتروپیک اعلام کرد: «از زمانی که سامانه دفاعی جدید را معرفی کردیم، تعداد توکن‌های استنتاجی استخراج‌شده توسط مهاجمان ۱۰ تا ۱۰۰ برابر کاهش یافته است.» این شرکت افزود که ده‌ها هزار حساب مرتبط با حملات تقطیر را مسدود کرده و برخی از این حساب‌ها تنها دو ساعت پس از آغاز حمله شناسایی شده‌اند.
این شرکت همچنین مدعی شد شرکت هوش مصنوعی چینی زیپو (Zhipu) هنگام توسعه مدل هوش مصنوعی GLM-5.3، قابلیت‌های امنیت سایبری مدل‌های بزرگ هوش مصنوعی آمریکایی را بدون مجوز استخراج کرده است. آنتروپیک گفت پس از آنکه تدابیر حفاظتی کلود مانع استخراج فناوری شد، مهاجمان اهداف خود را به نسخه‌های قدیمی‌تر کلود و مدل‌های هوش مصنوعی شرکت‌های دیگر تغییر دادند.
آنتروپیک هشدار داد مدل‌های هوش مصنوعی که از طریق تقطیر غیرمجاز توسعه یافته‌اند، در صورت عرضه بدون تدابیر حفاظتی می‌توانند برای حملات سایبری مورد سوءاستفاده قرار گیرند. این شرکت برای نمونه ادعا کرد مدل GLM-5.3 شرکت زیپو می‌تواند به‌راحتی اقدامات امنیتی را دور بزند و برای توسعه ابزارهای هکری استفاده شود.
آنتروپیک همچنین نگرانی‌هایی درباره امنیت ملی مطرح کرد. این شرکت گفت در میان درخواست‌هایی که از طریق مدل هوش مصنوعی کیمی (Kimi) توسعه‌یافته توسط شرکت چینی مون‌شات (Moonshot) به کلود ارسال شده بود، درخواستی از سوی کاربری که احتمال داده می‌شود با ارتش آزادی‌بخش خلق چین ارتباط داشته باشد، وجود داشت که خواستار تحلیل تصاویر دوربین‌های نظارتی از یک فرد مشخص شده بود.
پس از آنکه مهاجمان با استفاده از صدها هزار حساب جعلی شبکه امنیتی این شرکت را دور زدند، آنتروپیک دسترسی به فرایندهای استنتاج هوش مصنوعی را محدود کرد، سامانه‌های شناسایی حمله را توسعه داد و حساب‌هایی را که در حملات تکرارشونده نقش داشتند مسدود کرد.
آنتروپیک اعلام کرد در جریان این اقدامات مقابله‌ای، از درآمد قابل‌توجه و درخواست‌های پولی معادل تریلیون‌ها توکن صرف‌نظر کرده است. با این حال، این شرکت از دیگر شرکت‌های هوش مصنوعی و پلتفرم‌های ابری خواست برای مقابله با این تهدید همکاری کنند و گفت: «جلوگیری از تقطیر غیرمجاز نیازمند تلاش و مشارکت همه توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی است.»