Anthropic دفاع‌ها در برابر حملات تقطیر هوش مصنوعی را تقویت کرد و استخراج داده‌های استنتاج را تا ۹۹ درصد کاهش داد

finance.biggo.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

Anthropic دفاع‌ها در برابر حملات تقطیر هوش مصنوعی را تقویت کرد و استخراج داده‌های استنتاج را تا ۹۹ درصد کاهش داد

شرکت آمریکایی توسعه‌دهنده هوش مصنوعی Anthropic روز ۱۲ اکتبر (به وقت آمریکا) اعلام کرد که دفاع‌های خود در برابر «حملات تقطیر» را که به‌صورت غیرمجاز داده‌های استنتاج مدل هوش مصنوعی Claude را استخراج می‌کنند، به‌طور قابل‌توجهی تقویت کرده است. این شرکت می‌گوید با معرفی یک سامانه دفاعی چندلایه جدید، میزان داده‌های استنتاج قابل استخراج به بین یک‌دهم تا یک‌صدم سطح پیشین کاهش یافته است؛ یعنی کاهش تقریبی ۹۰ تا ۹۹ درصدی.

حملات تقطیر به روشی گفته می‌شود که در آن توانایی‌های یک مدل با جمع‌آوری حجم زیادی از پاسخ‌های آن استخراج و سپس با هزینه‌ای پایین در یک مدل دیگر بازسازی می‌شود. داده‌های استنتاجی که Claude پیش از تولید پاسخ ایجاد می‌کند، از جمله اهداف باارزش این حملات هستند. Anthropic اکنون تدابیر دفاعی ویژه‌ای را برای حفاظت از این داده‌ها به کار گرفته است.

این دفاع بر سه پایه اصلی استوار است. نخست، کنترل کانال‌های خروجی استنتاج است. برای مدل‌های Claude Fable 5.1 و Claude Opus 5.5، این شرکت برای حساب‌های API جدیدی که پس از ۳۱ اوت ۲۰۲۶ ایجاد شده‌اند، قابلیتی با نام «تفکر حفظ‌شده» معرفی کرده است که از ویرایش زمینه‌های قبلی جلوگیری می‌کند. در مدل Claude Sonnet 5.5 نیز سیستم به‌گونه‌ای تغییر یافته است که داده‌های استنتاج فقط برای سازمان درخواست‌کننده قابل مشاهده باشد.

دومین لایه، یک دسته‌بند دومرحله‌ای است که تلاش‌های مربوط به استخراج داده را مسدود می‌کند. نرخ مثبت کاذب این سیستم کمتر از ۰.۱ درصد نگه داشته شده و شرکت می‌گوید این سامانه قادر است تمام روش‌های تقطیر شناسایی‌شده تا امروز را تشخیص دهد. این سیستم در حال حاضر برای قدرتمندترین مدل‌های عمومی در دسترس Anthropic فعال است و قرار است به مدل‌های مشابه دیگر نیز گسترش یابد.

سومین بخش، مدیریت تلاش‌های تکرارشونده است. حساب‌هایی که به استخراج داده ادامه دهند با محدودیت‌های شدیدتر استفاده مواجه می‌شوند و در صورت تداوم تخلف، ممکن است مسدود شوند. صدور هزینه برای درخواست‌هایی که دسته‌بند پیش از تولید پاسخ آن‌ها را متوقف کرده است، از ۲۴ سپتامبر دوباره آغاز شده، اما تنها در بخش‌هایی اعمال می‌شود که نرخ مثبت کاذب کمتر از ۰.۱ درصد باشد.

در نتیجه، تعداد توکن‌های استنتاج استخراج‌شده پس از معرفی این دسته‌بند به بین یک‌دهم تا یک‌صدم میزان پیش از آن کاهش یافته است. همچنین ده‌ها هزار حساب مرتبط با فعالیت‌های تقطیر مسدود شده‌اند. از سوی دیگر، معرفی قابلیت تفکر حفظ‌شده باعث شده است برخی توسعه‌دهندگان تنظیمات اتصال API خود را به‌روزرسانی کنند.

Anthropic در یک پست رسمی وبلاگی اعلام کرد که شرکت هوش مصنوعی چینی Z.AI (2513.HK) در جریان توسعه مدل GLM-5.3، قابلیت‌های سایبری را از مدل‌های آمریکایی با استفاده از تقطیر استخراج کرده است. این شرکت همچنین به خطرات امنیت ملی اشاره کرد و گفت توانایی‌هایی که از طریق تقطیر به دست می‌آیند، در سامانه‌های نظامی و نظارتی خارجی مورد استفاده قرار می‌گیرند.

در رویدادی مرتبط، OpenAI در ۳۰ سپتامبر اعلام کرد که یک کارزار تقطیر را شناسایی و مسدود کرده است؛ کارزاری که تلاش داشت «استدلال محافظت‌شده» مدل‌های این شرکت را به‌صورت غیرمجاز استخراج کند. با تشدید رقابت هوش مصنوعی میان آمریکا و چین، تقطیر مدل به یکی از نگرانی‌های اصلی شرکت‌های بزرگ هوش مصنوعی تبدیل شده است. Anthropic، OpenAI، Google و دیگر شرکت‌ها استدلال می‌کنند که این روش به رقبا اجازه می‌دهد قابلیت‌های پیشرفته را با سرعت بالا و هزینه پایین بازتولید کنند.

Anthropic همچنین از ارائه‌دهندگان زیرساخت ابری و خدمات استنتاج شخص ثالث خواسته است حساب‌های جعلی را زودتر شناسایی و حذف کنند. این شرکت توضیح داده است که در حال دشوارتر کردن دسترسی‌های تکراری به استنتاج از طریق شبکه‌های پروکسی است تا فعالیت‌های تقطیر در مقیاس بزرگ را محدود کند.

دلیل تمرکز Anthropic بر تقویت دفاع‌ها

تمرکز شدید Anthropic بر حفاظت از داده‌های استنتاجی، از نتایج آزمایش‌های یادگیری این شرکت ناشی می‌شود. پس از ارزیابی کمی ارزش داده‌های استنتاج، به نظر می‌رسد شرکت به این نتیجه رسیده است که بازسازی قابلیت‌ها از طریق تقطیر آسان‌تر از چیزی است که پیش‌تر تصور می‌شد. مهاجمان نیز پیچیده‌تر شده‌اند و با ایجاد شبکه‌هایی از حساب‌های جعلی و استفاده از روش‌های متنوع استخراج، تلاش‌های خود را گسترش می‌دهند.

بررسی‌های بازار پیش از عرضه اولیه سهام

این اعلامیه در شرایطی منتشر شده است که Anthropic برای یک عرضه اولیه سهام بزرگ آماده می‌شود. برخی سرمایه‌گذاران احتمال داده‌اند ارزش‌گذاری این شرکت هنگام عرضه به ۲ تریلیون دلار (حدود ۳۱۶ تریلیون ین) برسد. چنین رقمی از ارزش‌گذاری ۱.۷۷ تریلیون دلاری SpaceX (حدود ۲۸۰ تریلیون ین) فراتر خواهد رفت و آن را در میان بزرگ‌ترین عرضه‌های اولیه تاریخ قرار می‌دهد.

با این حال، شرکت مستقل پژوهش مالی New Constructs در ۶ اکتبر این ارزش‌گذاری را «نامعقول‌ترین عرضه اولیه سال ۲۰۲۶» خواند و ارزش منصفانه Anthropic را حدود ۱۵۰ میلیارد دلار (حدود ۲۳.۷ تریلیون ین) برآورد کرد؛ رقمی که حدود ۹۳ درصد کمتر از ارزش‌گذاری هدف است.

پایداری ساختار درآمدی شرکت، به‌ویژه درآمد تکرارشونده سالانه (ARR)، با پرسش‌هایی روبه‌رو شده است. ARR این شرکت از حدود ۹ میلیارد دلار (حدود ۱.۴ تریلیون ین) در پایان سال ۲۰۲۵ به ۴۷ میلیارد دلار (حدود ۷.۴ تریلیون ین) در ماه مه ۲۰۲۶ و سپس به ۶۵ میلیارد دلار (حدود ۱۰.۳ تریلیون ین) در ژوئیه افزایش یافته است. با این حال، ARR یک شاخص مالی حسابرسی‌شده نیست و ارقام آن بسته به روش محاسبه می‌تواند تفاوت زیادی داشته باشد.

کریشنا رائو، مدیر مالی Anthropic، در یک پادکست در ماه مه گفت نرخ حفظ خالص درآمد (NRR) شرکت به ۵۰۰ درصد رسیده است. یک گروه مشتری که در سه‌ماهه نخست سال ۲۰۲۶، ARR معادل ۳۰ میلیارد دلار (حدود ۴.۷ تریلیون ین) ایجاد کرده بود، یک سال پیش از آن تنها ۲ میلیارد دلار (حدود ۳۲۰ میلیارد ین) درآمد تکرارشونده سالانه داشت.

در همین حال، نگرانی‌هایی درباره پایداری این رشد همچنان وجود دارد. بر اساس آمار TickerTrends، ARR کل شرکت تا ۲۴ سپتامبر ۲۰۲۶ حدود ۷۶.۸ میلیارد دلار (حدود ۱۲.۲ تریلیون ین) بوده است، اما رشد ماهانه سپتامبر تنها ۱.۸ درصد بوده؛ رقمی که بسیار پایین‌تر از رشد ماهانه ۳۰ تا ۵۰ درصدی در نیمه نخست سال ۲۰۲۶ است.

در سال مالی ۲۰۲۵، درآمد Anthropic برابر با ۴.۶ میلیارد دلار (حدود ۷۳۰ میلیارد ین) بود، در حالی که زیان عملیاتی خالص شرکت به ۸ میلیارد دلار (حدود ۱.۳ تریلیون ین) افزایش یافت. زیان خالص شامل تجدید ارزش ابزارهای مالی قابل تبدیل نیز به ۴۲ میلیارد دلار (حدود ۶.۶ تریلیون ین) رسید. افزون بر این، شرکت حدود ۵۱۸ میلیارد دلار (حدود ۸۲ تریلیون ین) تعهد قراردادی برای خدمات ابری، توان پردازشی و زیرساخت دارد که حدود ۸۰ درصد آن، معادل ۴۱۴ میلیارد دلار (حدود ۶۵.۵ تریلیون ین)، غیرقابل فسخ است.

با توجه به این وضعیت مالی، برخی فعالان بازار درباره پایداری مدل کسب‌وکار Anthropic پرسش‌هایی مطرح کرده‌اند. تقویت دفاع‌ها در برابر حملات تقطیر نه‌تنها برای حفاظت از مالکیت فکری شرکت، بلکه برای دفاع از ارزش تجاری آن پیش از عرضه اولیه سهام نیز اهمیت دارد.

Anthropic سامانه‌های ایمنی خود را «تقریباً به اندازه سازوکارهایی که مانع کمک Claude به تولید سلاح‌های زیستی می‌شوند، قدرتمند» توصیف کرده است. رویکرد این شرکت برای ایجاد تعادل میان ایمنی هوش مصنوعی و موفقیت تجاری، در جدیدترین تقویت دفاعی آن بازتاب یافته است.