آنتروپیک با تدابیر حفاظتی جدید، تلاش‌ها برای استخراج مدل کلاد را تا ۹۰ درصد کاهش داد
آنتروپیک می‌گوید تدابیر حفاظتی جدید این شرکت باعث شده است داده‌های استدلالی استخراج‌شده در کارزارهای مشکوک تقطیر هوش مصنوعی بین ۹۰ تا ۹۹ درصد کاهش یابد و کنترل دسترسی به مدل‌های کلاد تقویت شود. این اقدامات با هدف مقابله با کپی‌برداری گسترده از مدل‌ها، شبکه‌های پراکسی و حساب‌های مشکوک انجام شده‌اند؛ در شرایطی که نگرانی‌ها درباره آموزش غیرمجاز مدل‌های هوش مصنوعی، خطرات زیستی و سوءاستفاده از سامانه‌های پیشرفته هوش مصنوعی رو به افزایش است.
ماه گذشته، آنتروپیک شواهدی پیدا کرد که نشان می‌داد برخی مدل‌های هوش مصنوعی چینی، از جمله DeepSeek و Moonshot، به‌طور غیرقانونی از کلاد برای پاسخ‌گویی به پرسش‌های کاربران خود استفاده کرده‌اند. این شرکت همچنین نزدیک به ۲۰۰ میلیون تعامل را در پنج کارزار شناسایی کرد که گفته می‌شود هدف آن‌ها استخراج توانایی‌های مدل‌های هوش مصنوعی این شرکت بوده است. آنتروپیک اعلام کرد این فعالیت‌ها را مختل کرده و در موارد لازم اطلاعات مرتبط را با نهادهای مسئول و شرکای صنعتی به اشتراک گذاشته است. در واکنش به افزایش نگرانی‌ها درباره تلاش‌های غیرمجاز برای بازتولید کلاد، این شرکت تدابیر حفاظتی تازه‌ای را برای تقویت دفاع خود در برابر تقطیر مدل‌های هوش مصنوعی معرفی کرده است.
در جدیدترین مطلب وبلاگی، آنتروپیک اعلام کرد تغییرات ایجادشده در نحوه دسترسی کاربران به مدل‌های هوش مصنوعی کلاد، تلاش‌ها برای کپی‌کردن توانایی‌های این مدل‌ها را به میزان قابل توجهی کاهش داده است. این شرکت می‌گوید حجم داده‌های استدلالی استخراج‌شده در کارزارهای مشکوک تقطیر اکنون ۹۰ تا ۹۹ درصد کمتر شده است.
آنتروپیک روز دوشنبه نتایج این اقدامات را منتشر کرد و مجموعه‌ای از تدابیر حفاظتی را شرح داد که با هدف دشوارتر کردن بازتولید رفتار مدل‌های این شرکت توسط توسعه‌دهندگان خارجی در مقیاس گسترده طراحی شده‌اند. به گفته آنتروپیک، حجم توکن‌های استدلالی که توسط افرادی با هدف تقطیر مدل به دست آمده است، اکنون «۱۰ تا ۱۰۰ برابر کمتر از گذشته» شده است.
این اقدامات در شرایطی انجام شده‌اند که تنش‌ها درباره توسعه هوش مصنوعی پیشرفته میان آمریکا و چین افزایش یافته است. شرکت‌های بزرگ فناوری، از جمله آنتروپیک، OpenAI و گوگل، نگرانی‌هایی مطرح کرده‌اند مبنی بر اینکه رقبا می‌توانند از سامانه‌های آن‌ها برای ساخت مدل‌های توانمند جایگزین استفاده کنند، بدون آنکه هزینه‌های مشابهی برای تحقیق و توسعه بپردازند.
آنتروپیک چگونه این کار را انجام داد؟
تقطیر مدل روشی است که در آن یک مدل هوش مصنوعی کوچک‌تر یا ارزان‌تر از خروجی‌های یک سامانه قدرتمندتر یاد می‌گیرد. این روش کاربردهای مشروعی دارد، از جمله کاهش هزینه بهره‌برداری از مدل‌های هوش مصنوعی و آسان‌تر کردن استقرار آن‌ها. با این حال، شرکت‌ها استدلال می‌کنند که استخراج غیرمجاز توانایی‌های مدل‌ها می‌تواند به رقبا اجازه دهد بدون سرمایه‌گذاری مشابه به پیشرفت‌های فنی ارزشمند دست پیدا کنند.
آنتروپیک اعلام کرد برخی کارزارهای مشکوک شامل پرسش‌های تکراری برای به‌دست‌آوردن اطلاعات درباره استدلال داخلی کلاد بوده‌اند. این شرکت در واکنش، دسترسی به این اطلاعات را محدود کرده و دفاع خود را در برابر تلاش‌ها برای دور زدن محدودیت‌ها تقویت کرده است.
این شرکت همچنین کنترل‌های خود علیه شبکه‌های پراکسی را سخت‌تر کرده است؛ شبکه‌هایی که می‌توانند به گردانندگان اجازه دهند درخواست‌ها را از مسیرهای مختلف توزیع کنند و شناسایی فعالیت‌های هماهنگ را دشوارتر سازند. به گفته آنتروپیک، این تغییرات به مسدودکردن تلاش‌های استخراج و مختل‌کردن جمع‌آوری پاسخ‌های کافی برای بازتولید توانایی‌های مدل‌های آن کمک کرده است.
آنتروپیک گفت ده‌ها هزار حساب مرتبط با فعالیت‌های مشکوک تقطیر را مسدود کرده است. این شرکت، توسعه‌دهنده هوش مصنوعی چینی Z.ai که با نام Zhipu نیز شناخته می‌شود، را نمونه‌ای از سازمان‌هایی معرفی کرد که به گفته آن تلاش کرده‌اند هنگام توسعه مدل GLM-5.3 خود، توانایی‌های کلاد را استخراج کنند.
آنتروپیک هشدار داد چنین فعالیت‌هایی می‌توانند فراتر از رقابت تجاری پیامد داشته باشند، به‌ویژه اگر سامانه‌های کپی‌شده توانایی‌هایی را به ارث ببرند که امکان سوءاستفاده از آن‌ها وجود داشته باشد. با این حال، کاهش گزارش‌شده در حجم داده‌های استخراج‌شده ارزیابی خود شرکت است؛ اطلاعات ارائه‌شده، تأیید مستقل این ارقام یا میزان تأثیر آن بر مدل‌های نهایی رقبا را مشخص نمی‌کند.
آنتروپیک همچنین تدابیر تشخیص خود را با سازوکارهای حفاظتی طراحی‌شده برای جلوگیری از کمک کلاد به ساخت سلاح‌های زیستی مقایسه کرد. این شرکت گفت نرخ خطای مثبت کاذب این سامانه کمتر از ۰.۱ درصد بوده است؛ موضوعی که نشان می‌دهد تعداد نسبتاً کمی از تعاملات مشروع به اشتباه علامت‌گذاری شده‌اند. آنتروپیک در اطلاعات ارائه‌شده، روش محاسبه این نرخ را توضیح نداده است.
تهدیدهای زیستی و نظارت، نگرانی‌های گسترده‌تری ایجاد می‌کنند
جلوگیری از کپی‌برداری غیرمجاز از مدل‌ها تنها بخشی از تلاش‌های ایمنی آنتروپیک است. این شرکت در گزارشی جداگانه در ماه گذشته، چند مورد مشکوک را شرح داد که در آن‌ها پژوهشگران ظاهراً تلاش کرده‌اند مدل‌های این شرکت را به سمت فعالیت‌های علمی مرتبط با توسعه سلاح‌های زیستی هدایت کنند.
این موارد نشان‌دهنده چالش دشواری برای توسعه‌دهندگان هوش مصنوعی است. همان دانش زیستی می‌تواند برای پژوهش‌های مفیدی مانند تولید واکسن به کار رود، اما ممکن است اطلاعاتی نیز فراهم کند که برای مهندسی عوامل بیماری‌زای خطرناک مورد استفاده قرار گیرد. بنابراین سامانه‌ها باید میان درخواست‌های علمی مشروع و درخواست‌هایی که می‌توانند به‌طور مستقیم به فعالیت‌های زیان‌بار کمک کنند، تفاوت قائل شوند.
آنتروپیک اعلام کرد هنگام ارزیابی درخواست‌های زیستی بالقوه خطرناک، رویکردی محتاطانه در پیش گرفته است؛ زیرا نادیده گرفتن قصدهای مخرب می‌تواند پیامدهای جدی داشته باشد. با این حال، تدابیر بیش از حد محدودکننده نیز ممکن است پژوهش‌های مشروع را مختل کنند و توسعه‌دهندگان را با تصمیم دشواری میان خطر فراهم‌کردن امکان سوءاستفاده و هزینه جلوگیری از کارهای مفید روبه‌رو سازند.
گزارش این شرکت دامنه گسترده‌تری از سوءاستفاده‌های ادعایی مرتبط با کلاد در هشت ماه گذشته را پوشش می‌دهد. از جمله موارد مطرح‌شده، فعالیت‌هایی منتسب به عوامل مرتبط با دولت‌های چین و ایران بود که جوامع مخالفان و مهاجران را هدف نظارت قرار داده بودند.
این ادعاها مجموعه‌ای گسترده‌تر از خطرات را نسبت به حملات سایبری که معمولاً در بحث‌های عمومی درباره امنیت هوش مصنوعی مطرح می‌شوند، نشان می‌دهد. سامانه‌های پیشرفته ممکن است برای نظارت بر جمعیت‌های آسیب‌پذیر یا کمک به دنبال‌کردن اهداف علمی خطرناک مورد سوءاستفاده قرار گیرند. همچنین نگرانی‌های بنیادی‌تری درباره این موضوع وجود دارد که آیا عامل‌های هوش مصنوعی هرچه توانمندتر می‌شوند، همچنان به‌طور قابل اتکا از خواسته‌های انسانی پیروی خواهند کرد یا نه؛ هرچند اندازه آسیب‌های واقعی در دنیای بیرون بر اساس موارد ثبت‌شده در پژوهش‌ها یا بررسی‌های شرکت‌ها هنوز به‌سختی قابل تعیین است.
افشاگری‌های آنتروپیک تصویری از فشارهای متضادی ارائه می‌دهد که توسعه‌دهندگان هوش مصنوعی با آن روبه‌رو هستند: حفاظت از فناوری اختصاصی، حمایت از پژوهش‌های علمی مشروع و محدودکردن سوءاستفاده‌های احتمالی. ارقام جدید این شرکت نشان می‌دهد موانع فنی می‌توانند برخی تلاش‌ها برای استخراج مدل‌ها را مختل کنند، اما پرسش گسترده‌تر درباره میزان توانایی شرکت‌ها در جلوگیری از استفاده مخرب از قابلیت‌های قدرتمند هوش مصنوعی همچنان بدون پاسخ باقی مانده است.