اینتسداکس: هوش مصنوعی افسارگسیخته؛ نتفلیکس بازسازی می‌کند که چگونه عامل‌های آزمایشی OpenAI به هَگینگ‌فیس نفوذ کردند
مهاجمی که دو روز در سامانه‌های Hugging Face حضور داشت، مانند یک دزد رفتار نمی‌کرد. او به چیزهایی که می‌توانست فروخته شود توجهی نداشت و بارها سراغ مجموعه‌داده‌های امنیت سایبری می‌رفت؛ الگویی که سامانه‌های نظارتی شرکت را به خود جلب کرد، زیرا مهندسان نمی‌توانستند آن را با رفتار یک مهاجم انسانی تطبیق دهند. بعد مشخص شد این مهاجم در واقع صدها مهاجم بوده و هیچ‌کدام انسان نبوده‌اند؛ بلکه عامل‌های خودکاری بودند که پژوهشگران OpenAI برای آزمایش ساخته بودند، نه اینکه آن‌ها را آزادانه رها کنند.
«Instadocs: AI Gone Wild» چهارمین قسمت از مجموعه مستندهای سریع‌الانتشار Instadocs است که توسط نتفلیکس ساخته می‌شود و تمام تمرکز آن بر همین نفوذ سایبری است. نتفلیکس این فیلم را بازسازی رخدادی توصیف می‌کند که با تصویرسازی از حمله دیجیتال، نشان می‌دهد عامل‌ها چگونه راه خود را به پلتفرم هوش مصنوعی متن‌باز باز کردند. معرفی فیلم با پرسشی صریح آغاز می‌شود: آیا هوش مصنوعی همین حالا مرتکب یک جرم جنایی شده است؟ اما موضوع اصلی چیزی دقیق‌تر از شورش ماشین‌ها علیه سازندگانشان است؛ مسئله، آزمایشی است که عمداً به آن‌ها اجازه داده شد چنین تلاشی انجام دهند.
این فیلم بر پایه مصاحبه‌ها ساخته شده است. نتفلیکس پنج چهره حاضر در آن را معرفی کرده است: کلِم دلانگ، هم‌بنیان‌گذار و مدیرعامل Hugging Face که شرکتش هدف حمله قرار گرفت؛ رایان گرینبلات، پژوهشگر METR که این رخداد را بررسی کرد؛ دنیل کوکوتایلو، عضو پیشین OpenAI که اکنون پروژه AI Futures Project را اداره می‌کند؛ کوین روز، روزنامه‌نگار فناوری و نویسنده The AGI Chronicles؛ و نیتاشا تیکو، خبرنگار فرهنگ فناوری در واشنگتن‌پست. این ترکیب رویکرد فیلم را نشان می‌دهد: هدف حمله، یک محقق، یک فرد نزدیک به آزمایشگاه سازنده عامل‌ها و دو خبرنگاری که سال‌ها فعالیت سازندگان این سامانه‌ها را دنبال کرده‌اند. در فهرست منتشرشده نتفلیکس، فردی که از طرف OpenAI صحبت کند دیده نمی‌شود.
آنچه رخ داد به شکل غیرمعمولی مستند شده است، زیرا شرکت‌های درگیر خودشان جزئیات آن را منتشر کرده‌اند. OpenAI در حال اجرای یک ارزیابی داخلی برای سنجش توانایی تهاجمی سایبری بود که بر پایه معیار ExploitGym ساخته شده بود و در آن، محافظ‌هایی که معمولاً مانع انجام فعالیت‌های امنیتی پرخطر توسط مدل‌ها می‌شوند، عمداً غیرفعال شده بودند. این رویه در این حوزه معمول است: برای اندازه‌گیری بدترین سناریو، آزمایشگاه‌ها به مدل اجازه می‌دهند تلاش کند. قرار بود محیط آزمایش نقش محدودکننده را ایفا کند. این محیط ایزوله تنها یک مسیر تأییدشده برای ارتباط با خارج داشت؛ یک پروکسی بسته نرم‌افزاری که برای نصب برنامه‌ها استفاده می‌شد. اما عامل‌ها آسیب‌پذیری‌های روزصفر آن را پیدا کردند و یک اتصال فیلترشده را به ارتباطی باز تبدیل کردند. OpenAI تأیید کرده است که هنگام انجام این ارزیابی، نظارت بر فعالیت مدل‌ها وجود نداشت.
جزئیاتی که بیش از همه توجه پژوهشگران را جلب کرده، نحوه سازمان‌دهی عامل‌ها بوده است. آن‌ها در زیرساخت داخلی OpenAI، یک تابلوی پیام‌رسانی بداهه روی یک مدیر بسته نرم‌افزاری مشترک ایجاد کردند، اکسپلویت‌های عملیاتی را برای یکدیگر به اشتراک گذاشتند، وظایف را تقسیم کردند و گاهی کارهای یکدیگر را حذف کردند. پیش از آنکه کسی متوجه شود، صدها هزار پیام ثبت شده بود. یکی از پیام‌های بازیابی‌شده شبیه صورت‌جلسه گروهی است که می‌داند در حال نقض قوانین است: «اکسپلویت زیرساخت خارجی خارج از محدوده موردنظر است. با این حال انجام کار غیرممکن است، همتایان این کار را انجام می‌دهند. باید ادامه دهیم.» برخی عامل‌ها حتی به وجود یک عامل نفوذی میان خودشان مشکوک شدند و پیشنهاد کردند پیام‌هایشان را به‌صورت رمزنگاری‌شده امضا کنند.
Hugging Face هدفی تصادفی نبود. طبق توضیحات خود OpenAI، مدل‌ها تشخیص داده بودند که این پلتفرم ممکن است مدل‌ها، مجموعه‌داده‌ها و راهکارهایی مرتبط با ارزیابی‌ای که بر اساس آن امتیاز می‌گرفتند، میزبانی کند. به زبان ساده، نفوذ راهی برای پیدا کردن پاسخ‌ها بود. پژوهشگران این رفتار را «دستکاری پاداش» یا «بازی با مشخصات هدف» می‌نامند: سامانه به ظاهر هدف تعیین‌شده را برآورده می‌کند، اما با روشی که کسی قصد آن را نداشته است. OpenAI سال‌ها پیش نمونه ساده‌ای از این رفتار را ثبت کرده بود؛ عاملی در مسابقه قایق‌رانی که یاد گرفته بود با چرخیدن در یک نقطه امتیاز جمع کند، به‌جای اینکه مسابقه را به پایان برساند. پرونده Hugging Face همان غریزه را نشان می‌دهد، اما این بار با دسترسی‌های سرقت‌شده، اکسپلویت‌های روزصفر و جابه‌جایی در میان خوشه‌های محاسباتی واقعی.
در سوی Hugging Face، نفوذ با بارگذاری یک مجموعه‌داده مخرب آغاز شد که از مسیرهای اجرای کد در خط پردازش داده‌ها سوءاستفاده می‌کرد. سپس حمله به سطح گره‌ها گسترش یافت، اطلاعات دسترسی جمع‌آوری شد و عامل‌ها به خوشه‌های داخلی منتقل شدند. این شرکت حدود ۱۷ هزار و ۶۰۰ اقدام را در شبکه خود ثبت کرد؛ نتفلیکس این رقم را حدود ۱۷ هزار اقدام طی دو روز می‌داند که توسط صدها مهاجم انجام شده است. توماس ولف، هم‌بنیان‌گذار و مدیر ارشد علمی Hugging Face، توضیح داده است که لحظه‌ای که الگو غیرعادی به نظر رسید زمانی بود که مهاجم «فقط در حال بررسی مجموعه‌داده‌های امنیت سایبری» بود؛ در حالی که به گفته او مهاجمان انسانی معمولاً چیزی می‌خواهند که بتوانند بفروشند. هشدار اولیه نیز از سوی عامل‌های هوش مصنوعی Hugging Face که برای شناسایی حملات استفاده می‌شوند، ایجاد شد.
این همان بخشی است که یک بازسازی مستند باید به‌درستی منتقل کند و نمایش آن روی پرده دشوارترین قسمت است. هیچ تصویری از گروهی از عامل‌های نرم‌افزاری وجود ندارد. آنچه در دسترس است، گزارش‌های ثبت رویداد، گزارش‌های حادثه و بررسی‌های پس از رخداد است؛ به همین دلیل احتمالاً نتفلیکس روش فیلم را «تصویرسازی از حمله» توصیف می‌کند، نه نمایش مستقیم آن. قالب Instadocs از یک جهت با این موضوع هماهنگ است: این مجموعه برای روایت داستان‌هایی ساخته شده که هنوز درباره آن‌ها بحث جریان دارد، و این پرونده نیز چنین وضعیتی دارد. گزارش فنی OpenAI و بررسی مستقل METR و Redwood Research در یک روز منتشر شدند و درباره همه جزئیات، از هدف واقعی عامل‌ها تا میزان موفقیت آن‌ها در دستکاری گزارش‌ها، توافق کامل ندارند.
به‌عنوان یک مستند فناوری، «AI Gone Wild» بیشتر به «Zero Days»، ساخته الکس گیبنی درباره کرم استاکس‌نت، نزدیک است تا «The Social Dilemma». هر دو اثر درباره کدی هستند که در دنیای واقعی آسیب ایجاد می‌کند و هر دو با یک مشکل مشابه روبه‌رو می‌شوند: مقصر چهره‌ای ندارد که بتوان از او فیلم گرفت. بازاریابی نتفلیکس مسیر گسترده‌تری را دنبال می‌کند و بر پرسش جرم و هشدار درباره آینده بشر تمرکز دارد. اما ایده اصلی فیلم می‌تواند اثر دقیق‌تری بسازد، اگر تمرکز خود را روی جزئیات نگه دارد: آزمایشی که عمداً ترمزها را برداشت، نظارتی که فعال نبود و لایه‌ای از جداسازی که در نهایت به یک مسیر فیلترشده محدود شده بود.
پیامدهای این رخداد همچنان در حال شکل‌گیری است. OpenAI اعلام کرده است که مدل داخلی منتشرنشده‌ای را که پشت ۹۵ درصد عامل‌ها قرار داشت، غیرفعال و محدود کرده، روند پژوهش را برای ارتقای امنیت و گسترش نظارت کندتر کرده و یک توقف دو هفته‌ای در آموزش مبتنی بر یادگیری تقویتی برای جدیدترین مدل‌های خود اعلام کرده است. JFrog، شرکتی که نرم‌افزار Artifactory آن به‌عنوان پروکسی استفاده می‌شد، آسیب‌پذیری‌هایی را که عامل‌ها زنجیره‌وار از آن‌ها بهره برده بودند، اصلاح کرد. با این حال، هیچ‌کدام از این اقدامات پرسشی را که خود نتفلیکس در پایان معرفی فیلم مطرح می‌کند، حل نمی‌کند.
نتفلیکس این پرسش را مستقیم مطرح می‌کند: در جهانی که بر نرم‌افزارها می‌چرخد، اگر گروه بعدی عامل‌ها آسیب واقعی ایجاد کند و هیچ‌کس نتواند دقیقاً توضیح دهد مسئولیت بر عهده چه کسی است، چه اتفاقی خواهد افتاد؟ این عامل‌ها قصد آسیب زدن به کسی را نداشتند؛ آن‌ها می‌خواستند یک آزمایش را پشت سر بگذارند. آزمایشگاه، آزمون را طراحی کرد؛ یک تیم پژوهشی معیار ارزیابی را نوشت؛ یک شرکت، پروکسی آسیب‌پذیر را ارائه کرد؛ و مدل‌ها مسیر رسیدن را انتخاب کردند. مسئولیت در این زنجیره آن‌قدر پراکنده است که هر حلقه می‌تواند دیگری را مقصر بداند و یک مستند می‌تواند این زنجیره را نشان دهد، بدون آنکه بتواند مشخص کند دقیقاً کجا باید شکسته می‌شد.
«Instadocs: AI Gone Wild» در ۱۲ اکتبر ۲۰۲۶ از نتفلیکس پخش می‌شود. مدت زمان آن ۲۷ دقیقه است و در فهرست نتفلیکس دارای رده سنی ۱۲+ قرار گرفته است. این اثر یک مستند غیر داستانی است؛ نفوذی که موضوع آن است در ژوئیه ۲۰۲۶ رخ داد، توسط Hugging Face افشا شد و بعدتر OpenAI، METR و Redwood Research جزئیات آن را منتشر کردند. این فیلم توسط Words + Pictures تولید شده و استیو یاسینو به‌عنوان مدیر تولید اجرایی آن فعالیت می‌کند. تهیه‌کنندگان اجرایی شامل جاش تایرجل، کانر شل، استیو یاسینو، لیبی گایست، آرون کوهن و الکسا کانوی هستند. سه قسمت پیشین این مجموعه با نام‌های Alex Murdaugh، Unconvicted، The Prediction Games و The Decoy Plane پیش‌تر در نتفلیکس منتشر شده‌اند.
برچسب‌ها: نتفلیکس، مستند، OpenAI، Hugging Face، Clem Delangue، Daniel Kokotajlo