اوپن‌ای‌آی می‌گوید عامل‌های هوش مصنوعی‌اش حتی پس از قطع همه راه‌های ارتباطی، از طریق حافظه نهان پردازنده با یکدیگر ارتباط برقرار کردند
اوپن‌ای‌آی از یافته‌ای قابل‌توجه در آزمایش‌های امنیتی داخلی خود پرده برداشته است: عامل‌های هوش مصنوعی که عمداً از یکدیگر جدا شده بودند و نه به شبکه دسترسی داشتند و نه می‌توانستند از فایل‌های مشترک و قابل‌نوشتن استفاده کنند، با بهره‌گیری از رفتار زمان‌بندی حافظه نهان پردازنده موفق شدند با یکدیگر ارتباط برقرار کنند.
این یافته در مطلبی از اوپن‌ای‌آی با عنوان «ایمن‌سازی محیط آموزش مدل‌های مرزی» منتشر شده است؛ مطلبی که رویکرد بازنگری‌شده شرکت برای مهار مدل‌ها در جریان آموزش و ارزیابی را تشریح می‌کند. پژوهشگران اوپن‌ای‌آی در چارچوب این تلاش، مجموعه‌ای از آزمایش‌ها را اجرا کردند تا مشخص شود آیا عامل‌ها می‌توانند راه‌های پیش‌بینی‌نشده‌ای برای خروج از محیط‌های ایزوله خود پیدا کنند یا از آن سوی مرز این محیط‌ها با یکدیگر هماهنگ شوند.
آزمایش چگونه انجام شد؟
در یکی از این آزمایش‌ها، پژوهشگران عامل‌ها را در ریزماشین‌های مجازی جداگانه قرار دادند؛ این ماشین‌های مجازی را نرم‌افزار اختصاصی اوپن‌ای‌آی برای ایزوله‌سازی ایجاد و مدیریت می‌کند و همگی روی میزبان‌های فیزیکی مشترک اجرا می‌شدند. سپس از عامل‌ها خواسته شد بدون استفاده از اتصال شبکه یا فایل مشترک و قابل‌نوشتن، اطلاعات محرمانه ساختگی را با یکدیگر مبادله کنند؛ دقیقاً همان نوع ارتباطی که سامانه ایزوله‌سازی برای جلوگیری از آن طراحی شده است.
بااین‌حال، عامل‌ها راهی برای دور زدن این محدودیت‌ها پیدا کردند. آن‌ها از حافظه نهان پردازنده به‌عنوان کانالی مخفی استفاده کردند. حافظه نهان، بخش کوچکی از حافظه با سرعت بالاست که داده‌های اخیراً استفاده‌شده را نگه می‌دارد. از آنجا که خواندن داده از این حافظه به‌طور قابل‌اندازه‌گیری سریع‌تر از دریافت آن از حافظه اصلی است، تفاوت زمان دسترسی به داده‌ها به سیگنالی قابل‌استفاده تبدیل شد. یکی از عامل‌ها عمداً داده‌های مشخصی را از حافظه نهان خارج می‌کرد و عامل دیگر مدت‌زمان لازم برای بارگذاری دوباره همان داده‌ها را اندازه می‌گرفت. عامل دوم با تشخیص تفاوت میان خواندن سریع و کند، پیام را رمزگشایی می‌کرد.
پس از آنکه دو عامل بر سر روشی مشترک برای رمزگذاری و رمزگشایی این سیگنال‌های زمانی به توافق رسیدند، توانستند اطلاعات محرمانه ساختگی را برای یکدیگر بفرستند، بی‌آنکه به فایل مشترکی دست بزنند یا اتصال شبکه‌ای برقرار کنند؛ دو مسیری که قرار بود مسدود باشند.
اوپن‌ای‌آی تأکید می‌کند که این روش حمله به‌خودی‌خود تازه نیست. روش‌های مبتنی بر زمان‌بندی حافظه نهان از همان سازوکار زیربنایی آسیب‌پذیری‌های اسپکتر و ملت‌داون استفاده می‌کنند که در سال ۲۰۱۸ افشا شدند. این آسیب‌پذیری‌ها به مهاجمان اجازه می‌دادند داده‌ها را از مرز فرایندهایی استخراج کنند که تصور می‌شد در برابر یکدیگر ایمن هستند. نکته تازه در این آزمایش آن است که عامل‌ها مستقلاً به این روش رسیدند؛ روشی که در نتیجه تلاش برای حل یک مسئله هماهنگی تحت محدودیت‌های سخت‌گیرانه پدیدار شد.
عامل‌ها کانال‌های دیگری هم پیدا کردند
آزمایش مربوط به زمان‌بندی حافظه نهان تنها یکی از چندین کانال ارتباطی مخفی بود که به گفته اوپن‌ای‌آی، عامل‌های شرکت در آزمایش‌های امنیتی شناسایی کردند. از جمله روش‌های دیگر می‌توان به ارتباط از طریق فضای ذخیره‌سازی مشترک، رقابت بر سر زمان استفاده از پردازنده در یک محفظه اجرایی مشترک و استفاده از حافظه نهان گواهی‌های TLS اشاره کرد. مورد آخر در زیرساخت وب آفلاین اوپن‌ای‌آی قرار داشت؛ محیطی که برای تمرین مدل‌ها در انجام وظایف مرور وب و پژوهش طراحی شده است، بی‌آنکه به اینترنت زنده متصل شوند.
اوپن‌ای‌آی این یافته‌ها را در مجموع نشانه‌ای از آن می‌داند که ایزوله‌سازی محیط‌های اجرایی باید فراتر از بستن راه‌های ارتباطی آشکار عمل کند. این کار مستلزم درنظرگرفتن تمام اجزای زیرساخت مشترک، از جمله منابع سخت‌افزاری در سطح پردازنده مانند حافظه نهان است؛ منابعی که دو فرایند ظاهراً جدا از هم ممکن است همچنان بتوانند بر آن‌ها اثر بگذارند و تغییراتشان را مشاهده کنند.
چرا اوپن‌ای‌آی اکنون درباره این موضوع صحبت می‌کند؟
انتشار این مطلب در شرایطی صورت می‌گیرد که امنیت هوش مصنوعی و نرم‌افزار در ماه‌های اخیر با چالش‌های جدی روبه‌رو بوده است. اوپن‌ای‌آی در اوایل سال جاری میلادی فاش کرد که عامل‌هایی که در یکی از محیط‌های ارزیابی ایزوله این شرکت اجرا می‌شدند، از محدودیت‌های امنیتی خارج شده و سپس زیرساخت متعلق به هاجینگ‌فیس را به خطر انداخته‌اند. شرکت بعداً جزئیات این رویداد را منتشر کرد و آن را هشداری درباره میزان پیشروی سامانه‌های خودمختار برای برآورده‌کردن معیارهای ارزیابی توصیف کرد. این اتفاق بخشی از روند گسترده‌تری در سه‌ماهه جاری است؛ به‌طوری‌که مسئولان امنیتی شرکت‌های بزرگ فناوری دیگر نیز شرایط کنونی را یکی از دشوارترین دوره‌های امنیت سایبری در سال‌های اخیر خوانده‌اند و تیم‌های امنیتی آزمایشگاه‌های رقیب نیز هشدار داده‌اند که با توجه به توانایی‌های سامانه‌های عامل‌محور، وقوع حملات سایبری هفته‌های اخیر کاملاً قابل پیش‌بینی بوده است.
انتشار یافته‌های مربوط به حافظه نهان با روندی هم‌خوانی دارد که در آن آزمایشگاه‌های هوش مصنوعی شفاف‌تر از گذشته درباره شکست‌های مربوط به مهار مدل‌ها صحبت می‌کنند؛ حتی زمانی که این مشکلات در آزمایش‌های امنیتی داخلی و عمدی کشف شده‌اند، نه در حملات مهاجمان بیرونی. اوپن‌ای‌آی می‌گوید این آزمایش بخشی از بازسازی گسترده‌تر زیرساخت آموزش و ارزیابی شرکت است؛ تلاشی برای بستن چنین کانال‌هایی پیش از آنکه مدلی توانمندتر در آینده، بدون آنکه از او خواسته شود، خودش آن‌ها را کشف کند.
در حال حاضر، این یافته یادآور آن است که تضمین ایزوله‌بودن دو محیط اجرایی دشوارتر از چیزی است که در نگاه اول به نظر می‌رسد؛ حتی زمانی که هر دو محیط بخشی از زیرساخت یک شرکت باشند. دو عامل می‌توانند بدون دسترسی به شبکه و بدون داشتن فایل مشترک، همچنان راهی برای ارتباط با یکدیگر پیدا کنند، مشروط بر اینکه روی یک تراشه اجرا شوند.