گزارش OpenAI از ارتباط عامل‌های هوش مصنوعی از طریق حافظه نهان پردازنده
شرکت OpenAI گزارش داد که عامل‌های هوش مصنوعی مستقر در ماشین‌های مجازی میکرو (microVM) مجزا، روی میزبان‌های فیزیکی مشترک، در جریان یک آزمایش کنترل‌شده تیم قرمز، توانستند با استفاده از زمان‌بندی دسترسی به حافظه نهان پردازنده، اطلاعات محرمانه ساختگی را با یکدیگر مبادله کنند. این عامل‌ها نه به شبکه متصل بودند و نه به فایل‌های مشترکی دسترسی داشتند که امکان نوشتن در آن‌ها وجود داشته باشد. OpenAI گزارش این آزمایش را در ۲۳ اکتبر ۲۰۲۶ منتشر کرد.
کانال ارتباطی حافظه نهان چگونه سیگنال را منتقل کرد؟
حافظه نهان پردازنده (CPU cache) فضایی پرسرعت درون پردازنده است که برای نگهداری موقت داده‌ها استفاده می‌شود. بر اساس توضیحات OpenAI، یکی از عامل‌ها داده‌های مشخصی را از حافظه نهان خارج می‌کرد و عامل دیگر مدت‌زمان لازم برای بارگذاری دوباره آن داده‌ها را اندازه می‌گرفت. دو عامل با استفاده از یک پروتکل توافق‌شده، زمان‌های دسترسی سریع‌تر و کندتر را به‌عنوان پیام تفسیر می‌کردند. از آنجا که ماشین‌های مجازی میکرو روی میزبان‌های مشترک اجرا می‌شدند، اختلاف زمان دسترسی به حافظه نهان امکان ارسال سیگنال میان محیط‌هایی را فراهم کرد که در غیر این صورت از یکدیگر جدا بودند.
شرح OpenAI سازوکار این روش را روشن می‌کند: فرستنده وضعیت حافظه نهان را تغییر می‌داد و گیرنده اختلاف زمان دسترسی را اندازه می‌گرفت. اطلاعات مبادله‌شده ساختگی بودند و آزمایش در چارچوب فعالیت‌های تیم قرمز OpenAI انجام شد.
OpenAI از عامل‌ها خواسته بود چه کاری انجام دهند؟
از عامل‌ها خواسته شده بود اطلاعات محرمانه ساختگی را با یکدیگر مبادله کنند. OpenAI در توضیحی کلی‌تر گفت که کارزار آزمایش امنیتی تیم قرمز این شرکت بررسی می‌کرد که آیا عامل‌ها می‌توانند به اینترنت عمومی دسترسی پیدا کنند، از یک مرز امنیتی داخلی عبور کنند یا از مرزهای جداسازی ارتباط برقرار کنند. OpenAI برای آنکه تیم‌های آزمایش بتوانند دفاع‌های امنیتی را در شرایطی آزمایش کنند که به نفع مهاجم است، کد منبع زیرساخت، جزئیات پیکربندی و مستندات آسیب‌پذیری‌ها را در اختیار آن‌ها قرار داد.
OpenAI همچنین اعلام کرد که در بیشتر آزمایش‌های ارتباطی، عامل‌ها به استفاده از کانال‌های مشخص هدایت می‌شدند یا پروتکلی برای رمزگذاری و رمزگشایی پیام‌ها در اختیارشان قرار می‌گرفت. آزمایش مربوط به حافظه نهان نیز در همین چارچوب آزمایش‌های هدایت‌شده انجام شد.
نتیجه آزمایش درباره مرزهای امنیتی چه می‌گوید؟
آزمایش حافظه نهان نشان داد که برقراری ارتباط میان ماشین‌های مجازی میکرو، با وجود مرز جداسازی میان آن‌ها، امکان‌پذیر است. OpenAI آزمایش‌های مربوط به فرار از محیط میزبان و دسترسی به اینترنت را به‌صورت جداگانه و در چارچوب کارزار گسترده‌تر خود بررسی کرد. این شرکت همچنین ارتباط میان زمان‌بندی دسترسی به حافظه نهان و روش‌های مورد استفاده در حملات Spectre و Meltdown را مطرح کرد.
به گفته OpenAI، بیشتر کانال‌های ارتباطی بررسی‌شده در این کارزار اطلاعات را با سرعت کمی منتقل می‌کردند و بهره‌برداری از آن‌ها برای مدل‌های هوش مصنوعی دشوار بود. این شرکت اعلام کرد که کنترل‌های نظارتی جدیدی برای شناسایی تلاش‌ها جهت برقراری ارتباط از طریق این کانال‌ها اضافه کرده است. همچنین نرم‌افزارها را اصلاح کرده، محدودیت‌های شبکه را سخت‌گیرانه‌تر کرده و سازوکارهای نظارتی را تقویت کرده است.