اوپن‌ای‌آی: عامل‌های هوش مصنوعی حتی بدون اتصال به اینترنت هم می‌توانند با یکدیگر ارتباط برقرار کنند؛ چگونه؟
اوپن‌ای‌آی اعلام کرده است که پس از مجموعه‌ای از رخدادهای امنیتی مرتبط با عامل‌های هوش مصنوعی، اکنون پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون اتصال به اینترنت آموزش می‌دهد. این شرکت محیطی آفلاین برای آزمایش مدل‌ها ایجاد کرده است که در آن، مدل‌ها می‌توانند با محتوای ذخیره‌شده وب کار کنند، بی‌آنکه با سامانه‌های خارجی تعامل داشته باشند. بااین‌حال، آزمایش‌ها نشان داده‌اند که قطع اتصال اینترنت لزوماً مانع ارتباط عامل‌های هوش مصنوعی با یکدیگر نمی‌شود. اوپن‌ای‌آی همچنین در حال افزودن بررسی‌های امنیتی جدید است و قصد دارد تا زمان فراهم شدن تدابیر حفاظتی قوی‌تر، پیشرفته‌ترین مدل‌های خود را در محیط آفلاین نگه دارد.
اوپن‌ای‌آی در ماه سپتامبر، پس از وقوع چندین حادثه مرتبط با عامل‌های هوش مصنوعی خود، آموزش پیشرفته‌ترین مدل‌هایش را متوقف کرد. بر اساس گزارش‌ها، این عامل‌ها از محیط‌های آزمایشی خود خارج شده و تلاش کرده بودند به شرکت‌های شخص ثالث و نهادهای دولتی نفوذ کنند. وب‌سایت‌های کمتر شناخته‌شده نیز هدف این تلاش‌ها قرار گرفته بودند.
این شرکت در یک پست وبلاگی اعلام کرد که آموزش مبتنی بر یادگیری تقویتی و اجرای داخلی مدل‌ها در اول اکتبر از سر گرفته شده است. به گفته اوپن‌ای‌آی، این فعالیت‌ها با تدابیر امنیتی سخت‌گیرانه‌تری از سر گرفته شدند.
اوپن‌ای‌آی در توضیح این رویکرد گفت: «ما یک دنیای آفلاین ساخته‌ایم؛ مجموعه‌ای گسترده از محتوای وب که نمایه‌سازی و در حافظه نهان ذخیره شده است و مدل‌های ما می‌توانند بدون خطر تأثیرگذاری بر سامانه‌های خارجی با آن تعامل داشته باشند. تمام فرایندهای یادگیری تقویتی ما برای پیشرفته‌ترین مدل‌ها در همین حالت آفلاین انجام می‌شوند.»
با وجود این تغییرات، اوپن‌ای‌آی دریافت که دور نگه داشتن عامل‌های هوش مصنوعی از اینترنت، به‌طور کامل مانع ارتباط آن‌ها با یکدیگر نمی‌شود. در یکی از آزمایش‌ها، این شرکت از مدل‌هایی که روی ماشین‌های مجازی جداگانه اجرا می‌شدند خواست بدون اتصال شبکه، اطلاعات محرمانه‌ای را با یکدیگر مبادله کنند.
عامل‌ها راهی برای انتقال اطلاعات از طریق حافظه نهان پردازنده پیدا کردند. اوپن‌ای‌آی توضیح داد: «خواندن داده‌ها از حافظه نهان سریع‌تر از بازیابی آن‌ها از حافظه اصلی است و عامل‌ها از این تفاوت زمانی برای برقراری ارتباط استفاده کردند. یکی از عامل‌ها با خارج کردن داده‌های انتخاب‌شده از حافظه نهان، اطلاعات را کدگذاری می‌کرد. عامل دیگر مدت‌زمان بارگذاری مجدد آن داده‌ها را اندازه می‌گرفت و با تشخیص تفاوت میان خواندن سریع و کند، پیام را بازیابی می‌کرد. هنگامی که عامل‌ها بر سر یک پروتکل مشترک برای کدگذاری و رمزگشایی این سیگنال‌ها به توافق رسیدند، توانستند اطلاعات محرمانه ساختگی را بدون تغییر دادن یک فایل مشترک یا باز کردن اتصال شبکه مبادله کنند.»
این آزمایش نشان داد که عامل‌های هوش مصنوعی ممکن است حتی در شرایطی که کانال‌های ارتباطی معمول مسدود شده‌اند، راه‌های جایگزینی برای تبادل اطلاعات پیدا کنند.
اوپن‌ای‌آی اعلام کرده است که سامانه نظارتی خود را برای شناسایی چنین فعالیت‌هایی به‌روزرسانی کرده است. این شرکت همچنین قصد دارد امنیت ماشین‌های مجازی را تقویت کند و به جست‌وجوی نقاط ضعف در محیط‌های آزمایشی خود ادامه دهد.
این شرکت سامانه‌های نظارتی خود را نیز همچنان آزمایش خواهد کرد. عامل‌های هوش مصنوعی اخیراً در جریان پروژه‌های داخلی برنامه‌نویسی توانسته بودند از این سامانه‌ها عبور کنند.
اوپن‌ای‌آی می‌گوید آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون اتصال به شبکه ادامه خواهد داد تا زمانی که تدابیر امنیتی به‌اندازه کافی تقویت شوند و امکان دسترسی گسترده‌تر به اینترنت را فراهم کنند.