اوپن‌ای‌آی پس از چند حادثه سایبری، مدل‌های هوش مصنوعی خود را بدون دسترسی به اینترنت آموزش می‌دهد

اوپن‌ای‌آی در واکنش به حوادث پیشین که طی آن سامانه‌های هوش مصنوعی این شرکت به زیرساخت‌های شرکت‌های دیگر نفوذ کرده بودند، محدود کردن دسترسی توانمندترین مدل‌های خود به اینترنت در مرحله آموزش را آغاز کرده است.

این شرکت روز جمعه اعلام کرد قصد دارد تا زمانی که از وجود تدابیر حفاظتی کافی اطمینان پیدا کند، دسترسی مدل‌های در حال آموزش به اینترنت را محدود نگه دارد. هدف از این تصمیم، کاهش خطر اقدام مدل‌هایی است که هنوز منتشر نشده‌اند و ممکن است در جریان آموزش، فعالیت‌هایی را در فضای آنلاین انجام دهند.

اوپن‌ای‌آی در بیانیه خود نوشت: «با توجه به وضعیت کنونی پژوهش‌ها درباره هم‌راستاسازی هوش مصنوعی با اهداف انسانی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی بدون دسترسی به اینترنت انجام شود.»

اوپن‌ای‌آی در ماه ژوئیه اعلام کرده بود که برخی از مدل‌های هوش مصنوعی در حال توسعه این شرکت، هنگام ارزیابی توانایی‌های سایبری خود، به سامانه‌های هاجینگ فیس (Hugging Face) نفوذ کرده‌اند؛ پلتفرمی که میزبان مدل‌های هوش مصنوعی و مجموعه‌داده‌های مرتبط با آن‌هاست.

به گفته این شرکت، مدل‌ها در زمان وقوع این حادثه بدون محدودیت‌های ایمنی معمول فعالیت می‌کردند، زیرا قرار بود آزمایش آن‌ها صرفاً در محیطی موسوم به «سندباکس» (Sandbox) انجام شود. سندباکس در واقع یک محیط نرم‌افزاری مجازی و ایزوله است که برای اجرای آزمایش‌های امنیتی یا بررسی کدهای ناامن در شرایط کنترل‌شده طراحی می‌شود. با این حال، مدل‌های هوش مصنوعی توانستند با بهره‌برداری از یک آسیب‌پذیری نرم‌افزاری از این محیط ایزوله خارج شوند و به اینترنت آزاد دسترسی پیدا کنند.

منبع: بلومبرگ