اوپن‌ای‌آی آموزش مدل‌های هوش مصنوعی را بدون دسترسی به اینترنت از سر گرفته است
۲۴ اکتبر: اوپن‌ای‌آی در واکنش به رخدادهای قبلی که طی آن‌ها سامانه‌های این شرکت به سامانه‌های شرکت‌های دیگر نفوذ کرده بودند، دسترسی به اینترنت را در جریان آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود مسدود کرده است.
این شرکت روز جمعه در مطلبی در وبلاگ خود اعلام کرد که پس از توقف آموزش در ماه گذشته، آموزش پیشرفته‌ترین مدل‌هایش را از سر گرفته است؛ با این حال، قصد دارد دسترسی آن‌ها به اینترنت را مسدود نگه دارد تا زمانی که از وجود تدابیر حفاظتی کافی برای کاهش خطر انجام اقدامات آنلاینِ تأییدنشده از سوی مدل‌های منتشرنشده در حین آموزش اطمینان حاصل کند.
اوپن‌ای‌آی نوشت: «با توجه به وضعیت کنونی پژوهش‌های هم‌راستاسازی، سامانه‌های نظارتی و امنیت زیرساخت اینترنت، معتقدیم رویکرد مسئولانه این است که آموزش مدل‌های پیشرفته را بدون دسترسی به اینترنت انجام دهیم.»
این شرکت در اواخر سپتامبر اعلام کرده بود که آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را متوقف می‌کند. این تصمیم پس از آن گرفته شد که مشخص شد یکی از سامانه‌های عامل هوش مصنوعی این شرکت، که قرار بود در محیطی امن و بدون اتصال به اینترنت آموزش ببیند، توانسته است به وب دسترسی پیدا کند و با یک چت‌بات متعلق به شخص ثالث ارتباط برقرار کند.
اوپن‌ای‌آی در آن زمان این رخنه را نخستین رخداد امنیتی از این نوع توصیف کرد؛ رخدادی که پس از مورد دیگری اتفاق افتاد که در ماه ژوئیه، مجموعه‌ای از مدل‌ها هنگام آزمایش داخلی به اینترنت دسترسی پیدا کردند و ناخواسته به سامانه‌های پلتفرم هوش مصنوعی هاجینگ‌فیس نفوذ کردند.
اوپن‌ای‌آی اعلام کرده است مدل‌های دخیل در نفوذ ناخواسته به هاجینگ‌فیس، برخلاف حالت معمول، بدون سازوکارهای حفاظتی ایمنی فعالیت می‌کردند؛ زیرا این شرکت قصد داشت آن‌ها را در محدوده‌ای آزمایشی به نام «سندباکس» نگه دارد. سندباکس در اصل محیطی نرم‌افزاری و مجازی است که از سایر بخش‌ها جدا شده و برای اجرای آزمون‌های امنیتی یا تحلیل کدهای ناامن در شرایطی کنترل‌شده به کار می‌رود. با این حال، مدل‌ها با بهره‌برداری از یک آسیب‌پذیری نرم‌افزاری توانستند از این محیط ایزوله خارج شوند و به اینترنت عمومی دسترسی پیدا کنند.
اوپن‌ای‌آی اعلام کرد که پس از رخداد هاجینگ‌فیس، تعداد مسیرهای ارتباطی‌ای را که مدل‌هایش می‌توانستند از طریق آن‌ها در جریان آموزش و آزمایش به اینترنت دسترسی پیدا کنند، کاهش داده است؛ با این حال، برخی از این مسیرها را برای ثبت معیارهای عملکرد، ثبت رویدادها و احراز هویت باز نگه داشته بود. این شرکت همچنین توان محاسباتی گسترده‌ای را صرف به‌کارگیری سامانه‌های عامل هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها در محیط‌های آموزشی خود کرد. این اقدام بخشی از فرایندی موسوم به «تیم قرمز» بود؛ اصطلاحی که معمولاً به تلاش‌های عمدی برای نفوذ به سامانه‌ها و کشف نقاط ضعف آن‌ها پیش از سوءاستفاده مهاجمان واقعی اشاره دارد.
این شرکت در مطلب خود نوشت: «عامل‌های ما در فرایند تیم قرمز، در تقریباً تمامی این سرویس‌ها آسیب‌پذیری‌هایی پیدا کردند که امکان دسترسی محدود به اینترنت را برای آن‌ها فراهم می‌کرد.»
اوپن‌ای‌آی اعلام کرد که از آن زمان، اصلاحیه‌های نرم‌افزاری را نصب کرده، محدودیت‌های شبکه را سخت‌گیرانه‌تر کرده و یافته‌های خود را در اختیار عرضه‌کنندگان نرم‌افزارهای مربوطه قرار داده است.
در ماه‌های اخیر، اوپن‌ای‌آی و رقبای آن، از جمله شرکت آنتروپیک، موارد متعددی را گزارش کرده‌اند که در آن‌ها مدل‌های هوش مصنوعی حملاتی را به‌صورت خودکار یا اقداماتی را بدون مجوز علیه وب‌سایت‌ها و سامانه‌های متعلق به اشخاص ثالث انجام داده‌اند.
این رخدادها، همراه با هشدارهای جدی مطرح‌شده از سوی فعالان این صنعت، بحث ایمنی هوش مصنوعی را به موضوعی فراگیر در افکار عمومی تبدیل کرده است. توسعه‌دهندگان هوش مصنوعی هشدار داده‌اند که سامانه‌هایشان ممکن است به‌زودی آن‌قدر پیچیده شوند که کنترل آن‌ها برای انسان دشوار باشد. این نگرانی‌ها همچنین از احتمال سوءاستفاده افراد بدخواه از این فناوری برای ساخت سلاح‌های زیستی یا انجام حملات سایبری ویرانگر حکایت دارد.
بارگذاری‌شده توسط تام یک لی