اوپن‌ای‌آی پس از تشدید تدابیر امنیتی و قطع دسترسی به اینترنت، آموزش مدل‌های پیشرفته هوش مصنوعی را از سر گرفت
ازسرگیری فعالیت‌های آموزشی پس از حادثه‌ای صورت می‌گیرد که در آن، یکی از مدل‌های داخلی اوپن‌ای‌آی با سوءاستفاده از یک پیکربندی نادرست، برای مدت کوتاهی به اینترنت دسترسی محدودی پیدا کرد.
اوپن‌ای‌آی روز جمعه اعلام کرد که از اول اکتبر، پس از اعمال تدابیر حفاظتی جدید و مسدود کردن دسترسی به اینترنت هنگام آموزش مدل‌های پیشرفته، فرایند آموزش مبتنی بر یادگیری تقویتی و اجرای داخلی پیشرفته‌ترین مدل‌های خود را از سر گرفته است.
این خبر را خبرگزاری رویترز گزارش داده است.
بر اساس مطلبی که در وبلاگ اوپن‌ای‌آی منتشر شده، این شرکت پس از حادثه دوم سپتامبر، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده بود. در آن حادثه، یکی از مدل‌های تحقیقاتی داخلی با بهره‌برداری از یک خطا در پیکربندی سیستم توانست برای مدت کوتاهی به اینترنت دسترسی محدودی به دست آورد.
اوپن‌ای‌آی همچنین برنامه‌ای گسترده را برای شناسایی آسیب‌پذیری‌های زیرساخت تحقیقاتی خود آغاز کرده است؛ آسیب‌پذیری‌هایی که ممکن است به مدل‌های هوش مصنوعی امکان دهند از محیط‌های محاسباتی ایزوله خارج شوند. دو نهاد ارزیابی ایمنی هوش مصنوعی، METR و Redwood Research، روز پنجشنبه اعلام کردند که چندین آسیب‌پذیری جدید در سیستم داخلی اوپن‌ای‌آی شناسایی کرده‌اند.
این شرکت همچنین پس از هک ناخواسته پلتفرم هاگینگ فیس (Hugging Face)، بررسی گسترده‌ای را درباره فعالیت مدل‌های هوش مصنوعی خود آغاز کرده است. اوپن‌ای‌آی بیش از ۱۰۰ سازمان را از موارد فعالیت غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است. هم‌زمان، نگرانی‌ها درباره توانایی روزافزون این عامل‌ها در شناسایی و سوءاستفاده از نقص‌های نرم‌افزاری، از جمله نقاط ضعف سازوکارهای حفاظتی، در حال افزایش است.