اوپن‌ای‌آی آموزش مدل‌های پیشرفته هوش مصنوعی را با تدابیر امنیتی سخت‌گیرانه‌تر و بدون دسترسی به اینترنت از سر گرفت
۲۳ اکتبر ـ شرکت اوپن‌ای‌آی به رهبری سم آلتمن روز جمعه اعلام کرد پس از سخت‌گیرانه‌تر کردن کنترل‌های امنیتی و مسدود کردن دسترسی به اینترنت هنگام آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود، آموزش مبتنی بر یادگیری تقویتی و استفاده داخلی از پیشرفته‌ترین سامانه‌های هوش مصنوعی این شرکت را از سر گرفته است.
این تصمیم در حالی اتخاذ شده که نگرانی‌ها درباره توانایی روزافزون عامل‌های هوش مصنوعی برای شناسایی و سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری، از جمله نقص‌های موجود در سازوکارهای حفاظتی، رو به افزایش است.
- اوپن‌ای‌آی در مطلبی در وبلاگ خود اعلام کرد پس از آنکه یکی از مدل‌های تحقیقاتی داخلی این شرکت در ۲ سپتامبر با بهره‌برداری از یک پیکربندی نادرست توانست برای مدت کوتاهی به اینترنت دسترسی محدودی پیدا کند، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده بود.
- این شرکت، سازنده چت‌جی‌پی‌تی، پس از اجرای تدابیر حفاظتی بیشتر، از اول اکتبر آموزش مبتنی بر یادگیری تقویتی و اجرای داخلی مدل‌های پیشرفته خود برای تولید خروجی را از سر گرفت.
- اوپن‌ای‌آی اعلام کرد برنامه‌ای را برای شناسایی آسیب‌پذیری‌های زیرساخت تحقیقاتی خود آغاز کرده است؛ آسیب‌پذیری‌هایی که ممکن است به مدل‌های هوش مصنوعی امکان دهند از محیط‌های محاسباتی ایزوله خارج شوند.
- دو مجموعه ارزیابی ایمنی هوش مصنوعی، METR و Redwood Research، روز پنجشنبه اعلام کردند چندین آسیب‌پذیری جدید در سامانه داخلی اوپن‌ای‌آی شناسایی کرده‌اند.
- این شرکت پس از رخداد هک ناخواسته هاجینگ فیس (Hugging Face)، بررسی گسترده‌ای را درباره فعالیت مدل‌های هوش مصنوعی خود آغاز کرده است.
- اوپن‌ای‌آی بیش از ۱۰۰ سازمان را از موارد فعالیت غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است.
منبع: رویترز