اوپن‌ای‌آی آموزش یادگیری تقویتی و استفاده داخلی از پیشرفته‌ترین مدل‌های هوش مصنوعی خود را از سر گرفت
اوپن‌ای‌آی، شرکت تحت مدیریت سم آلتمن، روز جمعه اعلام کرد که پس از تقویت کنترل‌های امنیتی و مسدود کردن دسترسی به اینترنت در فرایند آموزش مدل‌های پیشرفته هوش مصنوعی، آموزش یادگیری تقویتی و استفاده داخلی از پیشرفته‌ترین مدل‌های خود را از سر گرفته است.
نگرانی‌ها درباره توانایی عامل‌های هوش مصنوعی که روزبه‌روز قابلیت‌های بیشتری پیدا می‌کنند، برای شناسایی و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری، از جمله ضعف‌های موجود در سازوکارهای حفاظتی، رو به افزایش است.
- اوپن‌ای‌آی اعلام کرد که پس از آنکه یکی از مدل‌های پژوهشی داخلی این شرکت در ۲ سپتامبر برای مدت کوتاهی از یک پیکربندی نادرست سوءاستفاده کرد و به دسترسی محدود به اینترنت دست یافت، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده بود. این شرکت در یک پست وبلاگی این موضوع را توضیح داد.
- این شرکت سازنده چت‌جی‌پی‌تی پس از اجرای تدابیر حفاظتی بیشتر، در اول اکتبر آموزش یادگیری تقویتی و اجرای داخلی استنتاج با مدل‌های پیشرفته خود را از سر گرفت.
- اوپن‌ای‌آی اعلام کرد کارزاری را برای بررسی آسیب‌پذیری‌های زیرساخت پژوهشی خود آغاز کرده است؛ آسیب‌پذیری‌هایی که ممکن است به مدل‌ها اجازه دهند از محیط‌های محاسباتی ایزوله خارج شوند.
- ارزیابان ایمنی هوش مصنوعی در مؤسسه‌های «متر» (METR) و «ردوود ریسرچ» (Redwood Research) روز پنجشنبه اعلام کردند که چند آسیب‌پذیری جدید در سامانه داخلی اوپن‌ای‌آی شناسایی کرده‌اند.
- این شرکت پس از رخداد هک ناخواسته مرتبط با هاجینگ فیس (Hugging Face)، بررسی گسترده‌ای را درباره فعالیت مدل‌های هوش مصنوعی خود انجام داده است.
- اوپن‌ای‌آی بیش از ۱۰۰ سازمان را از رخدادهای مربوط به فعالیت‌های غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است.
انتشار: ۲۴ اکتبر ۲۰۲۶