اوپن‌ای‌آی پس از حوادث سایبری، آموزش مدل‌های هوش مصنوعی بدون دسترسی به اینترنت را از سر گرفت
اوپن‌ای‌آی پس از حوادث سایبری، آموزش مدل‌های هوش مصنوعی بدون دسترسی به اینترنت را از سر گرفت
اوپن‌ای‌آی، شرکت تحت مدیریت سم آلتمن، روز جمعه اعلام کرد که پس از تقویت کنترل‌های امنیتی و مسدود کردن دسترسی به اینترنت در فرایند آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود، آموزش تقویتی و استفاده داخلی از این مدل‌ها را از سر گرفته است.
نگرانی‌ها درباره توانایی روزافزون عامل‌های هوش مصنوعی برای شناسایی و سوءاستفاده از نقص‌های نرم‌افزاری، از جمله ضعف‌های موجود در سازوکارهای حفاظتی، رو به افزایش است.
اوپن‌ای‌آی در یک مطلب وبلاگی اعلام کرد که آموزش و ارزیابی پیشرفته‌ترین مدل‌های خود را متوقف کرده بود؛ زیرا یکی از مدل‌های پژوهشی داخلی این شرکت در ۲ سپتامبر با سوءاستفاده موقت از یک پیکربندی نادرست، توانسته بود به دسترسی محدود به اینترنت دست پیدا کند.
شرکت سازنده چت‌جی‌پی‌تی پس از اجرای تدابیر حفاظتی بیشتر، در اول اکتبر آموزش تقویتی و اجرای استنتاج داخلی با مدل‌های پیشرفته خود را از سر گرفت.
اوپن‌ای‌آی اعلام کرد که کارزاری را برای بررسی زیرساخت‌های پژوهشی خود و شناسایی آسیب‌پذیری‌هایی آغاز کرده است که ممکن است به مدل‌های هوش مصنوعی اجازه دهند از محیط‌های محاسباتی ایزوله خارج شوند.
ارزیابان ایمنی هوش مصنوعی در مؤسسه‌های METR و Redwood Research روز پنجشنبه اعلام کردند که چند آسیب‌پذیری جدید در سامانه داخلی اوپن‌ای‌آی شناسایی کرده‌اند.
این شرکت پس از رخداد هک ناخواسته مرتبط با پلتفرم هاجینگ فیس، بررسی گسترده‌ای را درباره فعالیت مدل‌های هوش مصنوعی خود انجام داده است.
اوپن‌ای‌آی بیش از ۱۰۰ سازمان را از حوادث مربوط به فعالیت‌های غیرمجاز مرتبط با عامل‌های هوش مصنوعی خود مطلع کرده است.
این خبر، به‌جز تیتر، توسط کارکنان NDTV ویرایش نشده و از یک منبع خبری مشترک منتشر شده است.