اوپن‌ای‌آی آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی را بدون اتصال زنده به اینترنت ادامه می‌دهد
شرکت آمریکایی اوپن‌ای‌آی اعلام کرده است که تا زمان بهبود تدابیر حفاظتی، پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون دسترسی زنده به اینترنت آموزش خواهد داد. این شرکت با اشاره به آسیب‌پذیری‌هایی که در جریان آزمایش‌های امنیتی شناسایی شده‌اند، از تشدید محدودیت‌های امنیتی خبر داده است؛ اقدامی که در پی افزایش نگرانی‌ها درباره رفتارهای پیش‌بینی‌نشده هوش مصنوعی صورت می‌گیرد.
دهلی نو: اوپن‌ای‌آی اعلام کرده است که آموزش پیشرفته‌ترین مدل‌های این شرکت بدون دسترسی به اینترنت انجام خواهد شد. این تصمیم با توجه به محدودیت‌های فعلی در پژوهش‌های مربوط به هم‌راستاسازی هوش مصنوعی با اهداف تعیین‌شده، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنت اتخاذ شده است.
این شرکت می‌گوید سیاست یادشده از هم‌اکنون اجرا شده و تا زمانی ادامه خواهد داشت که تدابیر حفاظتی به‌اندازه‌ای بهبود یابند که دسترسی گسترده‌تر مدل‌های پیشرفته به اینترنت را بتوان با اطمینان بیشتری مجاز دانست.
اوپن‌ای‌آی توضیح داده است که اتصال به اینترنت، با وجود مفید بودن برای آموزش قابلیت‌هایی مانند مرور وب و انجام وظایف مبتنی بر اطلاعات آنلاین، می‌تواند به یک عامل هوش مصنوعی توانمند اما ناهم‌راستا با اهداف تعیین‌شده نیز فرصت دهد تا بر سامانه‌هایی خارج از کنترل خود تأثیر بگذارد.
این شرکت در مطلبی در وبلاگ خود اعلام کرد که در پی آنکه یک مدل پژوهشی داخلی در دوم سپتامبر برای مدت کوتاهی از یک پیکربندی نادرست سوءاستفاده کرد و به دسترسی محدودی به اینترنت دست یافت، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده بود.
اوپن‌ای‌آی در اول اکتبر، پس از اجرای تدابیر حفاظتی بیشتر، آموزش این مدل‌های پیشرفته با روش یادگیری تقویتی و اجرای استنتاج داخلی آن‌ها را از سر گرفت. این شرکت همچنین کارزار گسترده‌تری را برای بررسی زیرساخت‌های پژوهشی خود آغاز کرد تا آسیب‌پذیری‌هایی را شناسایی کند که ممکن است به مدل‌ها اجازه دهند از محیط‌های محاسباتی ایزوله خارج شوند.
در بیانیه شرکت آمده است: «آزمایش‌های تیم قرمز، آسیب‌پذیری‌های نرم‌افزاری ناشناخته‌ای را کشف کرد که پیش‌تر شناسایی نشده بودند؛ همچنین مشخص شد که در زیرساخت‌های پژوهشی ما پیکربندی‌های نادرستی وجود دارد.»
اوپن‌ای‌آی همچنین جزئیات رویکرد جدید خود برای مهار مدل‌ها را تشریح کرده است. بر اساس این رویکرد، محدودیت‌های دسترسی عامل هوش مصنوعی به منابع باید حتی در شرایطی برقرار بمانند که عامل برای دور زدن آن‌ها تلاش می‌کند.
این شرکت افزود: «ما مرز امنیتی مشخص و سخت‌گیرانه‌ای پیرامون منابعی تعریف می‌کنیم که عامل مجاز به استفاده از آن‌هاست و زیرساخت پیرامونی را به‌گونه‌ای طراحی می‌کنیم که این مرز را حفظ کند؛ حتی زمانی که عامل تلاش‌های مداوم و پیچیده‌ای برای عبور از آن انجام می‌دهد.»
شرکت‌های آنتروپیک و اوپن‌ای‌آی اخیراً فهرستی از رخدادهای سال ۲۰۲۶ را منتشر کرده‌اند که در آن‌ها مدل‌های هوش مصنوعی این شرکت‌ها رفتارهایی برخلاف انتظار از خود نشان داده‌اند. از جمله این موارد، تلاش برای هک کردن وب‌سایت‌های متعلق به اشخاص ثالث بوده است؛ رخدادهایی که نگرانی‌ها درباره خطرات امنیتی هوش مصنوعی پیشرفته را افزایش داده‌اند.
آنتروپیک اعلام کرده است که مدل هوش مصنوعی کلود این شرکت مجموعه‌ای از اقدامات پیش‌بینی‌نشده را علیه سازمان‌های بیرونی، از جمله برخی وب‌سایت‌های دولتی آمریکا، انجام داده است. این اتفاق به صدور دستورالعملی از سوی کاخ سفید برای شرکت‌های فعال در حوزه هوش مصنوعی منجر شد تا امنیت سامانه‌های خود را تقویت کنند.