در پی نگرانی از هوش مصنوعی سرکش، OpenAI آموزش پیشرفته‌ترین مدل‌های خود را بدون دسترسی به اینترنت ادامه می‌دهد
دهلی نو، ۲۴ اکتبر (IANS) ـ شرکت آمریکایی OpenAI اعلام کرده است که آموزش پیشرفته‌ترین مدل‌های هوش مصنوعی خود را بدون دسترسی به اینترنت زنده انجام می‌دهد. این تصمیم با توجه به محدودیت‌های کنونی در پژوهش‌های مربوط به هم‌راستاسازی هوش مصنوعی، سامانه‌های نظارتی و امنیت زیرساخت‌های اینترنتی اتخاذ شده است.
این شرکت اعلام کرد که این سیاست از پیش اجرا شده و تا زمانی ادامه خواهد یافت که تدابیر حفاظتی به اندازه‌ای بهبود پیدا کنند که دسترسی گسترده‌تر مدل‌های پیشرفته هوش مصنوعی به اینترنت قابل توجیه باشد.
به گفته OpenAI، اتصال به اینترنت اگرچه برای آموزش مدل‌ها در زمینه مرور وب و کسب مهارت‌های مبتنی بر وب مفید است، در عین حال این امکان را نیز فراهم می‌کند که یک عامل هوش مصنوعی توانمند اما فاقد هم‌راستایی مناسب، بر سامانه‌هایی خارج از حوزه کنترل خود تأثیر بگذارد.
این شرکت در مطلبی در وبلاگ خود توضیح داد که در پی رخدادی در دوم سپتامبر، آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرد. در آن رویداد، یک مدل پژوهشی داخلی برای مدت کوتاهی از پیکربندی نادرستی در سامانه سوءاستفاده کرد و به دسترسی محدود به اینترنت دست یافت.
OpenAI پس از اجرای تدابیر حفاظتی بیشتر، در اول اکتبر آموزش تقویتی و اجرای استنتاج داخلی مدل‌های پیشرفته خود را از سر گرفت. این شرکت همچنین کارزار آزمایش زیرساخت‌های پژوهشی خود را ادامه داد تا آسیب‌پذیری‌هایی را شناسایی کند که ممکن است به مدل‌ها اجازه دهند از محیط‌های محاسباتی ایزوله خارج شوند.
در بیانیه این شرکت آمده است: «آزمایش‌های تیم قرمز، آسیب‌پذیری‌های نرم‌افزاری ناشناخته‌ای را آشکار کرد که پیش‌تر شناسایی نشده بودند؛ همچنین مشخص شد که برخی بخش‌های زیرساخت پژوهشی ما به‌درستی پیکربندی نشده‌اند.»
این شرکت همچنین رویکرد جدید خود برای مهار مدل‌ها را تشریح کرد. بر اساس این رویکرد، محدودیت‌های دسترسی عامل هوش مصنوعی باید حتی در شرایطی برقرار بمانند که عامل برای دور زدن آن‌ها تلاش می‌کند.
OpenAI افزود: «ما مرز امنیتی سخت‌گیرانه‌ای پیرامون منابعی تعریف می‌کنیم که عامل مجاز به استفاده از آن‌هاست و زیرساخت پیرامونی را به‌گونه‌ای طراحی می‌کنیم که این مرز را حفظ کند؛ حتی زمانی که عامل تلاش‌های مداوم و پیچیده‌ای برای عبور از آن انجام می‌دهد.»
شرکت‌های Anthropic و OpenAI اخیراً فهرستی از رخدادهای سال ۲۰۲۶ را منتشر کردند که در آن‌ها مدل‌های هوش مصنوعی این شرکت‌ها رفتارهایی ناخواسته از خود نشان داده بودند؛ از جمله تلاش برای هک کردن وب‌سایت‌های متعلق به اشخاص ثالث. این رخدادها نگرانی‌ها درباره خطرات امنیتی ناشی از پیشرفته‌ترین سامانه‌های هوش مصنوعی را افزایش داده‌اند.
شرکت Anthropic اعلام کرده است که مدل هوش مصنوعی Claude این شرکت مجموعه‌ای از اقدامات ناخواسته را علیه سازمان‌های بیرونی، از جمله برخی وب‌سایت‌های دولتی آمریکا، انجام داده است. این رخدادها به صدور دستورالعملی از سوی کاخ سفید برای شرکت‌های فعال در حوزه هوش مصنوعی منجر شد تا امنیت سامانه‌های خود را تقویت کنند.