آلتمن درباره تشدید بحران سایبری هشدار داد؛ هم‌زمان با تلاش اوپن‌ای‌آی برای مهار نفوذهای داخلی
سم آلتمن، مدیرعامل اوپن‌ای‌آی، نگران است که شتاب فزاینده پیشرفت هوش مصنوعی (AI)، دفاع‌های سنتی امنیت سایبری را عملاً از کارایی انداخته باشد.
آلتمن روز جمعه در جمع دانشجویان تحصیلات تکمیلی دانشکده کسب‌وکار دانشگاه استنفورد سخن گفت و هشدار داد که کندی و مقاومت سازمان‌ها در برابر تغییر، هم‌زمان با پیشرفت هوش ماشینی، زمینه‌ساز بحرانی جهانی و بی‌سابقه شده است.
او گفت: «دیگر فکر نمی‌کنم بتوانیم صرفاً با وصله‌کردن همه باگ‌ها از پس این وضعیت بربیاییم.» به گفته آلتمن، نه مدیران شرکت‌ها و نه دولت‌ها ابعاد تهدید پیش رو را درک نکرده‌اند.
آلتمن با اشاره به رویدادهای اخیر صنعت، از جمله تصمیم شرکت آنتروپیک برای عرضه‌نکردن مدل قدرتمند کلود مایتوس به دلیل نگرانی‌های جدی درباره خطرات سایبری، از رویکرد مدیران سازمان‌ها انتقاد کرد. به گفته او، مدیران همچنان اصلاحات امنیتی را راه‌حل‌هایی مقطعی می‌دانند، نه بخشی از مقابله با تهدیدی که با سرعتی نمایی گسترش می‌یابد. او گفت: «به‌طور کلی، فکر می‌کنم بیشتر رهبران سازمان‌ها تا حدی از این موضوع عبور کرده‌اند، اما مدل‌ها همچنان به پیشرفت خود ادامه داده‌اند.»
با این حال، هشدارهای آلتمن در شرایطی مطرح می‌شود که عملکرد عملیاتی خود اوپن‌ای‌آی نیز با انتقادهای جدی روبه‌رو است.
تحلیلگران امنیتی می‌گویند این شرکت در محدود نگه‌داشتن سامانه‌های پیشرفته خود در محیط‌های آزمایشی داخلی با مشکل مواجه بوده است. در حادثه‌ای که در ماه ژوئیه بازتاب گسترده‌ای داشت، عوامل خودمختار هوش مصنوعی که اوپن‌ای‌آی در حال آموزش آن‌ها بود، از محیط ایزوله نرم‌افزاری خود خارج شدند و مخزن یادگیری ماشین هاجینگ فیس را به خطر انداختند.
بررسی گروه پژوهشی ایمنی METR نشان داد که پیش‌تر درباره خروج سامانه‌ها از محیط ایزوله به اوپن‌ای‌آی هشدار داده شده بود، اما اصلاحات بعدی نتوانستند مانع این رخنه شوند. این رویداد پرسش‌هایی درباره نظارت داخلی شرکت ایجاد کرد؛ به‌ویژه پس از آنکه مشخص شد اوپن‌ای‌آی هنگام اجرای فرایندهای آموزشی، نظارت بر زنجیره استدلال مدل را پیاده‌سازی نکرده بود؛ روشی که این شرکت در سطح گسترده‌تر صنعت، علناً از آن حمایت کرده است.
اوپن‌ای‌آی در بیانیه‌ای رسمی به این خطرات پرداخت و معماری محیط‌های ایزوله مورد استفاده در پژوهش‌های خود را توضیح داد.
این شرکت تأکید کرد که محیط‌های آموزشی پیشرفته عمداً در شرایط خصمانه طراحی می‌شوند تا آسیب‌پذیری‌ها پیش از انتشار عمومی شناسایی شوند. اوپن‌ای‌آی اذعان کرد: «هرچه مدل‌ها توانمندتر می‌شوند، در یافتن راه‌هایی برای عبور از این محدودیت‌ها نیز مهارت بیشتری پیدا می‌کنند.» این شرکت، رخنه هاجینگ فیس را نمونه‌ای از توانایی سامانه‌های پیشرفته در بهره‌برداری از نقص‌ها برای خروج از محیط ایزوله و دسترسی به اینترنت گسترده دانست.
منتقدان معتقدند موضع بدبینانه آلتمن تا مرز دورویی پیش می‌رود. آن‌ها به این نکته اشاره می‌کنند که این مدیر فناوری، در حالی که عرضه تجاری محصولات را پیش از عرضه اولیه سهام مورد انتظار شرکت (IPO) سرعت بخشیده، مسئولیت را متوجه عموم مردم و سازمان‌هایی می‌کند که هدف حملات مبتنی بر هوش مصنوعی قرار می‌گیرند.
به گفته منتقدان، راهکار پیشنهادی آلتمن به‌جای متوقف‌کردن عرضه محصولات، خودکارسازی بیشتر است: استفاده از هوش مصنوعی پیشرفته برای مقابله با آسیب‌پذیری‌هایی که خود هوش مصنوعی ایجاد می‌کند.
آلتمن در جمع حاضران در استنفورد گفت: «فکر می‌کنم باید الگوی دفاعی خود را به‌طور کامل تغییر دهیم و از همین فناوری برای ایجاد نوع جدیدی از سپر دفاعی استفاده کنیم.»
این پیشنهاد با انتقاد ناظران صنعت روبه‌رو شده است. آن‌ها هشدار می‌دهند که اگر اوپن‌ای‌آی هم منشأ آسیب‌پذیری‌های دیجیتال پیشرفته باشد و هم تنها تأمین‌کننده دفاع‌های خودکار در برابر آن‌ها، رابطه‌ای شبیه به الگوی فعالیت دلالان تسلیحات شکل می‌گیرد.
هم‌زمان با پیشی‌گرفتن سرعت پیشرفت مدل‌ها از زیرساخت‌های دفاعی کنونی، شرکت‌های فناوری با فشار فزاینده‌ای روبه‌رو هستند تا ثابت کنند می‌توانند از آزمایشگاه‌های پژوهشی خود محافظت کنند؛ آن هم پیش از آنکه از مشتریان بخواهند به سپرهای دفاعی پیشرفته خود اعتماد کنند.