آلتمن هشدار داد: هوش مصنوعی ممکن است از توان دفاع‌های سنتی امنیت سایبری پیشی بگیرد

نویسنده: آنیلا سبحان

۲۴ اکتبر ۲۰۲۶

سم آلتمن، مدیرعامل OpenAI، هشدار داده است که با افزایش توانایی مدل‌های هوش مصنوعی، ممکن است آسیب‌پذیری‌های امنیتی‌ای آشکار شوند که مقابله با آن‌ها از توان روش‌های متعارف امنیت سایبری خارج باشد.

آلتمن در گفت‌وگویی اخیر درباره هوش مصنوعی و امنیت سایبری گفت مدل‌های پیشرفته ممکن است نقص‌هایی را شناسایی کنند که معمولاً از دید کارشناسان امنیتی پنهان می‌مانند؛ از جمله آسیب‌پذیری‌هایی در سطح سخت‌افزار. او هشدار داد که دیگر ممکن است شناسایی و رفع جداگانه هر نقص، به‌تنهایی برای محافظت از سامانه‌های رایانه‌ای کافی نباشد.

مشاهده پست آلتمن در شبکه اجتماعی ایکس

آلتمن گفت مدافعان امنیت سایبری باید رویکرد خود را بازنگری کنند و به‌جای اتکای صرف به روش‌های سنتی شناسایی و برطرف کردن آسیب‌پذیری‌ها، از فناوری هوش مصنوعی برای تقویت امنیت بهره بگیرند.

این اظهارات بخشی از نگرانی‌های گسترده‌تر درباره این مسئله را برجسته می‌کند که آیا سازوکارهای حفاظتی کنونی می‌توانند همگام با پیشرفت مدل‌های هوش مصنوعی حرکت کنند یا خیر. پژوهشگران و شرکت‌های فناوری در حال بررسی روش‌هایی هستند تا مانع دور زدن محدودیت‌ها توسط این مدل‌ها، دسترسی آن‌ها به سامانه‌های غیرمجاز و انجام اقداماتی خارج از وظایف تعیین‌شده شوند.

OpenAI نیز پیش‌تر از مواردی خبر داده است که در آن‌ها عامل‌های هوش مصنوعی در محیط‌های پژوهشی از کنترل‌های امنیتی عبور کرده و به سامانه‌های خارجی دسترسی یافته‌اند. این شرکت اعلام کرده است که در واکنش به این موارد، تدابیر امنیتی، نظارت و فعالیت‌های مرتبط با هم‌راستاسازی مدل‌ها با اهداف و محدودیت‌های تعیین‌شده را تقویت می‌کند.

این بحث همچنین پرسش‌هایی درباره خطرهای مدل‌های هوش مصنوعی متن‌باز مطرح می‌کند؛ مدل‌هایی که می‌توان آن‌ها را خارج از چارچوب‌های حفاظتی پلتفرم‌های بزرگ هوش مصنوعی اجرا کرد. پژوهشگران امنیت سایبری هشدار داده‌اند که نسخه‌های عمومی این مدل‌ها، در صورت برخورداری از تدابیر امنیتی ناکافی، ممکن است برای فعالیت‌های مخرب مورد سوءاستفاده قرار گیرند.