سم آلتمن: هوش مصنوعی در حال کشف باگ‌های سخت‌افزاری باورنکردنی است که انتظارشان را نداشتیم
سم آلتمن، مدیرعامل OpenAI، درباره توانایی‌های رو به رشد هوش مصنوعی در کشف آسیب‌پذیری‌های امنیتی هشدار داده است؛ آسیب‌پذیری‌هایی که فراتر از انتظارات پیشین ما هستند.
آلتمن در گفت‌وگویی اخیر توضیح داد که محدود کردن هوش مصنوعی به محیط‌های ایزوله و کنترل‌شده، موسوم به «سندباکس»، روزبه‌روز دشوارتر می‌شود؛ زیرا این محدودیت‌ها فقط برای مدت محدودی کارآمد هستند. به گفته او، هنگامی که یک مدل قابلیت‌های پیشرفته خود را توسعه می‌دهد، حتی ممکن است نتوان ردپایی از چگونگی و زمان خروج آن از این محیط‌های کنترل‌شده پیدا کرد.
آلتمن خاطرنشان کرد که نظارت مستمر می‌تواند برای مقابله با خطرات زمان بخرد، اما ایمنی واقعی مستلزم هم‌راستاسازی هوش مصنوعی است؛ یعنی باید کاری کرد که مدل، ارزش‌های انسانی را درونی کند. او با اشاره به اینکه خطرات ناشی از ناهماهنگی میان اهداف هوش مصنوعی و ارزش‌های انسانی به سطح بی‌سابقه‌ای رسیده‌اند، تأکید کرد که پژوهش در زمینه هم‌راستاسازی هنوز در مراحل ابتدایی قرار دارد و این مسئله همچنان راه‌حل قطعی ندارد.
آلتمن در ادامه، درباره آسیب‌پذیری‌هایی صحبت کرد که هوش مصنوعی در سطح سخت‌افزار شناسایی می‌کند و توضیح داد که در مواجهه با چنین توانایی‌هایی، روش‌های سنتی امنیت سایبری ممکن است ناکارآمد یا منسوخ به نظر برسند.
«حتی نمی‌دانم چه واژه‌ای می‌تواند به‌اندازه کافی این وضعیت را توصیف کند... مدل‌ها می‌توانند باگ‌هایی را پیدا کنند که خارج از چارچوب تهدیدهای متعارفی هستند که تصور می‌کنیم یک هکر قادر به ایجادشان است؛ مواردی باورنکردنی در سطح سخت‌افزار. دیگر فکر نمی‌کنم بتوانیم صرفاً با اصلاح همه باگ‌ها، مشکل را حل کنیم.»
مدیرعامل شرکت سازنده ChatGPT معتقد است که وصله‌کردن آسیب‌پذیری‌ها به‌صورت سنتی و موردی دیگر کفایت نمی‌کند. به باور او، زیرساخت امنیتی اینترنت باید از نو و با استفاده از سامانه‌های دفاعی مبتنی بر هوش مصنوعی ساخته شود.
آلتمن همچنین مدل‌های هوش مصنوعی متن‌باز را که به‌صورت محلی اجرا می‌شوند، یک خطر امنیتی می‌داند. او یادآور شده است که حتی نظارت جهانی بر عامل‌های هوش مصنوعی نیز نمی‌تواند مانع تمام اقدامات مخرب شود.
منتقدان معتقدند که توصیف آلتمن از هوش مصنوعی به‌عنوان فناوری‌ای که مهار آن بیش از حد دشوار است، می‌تواند در خدمت منافع تجاری OpenAI باشد؛ زیرا در صورت بروز مشکلات، مسئولیت را از دوش توسعه‌دهنده برمی‌دارد.
اظهارات اخیر آلتمن پس از بروز آسیب‌پذیری‌های امنیتی در PHP مطرح شده است؛ رخدادی که میلیون‌ها وب‌سایت در سراسر جهان را تحت تأثیر قرار داد و باعث از دسترس خارج شدن آن‌ها شد. در جریان این بحران، میلیون‌ها تلاش برای سوءاستفاده از این حفره‌های امنیتی انجام گرفت. این آسیب‌پذیری‌ها را هوش مصنوعی شناسایی کرده بود.