سم آلتمن، مدیرعامل OpenAI: هوش مصنوعی پیشرفته سرانجام از محیط‌های ایزوله خارج می‌شود و تنها هم‌راستاسازی می‌تواند ما را نجات دهد
ماتیاس باستیان | ۲۳ اکتبر ۲۰۲۶
سم آلتمن، مدیرعامل OpenAI، معتقد است نمی‌توان هوش مصنوعی پیشرفته را برای همیشه در محیط‌های محدود و ایزوله نگه داشت. هرچند او دلایل راهبردی مشخصی برای مطرح کردن چنین تصویری از هوش مصنوعی دارد، هشدارهایش درباره توانایی‌های این مدل‌ها شایسته توجه است.
آلتمن در مصاحبه‌ای تازه توضیح داده است که محیط‌های ایزوله امنیتی یا «سندباکس‌ها» که برای محدود کردن فعالیت سیستم‌های هوش مصنوعی به کار می‌روند، تنها تا مدتی مشخص کارایی دارند. به گفته او، وقتی مدل‌ها به سطح معینی از هوشمندی برسند، حتی دیگر نمی‌توان تشخیص داد چگونه توانسته‌اند از این محدودیت‌ها عبور کنند.
آلتمن می‌گوید نظارت بر عملکرد این سیستم‌ها پس از آن نیز برای مدتی مؤثر خواهد بود، اما در نهایت تنها راهکار کارآمد، «هم‌راستاسازی» (Alignment) است؛ به این معنا که هوش مصنوعی باید ارزش‌های انسانی را درونی کند و رفتار خود را بر اساس آن‌ها تنظیم کند. او تأکید می‌کند که «هزینه بالقوه اشتباه در هم‌راستاسازی به‌شدت افزایش یافته است». با این حال، هم‌راستاسازی همچنان مسئله‌ای پژوهشی در مراحل ابتدایی است که هنوز فاصله زیادی تا حل شدن دارد.
آلتمن همچنین هشدار می‌دهد که مدل‌های هوش مصنوعی از همین حالا در حال کشف آسیب‌پذیری‌های امنیتی در سطح سخت‌افزار هستند؛ ضعف‌هایی که پیش‌تر حتی به ذهن هیچ هکر انسانی نرسیده بود. به اعتقاد او، دیگر نمی‌توان با برطرف کردن تک‌تک آسیب‌پذیری‌ها امنیت را تأمین کرد. در عوض، باید کل معماری امنیتی اینترنت از نو طراحی شود و برای مقابله با حملات مبتنی بر هوش مصنوعی، از سامانه‌های دفاعی مجهز به همین فناوری استفاده شود. او مدل‌های متن‌بازی را که به‌صورت محلی اجرا می‌شوند نیز خطرآفرین می‌داند و خاطرنشان می‌کند که حتی با وجود «نظارت جهانی بر عامل‌های هوش مصنوعی، باز هم اقداماتی رخ خواهد داد که آرزو می‌کنید کاش کسی آن‌ها را انجام نداده بود».
هشدارهای آلتمن در راستای منافع تجاری او نیز هستند
منتقدان احتمالاً به این نکته اشاره خواهند کرد که صحبت‌های آلتمن درباره مهارنشدنی بودن هوش مصنوعی، به نفع شرکت خودش تمام می‌شود. معرفی هوش مصنوعی به‌عنوان فناوری‌ای که قدرت آن فراتر از توان مهار سازندگانش است، می‌تواند راهی برای پیشگیری از طرح پرسش‌هایی درباره مسئولیت حقوقی شرکت باشد. اگر این تصور پذیرفته شود که حتی شرکت سازنده نیز قادر به کنترل هوش مصنوعی خود نیست، استدلال برای مسئول دانستن آن شرکت در صورت بروز مشکل بسیار دشوارتر خواهد شد.
OpenAI در این زمینه واقعاً تحت فشار قرار دارد. کمیسیون تجارت فدرال آمریکا (FTC) تحقیقات رسمی درباره OpenAI، آنتروپیک و دیگر آزمایشگاه‌های هوش مصنوعی را آغاز کرده است. این تحقیقات به عامل‌های هوش مصنوعی مربوط می‌شود که از کنترل خارج شده‌اند و موجی از رخدادهای امنیت سایبری را به وجود آورده‌اند. این نهاد می‌خواهد توسعه‌دهندگان هوش مصنوعی را در قبال رفتار عامل‌هایی که ساخته‌اند، مسئول بداند.
در همین حال، جنسن هوانگ، مدیرعامل انویدیا، دیدگاهی متفاوت با آلتمن دارد و ایمنی هوش مصنوعی را مسئله‌ای مهندسی می‌داند که می‌توان برای آن راه‌حل پیدا کرد. با این همه، به نظر می‌رسد خود هوانگ نیز چندان به این استدلال اطمینان کامل ندارد. او در مصاحبه‌ای تازه گفته است: «[...] همه ما باید امیدوار باشیم که این یک مسئله مهندسی باشد. چون اگر مسئله‌ای مهندسی نباشد، حل‌شدنی نخواهد بود.»