اعتراف کم‌سابقه سم آلتمن به احتمال ۱۰ تا ۲۰ درصدی نابودی بشر با هوش مصنوعی؛ OpenAI همچنان با تمام توان پیش می‌رود
سم آلتمن، مدیرعامل OpenAI، در مصاحبه‌ای تازه اعلام کرد که احتمال نابودی بشر بر اثر هوش مصنوعی را حدود ۱۰ تا ۲۰ درصد برآورد می‌کند؛ رقمی که به تخمین پیشین ایلان ماسک نزدیک است. با وجود این ارزیابی نگران‌کننده، او همچنان توسعه مدل‌های قدرتمندتر را با حداکثر سرعت دنبال می‌کند. آلتمن بار دیگر از راهبرد «زمان‌بندی کوتاه برای دستیابی به هوش مصنوعی عمومی و پیشرفت تدریجی پس از آن» دفاع کرد و گفت آغاز زودهنگام توسعه، در واقع ایمن‌تر است. او همچنین هشدار داد که پیشبرد «خودبهبودی بازگشتی» (Recursive Self-Improvement) با تمام توان بسیار خطرناک خواهد بود و باید برای سرعت آن محدودیت تعیین کرد. در بخش تجاری مصاحبه نیز تأکید کرد که تقاضای شرکت برای پردازنده‌های گرافیکی عملاً «بی‌نهایت» است، توسعه تراشه‌های اختصاصی مهم‌ترین بخش برنامه‌های زیرساختی OpenAI محسوب می‌شود و قصد دارد برای ساخت مراکز داده از ربات‌ها استفاده کند. او همچنین گفت هوش مصنوعی هنوز جای برنامه‌نویسان را نگرفته و آن‌ها حتی از گذشته پرمشغله‌تر شده‌اند. به گفته آلتمن، OpenAI به سخت‌افزارهای مصرفی جدید نیاز دارد و آینده این فناوری باید همچنان انسان‌محور باقی بماند.
سم آلتمن، مدیرعامل OpenAI، در تازه‌ترین مصاحبه مفصل خود برای نخستین بار با ارائه ارقامی مشخص، خطر نابودی بشر بر اثر هوش مصنوعی را ارزیابی کرد و احتمال وقوع چنین فاجعه‌ای را حدود ۱۰ تا ۲۰ درصد دانست. این اظهارنظر با عملکرد او در هدایت OpenAI تفاوت چشمگیری دارد؛ شرکتی که با تمام توان مشغول توسعه مدل‌های قدرتمندتر و گسترش مداوم زیرساخت‌های پردازشی خود است. همین تضاد بار دیگر این پرسش را به مرکز توجه آورده است که چگونه می‌توان میان سرعت پیشرفت هوش مصنوعی و رعایت محدودیت‌های ایمنی تعادل برقرار کرد.
آلتمن این ارزیابی را در گفت‌وگویی ۴۵ دقیقه‌ای با متیو برمن، وبلاگ‌نویس حوزه هوش مصنوعی، مطرح کرد. او همچنین گفت مدل‌های کنونی هوش مصنوعی، دست‌کم به معنای متعارف این مفهوم، فاقد آگاهی هستند. به باور او، حتی اگر در آینده نوعی آگاهی در این سیستم‌ها شکل بگیرد، ماهیت آن با آنچه انسان از آگاهی می‌شناسد تفاوتی بنیادین خواهد داشت. آلتمن تأکید کرد که هوش مصنوعی باید در خدمت انسان باشد، نه اینکه جای انسان را در تصمیم‌گیری درباره آینده بشریت بگیرد. او گفت: «این فناوری انسان نیست و قطعاً هیچ برتری‌ای بر انسان‌ها ندارد.»
این برآورد خطر، اظهارنظری بی‌سابقه در صنعت هوش مصنوعی نیست. ایلان ماسک نیز بارها در سخنان عمومی خود احتمال پایان یافتن تمدن بشری بر اثر هوش مصنوعی را بین ۱۰ تا ۲۰ درصد اعلام کرده است. هم‌نظر شدن دو چهره بسیار تأثیرگذار دنیای فناوری بر سر یک عدد چندان رایج نیست، به‌ویژه آنکه این دو رویکردهای متفاوتی دارند. آلتمن شرکتی را هدایت می‌کند که با حداکثر سرعت به سمت دستیابی به هوش مصنوعی عمومی (AGI) حرکت می‌کند، در حالی که ماسک کسب‌وکار مستقل خود را در حوزه هوش مصنوعی راه‌اندازی کرده است.
منطق راهبرد «دستیابی زودهنگام و پیشرفت تدریجی»
آلتمن اطمینان زیادی به تحقق هوش مصنوعی عمومی دارد و دستیابی به آن را در مأموریت سازمانی OpenAI نیز گنجانده است. او در یادداشتی که سال ۲۰۲۳ با عنوان «برنامه‌ریزی برای هوش مصنوعی عمومی و فراتر از آن» منتشر کرد، راهبردی موسوم به «زمان‌بندی کوتاه و اوج‌گیری تدریجی» را مطرح کرد که بر آغاز زودهنگام توسعه و پیشرفت پیوسته تأکید دارد. منطق این رویکرد آن است که هرچه دستیابی به هوش مصنوعی عمومی زودتر اتفاق بیفتد، منابع پردازشی کمتری مانند پردازنده‌های گرافیکی برای آموزش مدل‌ها در دسترس خواهد بود و در نتیجه، جهش ناگهانی توانایی‌ها از هوش مصنوعی عمومی به ابرهوش مصنوعی (ASI) دشوارتر می‌شود. در مقابل، هرچه این فرایند بیشتر به تعویق بیفتد، ظرفیت پردازشی استفاده‌نشده بیشتری انباشته خواهد شد و ممکن است در مقطعی، این ظرفیت زمینه‌ساز جهشی شدید در توانایی‌های هوش مصنوعی شود.
آلتمن در مقاله‌ای در سپتامبر ۲۰۲۴ این استدلال را گسترش داد. او در آن زمان گفت ممکن است ابرهوش مصنوعی ظرف چند هزار روز پدیدار شود و هوش مصنوعی بتواند اقداماتی مانند مقابله با تغییرات اقلیمی، سکونت انسان در فضا و کشف تمام قوانین فیزیک را «خیلی زود به اموری عادی تبدیل کند». اوایل سال ۲۰۲۵ نیز یک گام جلوتر رفت و با صراحت اعلام کرد: «ما همین حالا می‌دانیم چگونه هوش مصنوعی عمومی بسازیم.» با این حال، آلتمن از سال ۲۰۱۵ ظهور ابرهوش مصنوعی را «بزرگ‌ترین تهدید علیه موجودیت بشر» توصیف کرده بود. بنابراین، نگرانی او درباره خطرات این فناوری از بین نرفته، بلکه در کنار رویکردش برای سرعت بخشیدن به توسعه هوش مصنوعی قرار گرفته است.
آلتمن در این مصاحبه به یکی از بحث‌برانگیزترین مسیرهای فنی توسعه هوش مصنوعی نیز پرداخت: «خودبهبودی بازگشتی» (RSI). در این فرایند، هوش مصنوعی به‌طور مداوم توانایی‌های خود را بهبود می‌دهد و چرخه‌ای از پیشرفت شتاب‌گیرنده ایجاد می‌کند. او گفت اگر کسی این مسیر را با تمام توان دنبال کند، چنین سناریویی واقعاً می‌تواند تحقق پیدا کند؛ اما هشدار داد که «ادامه دادن این کار بسیار خطرناک است». به اعتقاد او، جهان باید نوعی «محدودیت سرعت» برای پیشرفت خودبهبودی بازگشتی تعیین کند. این اظهارنظر یکی از صریح‌ترین هشدارهای عمومی آلتمن درباره این مفهوم به شمار می‌رود.
تقاضای «بی‌نهایت» برای توان پردازشی و نقش محوری تراشه‌ها
آلتمن در بحث کسب‌وکار و زیرساخت، بار دیگر رویکرد توسعه‌طلبانه خود را آشکار کرد. وقتی از او پرسیده شد در آینده به چند پردازنده گرافیکی نیاز خواهد داشت، پاسخ داد: «بی‌نهایت بیشتر. هر تعداد که بتوانم به دست بیاورم، همان تعداد را می‌خواهم.»
او معتقد است در بسیاری از تحلیل‌های بیرونی درباره بازار جهانی پردازنده‌های گرافیکی، یک فرض اساسی نادیده گرفته می‌شود: بیشتر برآوردها بر این مبنا انجام می‌شوند که توانایی مدل‌ها و هزینه انجام هر وظیفه در سطح کنونی باقی بماند. اما اگر هزینه دسترسی به هوش مصنوعی باکیفیت به‌اندازه کافی کاهش پیدا کند، دیگر نمی‌توان به‌سادگی سقفی برای اندازه بازار تعیین کرد و تقاضا همچنان افزایش خواهد یافت؛ وضعیتی مشابه آنچه «پارادوکس جونز» توصیف می‌کند. آلتمن پذیرفت که هم کمبود عرضه و هم دوره‌های مازاد ظرفیت، تا حد زیادی اجتناب‌ناپذیر خواهند بود؛ با این حال، معتقد است روند بلندمدت بازار به سمت افزایش پیوسته تقاضا برای توان پردازشی حرکت می‌کند.
OpenAI برای تحقق این چشم‌انداز، هم‌زمان در چند حوزه سرمایه‌گذاری می‌کند. آلتمن فاش کرد که تراشه‌های اختصاصی شرکت و نسل‌های بعدی آن‌ها، مهم‌ترین بخش این برنامه محسوب می‌شوند. هدف، دستیابی به بهره‌وری انرژی بسیار بالاتر از محصولات موجود است. این شرکت همچنین قصد دارد از ربات‌ها برای تولید رک‌های تجهیزات و ساخت کارآمدتر مراکز داده استفاده کند و مجموعه‌ای از سرمایه‌گذاری‌ها را در بخش‌های مختلف زنجیره تأمین انجام دهد. آلتمن آینده‌ای را تصور می‌کند که در آن بشر بتواند زیرساخت‌های پردازشی را با هزینه‌ای بسیار کمتر از امروز و عملکردی به‌مراتب بالاتر به ازای هر وات انرژی بسازد. البته تحقق این چشم‌انداز مستلزم موفقیت هم‌زمان در چندین حوزه فناوری است.
آلتمن درباره فضای رقابتی نیز گفت OpenAI تقریباً «از همه طرف» تحت فشار رقابت قرار دارد، اما این وضعیت را به نفع کاربران دانست. وقتی از او پرسیدند اگر توانایی مدل‌های هوش مصنوعی شرکت‌های مختلف به یکدیگر نزدیک شود، مزیت رقابتی پایدار OpenAI چه خواهد بود، پاسخ او به اصول شناخته‌شده کسب‌وکار بازگشت. به گفته او، روابط عمیق با مشتریان، محصولاتی که به بخشی جدایی‌ناپذیر از فعالیت‌های روزمره کاربران و فرایندهای کاری شرکت‌ها تبدیل شده‌اند، اثرات شبکه‌ای و داده‌های انباشته‌شده همچنان اهمیت خواهند داشت. علاوه بر این، برخورداری از بزرگ‌ترین زیرساخت هوش مصنوعی با کمترین هزینه عملیاتی، خود مزیتی بسیار بزرگ محسوب می‌شود.
هوش مصنوعی جای برنامه‌نویسان را نگرفته؛ آن‌ها پرمشغله‌تر شده‌اند
یکی از غیرمنتظره‌ترین نکات این مصاحبه به وضعیت برنامه‌نویسان مربوط می‌شد. در حالی که بسیاری انتظار دارند ابزارهای کدنویسی مبتنی بر هوش مصنوعی جای توسعه‌دهندگان نرم‌افزار را بگیرند، آلتمن روندی معکوس را مشاهده می‌کند. به گفته او، برنامه‌نویسان اکنون بیش از هر زمان دیگری مشغول کار هستند، تأثیرگذاری بیشتری دارند و احتمالاً درآمدشان نیز افزایش یافته است. دلیل این وضعیت آن است که نیاز جهان به نرم‌افزار بسیار فراتر از چیزی است که پیش‌تر تصور می‌شد.
منطق مشابهی در حوزه‌هایی مانند ریاضیات نیز دیده می‌شود. برخی ریاضی‌دانان با این ایده که هوش مصنوعی بتواند به‌تنهایی اثبات‌های ریاضی را انجام دهد، مخالفت می‌کنند. اما آلتمن معتقد است اثبات‌های بسیار پیچیده‌ای که فهم آن‌ها دشوار است، لزوماً به‌طور مستقیم کاربردی نیستند. در مقابل، تلاش برای درک ایده‌های تازه و تبدیل آن‌ها به مفاهیمی که افراد عادی نیز بتوانند بخوانند و بفهمند، خود زمینه‌ساز شکل‌گیری نیازهای شغلی جدید می‌شود. او پذیرفت که معنای «ریاضی‌دان بودن» در سال گذشته ممکن است تا سال آینده به‌شدت تغییر کند.
این وضعیت ظاهراً متناقض، یعنی افزایش بهره‌وری همراه با بیشتر شدن حجم کار، برای خود آلتمن نیز رخ داده است. او گفت حدود یک سال است که حتی به یک خط کد نگاه نکرده و شاید دیگر هرگز شخصاً برنامه‌نویسی نکند. به باور او، ممکن است اگر در دوران سالمندی دوباره سراغ کدنویسی برود، این کار صرفاً از سر دلتنگی برای گذشته باشد. آلتمن اذعان کرد که حل مسائل دشوار و نوشتن کدهای زیبا و هوشمندانه، به‌خودی‌خود احساس رضایت و لذت ایجاد می‌کند و با واگذاری این فعالیت‌ها به هوش مصنوعی، انسان‌ها ممکن است بخشی از لذت فرایند خلاقیت را از دست بدهند. با این حال، تأکید کرد: «نباید کشف درمان بیماری‌ها را فقط برای حفظ لذت پژوهش به تأخیر بیندازیم.»
بر اساس پیش‌بینی زمانی آلتمن، انتظار می‌رود هوش مصنوعی ظرف حدود دو سال آینده نخستین درمان بالقوه واقعاً مؤثر را برای یکی از بیماری‌های مهم شناسایی کند؛ هرچند دریافت تأییدیه سازمان غذا و داروی آمریکا (FDA) و انجام آزمایش‌های بعدی همچنان زمان‌بر خواهد بود. با این حال، آلتمن گفت در مقایسه با پیشرفت‌های پزشکی، آنچه شخصاً بیش از همه مشتاق دیدنش است، یک کشف بزرگ در علم فیزیک است.
سخت‌افزارهای جدید و اصل بنیادین «انسان‌محور بودن» آینده
آلتمن درباره شکل محصولات آینده به‌صراحت گفت OpenAI به سخت‌افزارهای مصرفی جدید نیاز دارد، اما این نیاز ناشی از نگرانی درباره وابستگی به پلتفرم‌های دیگر نیست. او اپل را شرکتی مسئولیت‌پذیر در مدیریت پلتفرم خود توصیف کرد و گفت نگران حذف ChatGPT از این پلتفرم نیست. به گفته او، دلیل اصلی نیاز به سخت‌افزار جدید این است که هوش مصنوعی در حال حاضر ناچار است از دستگاه‌هایی استفاده کند که برای انسان طراحی شده‌اند، نه برای خود هوش مصنوعی. رایانه‌ها حجم عظیمی از توان پردازشی را صرف نمایش رابط‌های گرافیکی می‌کنند تا انسان بتواند آن‌ها را ببیند؛ سپس هوش مصنوعی باید همان رابط‌ها را تفسیر کند. از نگاه آلتمن، این شیوه تعامل طبیعی و منطقی نیست.
دستیار هوش مصنوعی شخصی که آلتمن در ذهن دارد، باید بتواند به‌طور مداوم محیط اطراف خود را درک کند و پیش از درخواست کاربر، برای رسیدگی به امور اقدام کند. چنین دستیاری باید حتی زمانی که کاربر پشت رایانه نیست، از موقعیت و شرایط او آگاه باشد. آلتمن با اشاره به یکی از ابزارهای داخلی OpenAI گفت این ابزار روزانه حدود یک ساعت در وقت او صرفه‌جویی می‌کند و بارها مسائل مهم و فوری را به او یادآوری کرده است. او معتقد است بیشتر اجزای فنی لازم برای ساخت چنین محصولی از هم‌اکنون وجود دارند و آنچه هنوز کم است، تبدیل این قابلیت‌ها به یک محصول قابل‌عرضه، دسترسی به توان پردازشی بیشتر و عرضه سخت‌افزارهای جدید در آینده است.
آلتمن در بحث مقررات و اخلاق هوش مصنوعی خواستار دستیابی جامعه به یک توافق اساسی شد: آینده باید انسان‌محور باقی بماند. او به‌ویژه نسبت به استدلالی هشدار داد که از بحث درباره آگاهی هوش مصنوعی به این نتیجه می‌رسد که «شاید انسان‌ها نباید همیشه کنترل آینده را در اختیار داشته باشند». از نگاه او، نسبت دادن شخصیت و جایگاه انسانی به مدل‌های هوش مصنوعی، نقطه شروع خطرناکی است که ممکن است در نهایت به پیشگویی خودمحقق‌شونده تبدیل شود؛ یعنی همین باور، شرایط تحقق خود را فراهم کند.
ارزیابی آلتمن از میزان استفاده کنونی مردم از هوش مصنوعی نیز قابل‌توجه است. به گفته او، تنها حدود یک درصد از مردم واقعاً مانند کاربران حرفه‌ای و پیشرفته از هوش مصنوعی استفاده می‌کنند و اکثریت هنوز نتوانسته‌اند از تمام ظرفیت‌های این فناوری بهره ببرند. او امیدوار است هوش مصنوعی صرفاً انقلاب صنعتی دیگری ایجاد نکند که نتیجه آن مشغله بیشتر انسان‌ها باشد، بلکه زمینه‌ساز نوعی رنسانس شود که آزادی بیشتر و فرصت‌های گسترده‌تری برای خلاقیت در اختیار مردم قرار دهد.
اظهارات آلتمن، از برآورد احتمال ۱۰ تا ۲۰ درصدی نابودی بشر تا اعلام اینکه «هر تعداد پردازنده گرافیکی که بتوانم به دست بیاورم، همان تعداد را می‌خواهم»، تضادی آشکار را نشان می‌دهد: خطرات هوش مصنوعی به رسمیت شناخته شده و حتی برای آن‌ها احتمال عددی تعیین شده است، اما روند توسعه همچنان با شتاب ادامه دارد. برای سرمایه‌گذاران، این وضعیت به معنای آن است که توان پردازشی، تراشه‌ها، مراکز داده و انرژی همچنان از مطمئن‌ترین حوزه‌های سرمایه‌گذاری در مسیر گسترش هوش مصنوعی خواهند بود. برای نهادهای قانون‌گذار نیز تعیین «محدودیت سرعت» برای خودبهبودی بازگشتی و مشخص کردن مرزهای انسان‌انگاری مدل‌های هوش مصنوعی، دیگر صرفاً موضوعاتی فلسفی نیستند، بلکه به مسائل واقعی و نیازمند مقررات تبدیل می‌شوند.