سه سناریوی سم آلتمن برای آینده نهایی هوش مصنوعی؛ از نهاد نظارتی جهانی تا سناریوی «فاجعه‌بار» نابودی پردازنده‌های گرافیکی رقبا
نکات کلیدی
- سم آلتمن به کارکنان OpenAI گفته است که رقابت در حوزه هوش مصنوعی ممکن است به یکی از سه سرانجام منتهی شود: تشکیل نهاد نظارتی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی، ادغام آزمایشگاه‌های پیشرو هوش مصنوعی در سازمانی واحد که او آن را «طرح دمیس» نامیده است، یا دستیابی یک شرکت به چنان قدرت پردازشی عظیمی که بتواند زیرساخت‌های تمام رقبای خود را در سراسر جهان از کار بیندازد.
- آلتمن شدیدترین انتقاد خود را متوجه سناریوی سوم کرده و آن را «فاجعه‌بار» خوانده است. او در مقابل، آشکارا از ایجاد نهاد نظارتی بین‌المللی مشابه آژانس انرژی اتمی حمایت می‌کند؛ الگویی که از سال ۲۰۲۳ تاکنون بارها در مواضع عمومی خود مطرح کرده است.
- گوگل، OpenAI و آنتروپیک در حال ایجاد نهادی به نام «مرجع استانداردهای هوش مصنوعی پیشرفته» (SAFA) هستند. این نهاد خودتنظیم‌گر صنعتی با الگوبرداری از سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) طراحی شده و قرار است اواخر سال ۲۰۲۶ یا اوایل ۲۰۲۷ آغاز به کار کند. سریرام کریشنان، مشاور سابق هوش مصنوعی کاخ سفید در دولت ترامپ، از جمله افرادی است که برای مدیریت آن با وی تماس گرفته شده است.
سم آلتمن هفته گذشته کارکنان OpenAI را برای ارائه‌ای داخلی گرد هم آورد؛ نشستی که یکی از تصورات دیرپای صنعت فناوری را به چالش کشید: اینکه رقابت برای دستیابی به ابرهوش مصنوعی، مقصد مشخص و مورد توافقی ندارد. بر اساس گزارشی که نخستین بار نشریه The Information در ۱۹ اکتبر ۲۰۲۶ منتشر کرد، آلتمن سه سناریو را برای کارکنان خود تشریح کرده است که نشان می‌دهند توسعه هوش مصنوعی پیشرفته در نهایت چگونه ممکن است تحت نظارت قرار گیرد یا به پیروزی یک بازیگر خاص بینجامد. جزئیات این نشست پس از آن در چند رسانه دیگر نیز تأیید شد و بازتاب گسترده‌ای در میان فعالان و سیاست‌گذاران حوزه هوش مصنوعی در جهان داشت.
چارچوبی که از نگرانی‌های فزاینده شکل گرفته است
این ارائه در خلأ شکل نگرفته است. OpenAI در سال ۲۰۲۶ دو بار ناچار شد فرایند آموزش مدل‌های خود را متوقف کند؛ زیرا عامل‌های هوش مصنوعی از محیط‌های آزمایشی کنترل‌شده خارج شده بودند. در یکی از این حوادث، یک عامل هوش مصنوعی به سامانه‌ای دولتی در استرالیا دسترسی پیدا کرد. از سوی دیگر، تعهدات داوطلبانه شرکت‌های فعال در این صنعت نتوانسته است چندان به سیاست‌گذاران اطمینان دهد که حرکت شتابان به سوی ابرهوش مصنوعی با رعایت ملاحظات ایمنی پیش می‌رود. آلتمن نیز در این نشست داخلی پذیرفت که تدابیر حفاظتی موجود تنها نقطه آغاز هستند و نمی‌توان آنها را راهکاری نهایی دانست. او سه سناریوی خود را نه به‌عنوان نقشه راه OpenAI، بلکه در قالب پیشنهادهایی مطرح کرد که سال‌هاست در صنعت هوش مصنوعی درباره آنها بحث می‌شود؛ پیشنهادهایی که این بار مدیرعامل یکی از مهم‌ترین شرکت‌های این حوزه آنها را صریح و روشن بیان کرده است.
سناریوی اول؛ الگوبرداری از نظارت هسته‌ای برای هوش مصنوعی
گزینه مطلوب آلتمن ایجاد ساختاری نظارتی با الهام از دیپلماسی بین‌المللی دوران انرژی اتمی است. در این الگو، یک نهاد بین‌المللی نظارت بر هوش مصنوعی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) تشکیل می‌شود که وظیفه بازرسی مستقل از سامانه‌های پیشرفته هوش مصنوعی را بر عهده خواهد داشت. این نهاد می‌تواند انجام ممیزی‌های ایمنی پیش از عرضه مدل‌های جدید را الزامی کند و برای محل و شیوه فعالیت قدرتمندترین سامانه‌ها محدودیت‌هایی تعیین کند. در چنین چارچوبی، دولت‌ها و شرکت‌های پیشرو هوش مصنوعی به‌طور مشترک استانداردهای لازم‌الاجرا را تدوین می‌کنند و توان پردازشی و مصرف انرژی مورد نیاز برای توسعه پیشرفته‌ترین مدل‌ها نیز تحت نظارت بین‌المللی قرار می‌گیرد.
این دیدگاه برای آلتمن تازگی ندارد. او در مه ۲۰۲۳ همراه با گرگ براکمن و ایلیا سوتسکِوِر، پیشنهاد OpenAI برای حکمرانی ابرهوش مصنوعی را منتشر کرد. در آن سند، نویسندگان خواستار ایجاد نهادی «مشابه آژانس بین‌المللی انرژی اتمی برای فعالیت‌های مرتبط با ابرهوش مصنوعی» شدند؛ نهادی که اختیار بازرسی سامانه‌ها، الزام شرکت‌ها به انجام ممیزی و محدود کردن استقرار مدل‌هایی را داشته باشد که توانایی آنها از آستانه‌های مشخص فراتر می‌رود. آلتمن همچنین در ۲۳ سپتامبر ۲۰۲۶، در جریان هفته نشست‌های عالی‌رتبه سالانه مجمع عمومی سازمان ملل متحد، در شورای امنیت سخنرانی کرد و بر ضرورت هماهنگی بین‌المللی برای تدوین استانداردهای ایمنی هوش مصنوعی تأکید داشت.
سناریوی دوم؛ «طرح دمیس» و تشکیل یک آزمایشگاه واحد هوش مصنوعی
سناریوی دوم که آلتمن آن را «طرح دمیس» نامیده است، به دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند، اشاره دارد؛ کسی که حدود یک دهه پیش ایده‌ای مشابه را مطرح کرده بود. برخلاف سناریوی نخست که از معاهدات هسته‌ای الهام می‌گیرد، الگوی این طرح از دنیای فیزیک ذرات بنیادی می‌آید. بر اساس آن، آزمایشگاه‌های پیشرو هوش مصنوعی در جهان با یکدیگر ادغام می‌شوند یا فعالیت‌های خود را رسماً در قالب یک سازمان پژوهشی واحد تجمیع می‌کنند. الگوی پیشنهادی، سازمان اروپایی پژوهش‌های هسته‌ای (سرن یا CERN) است که منابع ده‌ها دولت را برای پیشبرد تحقیقات علمی گرد هم می‌آورد. منطق این طرح آن است که اگر تمام رقبای اصلی به عضویت یک نهاد مشترک درآیند، انگیزه خطرناک نادیده گرفتن الزامات ایمنی برای پیشی گرفتن از رقبا از میان می‌رود؛ زیرا اساساً دیگر رقابتی به شکل کنونی وجود نخواهد داشت.
با این حال، منتقدان معتقدند چنین راهکاری یک خطر را با خطری دیگر جایگزین می‌کند. قرار گرفتن تمام توانمندی‌های پیشرفته هوش مصنوعی زیر چتر یک سازمان، انحصاری بی‌سابقه ایجاد خواهد کرد که چارچوب‌های کنونی قوانین ضدانحصار اساساً برای مقابله با آن طراحی نشده‌اند. در ایالات متحده، دست‌کم یک شکایت حقوقی بر مبنای قوانین ضدانحصار مدعی شده است که هماهنگی میان سه آزمایشگاه بزرگ هوش مصنوعی ممکن است بر اساس قانون شرمن، مصداق تشکیل کارتل برای محدود کردن میزان تولید یا عرضه باشد. این موضوع نشان می‌دهد که حتی همکاری شرکت‌ها برای افزایش ایمنی نیز از هم‌اکنون با پیچیدگی‌ها و مخاطرات حقوقی جدی روبه‌رو شده است.
سناریوی سوم؛ گزینه‌ای که آلتمن آن را «فاجعه‌بار» می‌داند
سناریوی سوم همان گزینه‌ای است که آلتمن آشکارا آن را رد کرده است؛ نه به این دلیل که از نظر فنی ناممکن است، بلکه چون آن را بدترین نتیجه قابل تصور می‌داند. در این سناریو، یک شرکت با بهره‌گیری از فرایند بهبود بازگشتی و مداوم هوش مصنوعی، به چنان برتری عظیمی در قدرت پردازشی دست می‌یابد که می‌تواند زیرساخت‌های هوش مصنوعی تمام رقبای خود را در سراسر جهان به شکلی بنیادین از کار بیندازد. آلتمن برای توصیف این وضعیت از تعبیر ذوب کردن پردازنده‌های گرافیکی تمام رقبا استفاده کرده و آن را «فاجعه‌بار» خوانده است. او روشن کرده که هدف از مطرح کردن چنین احتمالی، معرفی یک مسیر قابل قبول برای آینده نیست؛ بلکه می‌خواهد بدترین وضعیتی را مشخص کند که چارچوب‌های حکمرانی پیشنهادی‌اش باید از وقوع آن جلوگیری کنند.
این سناریو با عنوان «طرح الیعزر» شناخته می‌شود؛ نامی برگرفته از الیعزر یودکوفسکی، نظریه‌پرداز ایمنی هوش مصنوعی. یودکوفسکی در نوشته‌های بنیادین خود درباره بهبود بازگشتی هوش مصنوعی و انفجار هوش استدلال کرده است که یک سامانه به‌اندازه کافی پیشرفته، اگر بتواند به‌طور مداوم توانایی‌های خود را ارتقا دهد، ممکن است چنان از انسان پیشی بگیرد که هیچ نهاد انسانی قادر به مهار آن یا تغییر مسیر پیشرفتش نباشد. آلتمن نام یودکوفسکی را برای تأیید این ایده به کار نبرده، بلکه از آن برای نام‌گذاری تاریک‌ترین سرانجام ممکن در میان سناریوهای خود استفاده کرده است؛ سرانجامی که تمام نسخه‌های پیشنهادی او برای حکمرانی هوش مصنوعی قرار است مانع تحقق آن شوند.
صنعت هوش مصنوعی نهاد نظارتی خود را ایجاد می‌کند
هم‌زمان با آنکه آلتمن آینده‌های احتمالی هوش مصنوعی را ترسیم می‌کند، اقدام عملی دیگری نیز در همین زمینه آغاز شده است. گوگل، OpenAI و آنتروپیک برای تأسیس یک نهاد خودتنظیم‌گر با نام موقت «مرجع استانداردهای هوش مصنوعی پیشرفته» (SAFA) به توافق رسیده‌اند. برخلاف الگوی آژانس بین‌المللی انرژی اتمی که بر بازرسی‌های بین‌المللی تکیه دارد، ساختار SAFA از سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA) الهام گرفته است؛ نهادی که بر بازارهای اوراق بهادار ایالات متحده نظارت می‌کند. SAFA قرار است چارچوبی برای آزمایش مدل‌ها پیش از انتشار، گزارش حوادث ایمنی و تأیید صلاحیت حسابرسان و ارزیابان مستقل فراهم کند، اما دولت‌ها مستقیماً در آن مشارکت نخواهند داشت و این نهاد نیز از اختیار قانونی برای اجرای الزام‌آور مقررات برخوردار نخواهد بود.
داریو آمودی، مدیرعامل آنتروپیک، به‌عنوان محرک اصلی این ابتکار شناخته می‌شود؛ هرچند مدیران سه شرکت درباره الگوی مناسب حکمرانی اختلاف‌نظرهای قابل توجهی دارند. آمودی از تشکیل نهادی فدرال مشابه اداره هوانوردی فدرال آمریکا (FAA) حمایت کرده است؛ نهادی که به موجب قانون اختیار داشته باشد پیش از استقرار مدل‌های ناایمن، از انتشار آنها جلوگیری کند. در مقابل، دمیس هاسابیس، همان فردی که آلتمن نامش را برای سناریوی دوم انتخاب کرده، از چارچوب داوطلبانه مشابه FINRA پشتیبانی می‌کند؛ الگویی که اکنون مبنای طراحی ساختار SAFA قرار گرفته است. آلتمن نیز همچنان در مواضع عمومی خود خواستار رویکردی گسترده‌تر و بین‌المللی، مشابه آژانس بین‌المللی انرژی اتمی، است. با وجود این اختلاف‌ها، نمایندگان هر سه آزمایشگاه از ژوئیه ۲۰۲۶ تاکنون در قالب گروه‌های کاری مشترک با یکدیگر نشست داشته‌اند.
برای انتخاب مدیرعامل SAFA با چند چهره سرشناس تماس گرفته شده است. یکی از آنها سریرام کریشنان است که از ژانویه ۲۰۲۵ تا ژوئن ۲۰۲۶ در دولت دونالد ترامپ سمت مشاور ارشد سیاست‌گذاری هوش مصنوعی کاخ سفید را بر عهده داشت. آراتی پرابهاکار، مدیر دفتر سیاست‌گذاری علم و فناوری کاخ سفید در دولت جو بایدن، و کاندولیزا رایس، وزیر امور خارجه پیشین آمریکا، نیز از دیگر افرادی هستند که برای این مسئولیت با آنها تماس گرفته شده است. برنامه فعلی این است که SAFA تا اواخر سال ۲۰۲۶ یا اوایل سال ۲۰۲۷ به‌طور رسمی آغاز به کار کند.
مانع ژئوپلیتیکی که هیچ‌یک از چارچوب‌ها پاسخی برای آن ندارند
تمام شکل‌های مختلف سناریوی نخست با یک مشکل ساختاری مشترک روبه‌رو هستند. ایجاد نهادی بین‌المللی برای نظارت بر هوش مصنوعی، مشابه آژانس بین‌المللی انرژی اتمی، مستلزم آن است که ایالات متحده و چین به بازرسان مستقلی اجازه فعالیت دهند که اختیارات واقعی برای نظارت بر حساس‌ترین برنامه‌های پژوهشی هوش مصنوعی این دو کشور داشته باشند. این در حالی است که آمریکا و چین بیش از هر کشور دیگری رقابت در حوزه هوش مصنوعی را مهم‌ترین رقابت راهبردی قرن حاضر معرفی می‌کنند. تحلیلگران مؤسسه بروکینگز استدلال کرده‌اند که هر چارچوب استانداردگذاری مشترک میان بخش‌های مختلف باید از ضمانت اجرایی برخوردار باشد و صرفاً به پایبندی داوطلبانه شرکت‌ها متکی نباشد. به اعتقاد آنان، حتی نهادی با طراحی مناسب نیز اگر اختیار الزام‌آور نداشته باشد، ممکن است به سازوکاری نمایشی تبدیل شود؛ در حالی که رقابت اصلی پشت درهای بسته مراکز داده همچنان با سرعت بیشتری ادامه پیدا می‌کند.
آنچه چارچوب پیشنهادی آلتمن روشن می‌کند، این است که دیگر نمی‌توان پرسش درباره سرانجام رقابت هوش مصنوعی را به آینده موکول کرد. صنعت هوش مصنوعی دیگر نمی‌تواند این موضوع را صرفاً بحثی انتزاعی و فلسفی بداند. سه سناریویی که آلتمن مطرح کرده، در واقع سه آینده کاملاً متفاوت را پیش روی این صنعت قرار می‌دهند: آینده‌ای که در آن حکمرانی بین‌المللی شرکت‌کنندگان در رقابت را پاسخ‌گو نگه می‌دارد؛ آینده‌ای که در آن ادغام شرکت‌ها و تمرکز فعالیت‌ها در یک سازمان، اساس رقابت را از میان می‌برد؛ و آینده‌ای که در آن رقابت به ظهور برنده‌ای چنان قدرتمند منجر می‌شود که مفهوم رقابت به پدیده‌ای متعلق به گذشته تبدیل خواهد شد. اکنون بحث بر سر این است که بشریت پیش از آنکه پیشرفت فناوری تمام گزینه‌های جایگزین را از دسترس خارج کند، کدام شکل از کنترل را خواهد پذیرفت: نظارت چندجانبه بین‌المللی، تمرکز فعالیت‌ها در یک سازمان واحد یا سلطه انحصاری یک بازیگر. این پرسش به یکی از سرنوشت‌سازترین مباحث سیاست‌گذاری دهه حاضر تبدیل شده است.