سم آلتمن سه سناریو برای آینده نهایی هوش مصنوعی مطرح کرد؛ دو سناریو از سال ۲۰۲۳ در برنامه‌های OpenAI بودند
سم آلتمن، مدیرعامل OpenAI، در نشستی داخلی سه سناریو را برای چگونگی پایان یافتن رقابت بر سر دستیابی به ابرهوش مصنوعی پیش روی کارکنان این شرکت گذاشته است. نکته قابل‌توجه این است که بخش عمده این سناریوها تازگی ندارند. دو مورد از آن‌ها شباهت زیادی به ایده‌هایی دارند که OpenAI چند سال پیش به‌صورت رسمی مطرح کرده بود، اما هیچ‌کدام هرگز عملی نشدند. سناریوی سوم نیز که بیش از بقیه خبرساز شد، تنها برای آن مطرح شده بود که آلتمن آن را رد کند.
اگر از نام‌گذاری این سناریوها بگذریم، هر سه به یک پرسش اساسی مربوط می‌شوند: چه کسی باید کنترل توان محاسباتی موردنیاز برای اجرای پیشرفته‌ترین مدل‌های هوش مصنوعی را در اختیار داشته باشد؟ اظهارات گزارش‌شده آلتمن همچنین روشن می‌کند که چرا تصمیم‌گیری درباره این پرسش همچنان به آینده موکول می‌شود.
سم آلتمن درباره آینده نهایی هوش مصنوعی به کارکنان OpenAI چه گفت؟
وب‌سایت The Information نخستین رسانه‌ای بود که با استناد به افراد آگاه از جزئیات نشست داخلی OpenAI، این موضوع را گزارش کرد. پس از آن، رسانه‌های The Decoder، فوربس و Latin Times نیز به آن پرداختند. البته اطلاعات منتشرشده بر گفته‌های منابع ناشناس متکی است. نخستین سناریو، تشکیل نهادی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی است که مسئولیت اجرای استانداردهای ایمنی در آزمایشگاه‌های توسعه‌دهنده پیشرفته‌ترین مدل‌های هوش مصنوعی را بر عهده بگیرد. چنین نهادی می‌تواند سامانه‌ها را بازرسی کند، انجام ممیزی‌های فنی را الزامی سازد و بر میزان مصرف توان محاسباتی و انرژی نظارت داشته باشد. دو نفر از منابع The Information گفته‌اند که به نظر می‌رسید آلتمن از این گزینه حمایت می‌کند.
آلتمن سناریوی دوم را «طرح دمیس» نامیده است؛ اشاره‌ای به دمیس هاسابیس، از بنیان‌گذاران گوگل دیپ‌مایند که حدود یک دهه پیش ایده تأسیس نهادی مشابه سازمان اروپایی پژوهش‌های هسته‌ای (سرن) را برای هوش مصنوعی مطرح کرده بود. در نسخه موردنظر آلتمن، آزمایشگاه‌های پیشرو در یک نهاد واحد ادغام می‌شوند یا زیر چتر آن فعالیت می‌کنند. سپس این نهاد مدل‌های هوش مصنوعی را در اختیار کشورهای مشارکت‌کننده قرار می‌دهد.
سناریوی سوم «طرح الیعزر» نام دارد که از نام الیعزر یودکوفسکی، نظریه‌پرداز حوزه ایمنی هوش مصنوعی، گرفته شده است. در این سناریو، یک توسعه‌دهنده زودتر از رقبا به هوش مصنوعی دارای توانایی بهبود مستقل خود دست می‌یابد و سپس با استفاده از قدرت اقتصادی حاصل از آن، دسترسی سایر رقبا به منابع محاسباتی را قطع می‌کند. توصیفی که از این سناریو در خبرها بازتاب گسترده‌ای یافت، این بود که چنین بازیگری می‌تواند «پردازنده‌های گرافیکی همه رقبا را ذوب کند». بنا بر گزارش‌ها، آلتمن گفته است: «بدیهی است که به نظرم این سناریو وحشتناک است.» او همچنین توضیح داده که این گزینه را صرفاً برای «کامل بودن فهرست» مطرح کرده است.
OpenAI بیشتر این سناریوها را در سال ۲۰۲۳ مطرح کرده بود
ایده ایجاد نهاد نظارتی بین‌المللی، قدیمی‌ترین گزینه این فهرست است. OpenAI در مطلبی با امضای آلتمن، گرگ براکمن، رئیس شرکت، و ایلیا سوتسکور، دانشمند ارشد وقت آن، استدلال کرده بود که جهان احتمالاً «سرانجام به نهادی مشابه آژانس بین‌المللی انرژی اتمی برای فعالیت‌های مرتبط با ابرهوش مصنوعی نیاز خواهد داشت». این نهاد باید اختیار «بازرسی سامانه‌ها و الزام به انجام ممیزی» را داشته باشد و بتواند استقرار سامانه‌هایی را که از آستانه مشخصی از توانایی یا توان محاسباتی فراتر می‌روند، محدود کند.
همان مطلب دو مسیر دیگر را نیز ترسیم کرده بود. در یکی از آن‌ها، دولت‌های بزرگ می‌توانستند «پروژه‌ای مشترک راه‌اندازی کنند که بسیاری از فعالیت‌های کنونی در آن ادغام شوند». این پیشنهاد شباهت زیادی به طرح ادغامی دارد که آلتمن اکنون آن را به هاسابیس نسبت می‌دهد. مسیر دیگر این بود که فعالان صنعت «به‌صورت جمعی توافق کنند» که «نرخ رشد توانایی پیشرفته‌ترین سامانه‌های هوش مصنوعی به میزان مشخصی در هر سال محدود شود».
پیشنهاد آخر در واقع تعیین سقف سرعت برای پیشرفت هوش مصنوعی است. به گزارش The Decoder، آلتمن در نشست داخلی از کمبود پیشنهادهای عملی برای تعیین چنین «محدودیت سرعتی» در توسعه هوش مصنوعی گلایه کرده است؛ در حالی که شرکت خودش پیش‌تر یکی از این پیشنهادها را منتشر کرده بود. آنچه OpenAI هرگز ارائه نکرد، سازوکاری بود که اختیار و قدرت لازم برای اجرای این محدودیت را داشته باشد.
چرا نهاد نظارتی همچنان روی کاغذ مانده است؟ OpenAI می‌گوید نمی‌تواند سرعت خود را کاهش دهد
دلیل این وضعیت نیز در همان نشست مطرح شده است. بنا بر گزارش‌ها، آلتمن به کارکنان گفته که اجرای دو سناریوی نخست به هماهنگی گسترده نیاز دارد و OpenAI در شرایط کنونی نمی‌تواند اجازه دهد موقعیت رقابتی‌اش تضعیف شود؛ به‌ویژه آنکه هم این شرکت و هم آنتروپیک در مسیر عرضه عمومی سهام خود حرکت می‌کنند. رسانه Crypto Briefing منطق سرمایه‌گذاری پشت این موضع را چنین توضیح داده است: شرکت‌هایی که برای ورود به بورس آماده می‌شوند، معمولاً به دنبال تقویت مزیت رقابتی خود هستند، نه واگذاری آن به یک کنسرسیوم.
ایجاد نهادی مشابه آژانس بین‌المللی انرژی اتمی برای هوش مصنوعی، مستلزم آن است که واشنگتن و پکن نیز حضور بازرسان در حساس‌ترین آزمایشگاه‌های خود را بپذیرند. با این حال، به نوشته فوربس، حتی پیشنهاد آمریکا برای اطلاع‌رسانی متقابل دو کشور درباره حوادث خطرناک مرتبط با هوش مصنوعی نیز هنوز از مرحله طرح اولیه فراتر نرفته و به توافقی رسمی تبدیل نشده است.
آنچه آزمایشگاه‌ها در عمل می‌سازند، بیشتر شبیه FINRA است تا آژانس بین‌المللی انرژی اتمی
طرحی که اکنون برای سامان‌دهی نظارت بر صنعت هوش مصنوعی در حال پیگیری است، با هیچ‌یک از سه سناریوی آلتمن مطابقت ندارد. OpenAI، گوگل و آنتروپیک در حال همکاری برای ایجاد نهادی خودتنظیم‌گر به نام «مرجع استانداردهای هوش مصنوعی پیشرفته» (Standards Authority for Frontier AI) هستند. الگوی این نهاد، FINRA است؛ سازمانی خصوصی که بر فعالیت کارگزاران بازار اوراق بهادار آمریکا نظارت می‌کند. به گزارش Latin Times، چارچوب پیشنهادی شامل آزمایش مدل‌ها پیش از انتشار، گزارش‌دهی حوادث و اعتباربخشی به حسابرسان و ارزیابان مستقل است، اما قدرت اجرایی الزام‌آور ندارد. سه آزمایشگاه بزرگ نیز هنوز درباره اینکه چه نهادی باید مدل‌های جدید را آزمایش کند، اختلاف‌نظر دارند. مارک زاکربرگ، مدیرعامل متا، و جنسن هوانگ، مدیرعامل انویدیا، معتقدند چنین مقرراتی عمدتاً به سود شرکت‌های مسلط بر بازار است و از موقعیت آن‌ها محافظت می‌کند. همچنین در آمریکا شکایتی بر مبنای قوانین ضدانحصار مطرح شده که ادعا می‌کند هماهنگی آزمایشگاه‌ها در زمینه ایمنی، عملاً به تشکیل یک کارتل منجر شده است.
نام‌گذاری سناریوها نیز نیازمند بررسی دقیق‌تری است. تعبیر اولیه یودکوفسکی، یعنی «سوزاندن تمام پردازنده‌های گرافیکی»، در واقع یک آزمایش فکری بود؛ تلاشی برای نشان دادن اینکه یک سامانه هوش مصنوعی همسو با اهداف انسانی برای متوقف کردن رقابتی بی‌محابا، ممکن است به اقدامی تا چه اندازه گسترده نیاز داشته باشد. یودکوفسکی خود نوشته بود که چنین اقدامی چیزی نیست که واقعاً خواهان انجام آن باشد. با این حال، در روایت آلتمن از «طرح الیعزر»، این اقدام اضطراری برای متوقف کردن رقابت، به ابزاری برای پیروزی انحصاری یک شرکت تبدیل شده است. بر اساس روایت The Decoder از گزارش منتشرشده، یکی از منابع گفته که با توجه به ارتباط یودکوفسکی با آنتروپیک، این اظهارنظر به‌عنوان کنایه‌ای به یکی از رقبا برداشت شده است.
به گزارش The Information، شرکت OpenAI قصد دارد ظرف یک سال آینده درباره انتخاب مسیر خود تصمیم بگیرد. در همین حال، نهاد تدوین استانداردهای صنعت نیز راه‌اندازی خود را برای اواخر سال ۲۰۲۶ یا اوایل سال ۲۰۲۷ هدف‌گذاری کرده است.
تا زمانی که OpenAI مسیر خود را انتخاب کند، همچنان در همان راهی پیش می‌رود که در فهرست سه‌گانه آلتمن جایی نداشت: ادامه رقابت برای پیشتازی در هوش مصنوعی.