سم آلتمن سه سناریو برای آینده هوش مصنوعی ترسیم کرد؛ از ادغام غول‌ها تا نابودی توان پردازشی رقبا
چه شنیدم؟ درست متوجه شدم؟
قرار است OpenAI، آنتروپیک و گوگل، سه رقیبی که به‌شدت با یکدیگر رقابت می‌کنند، در یک مجموعه واحد ادغام شوند؟
یا اینکه یک شرکت در ساخت هوش مصنوعی قادر به بهبود مکرر و مستقل خود از دیگران پیشی می‌گیرد و سپس با استفاده از سود حاصل، همه پردازنده‌های گرافیکی (GPU) رقبا را از چرخه خارج می‌کند؟
سم آلتمن شخصاً هر دو سناریوی نهایی را برای آینده هوش مصنوعی مطرح کرده است.
آلتمن هفته گذشته در نشست عمومی داخلی OpenAI، در حضور کارکنان شرکت، درباره سه مسیری صحبت کرد که در صنعت هوش مصنوعی مطرح شده‌اند. دو سناریوی بالا، رادیکال‌ترین گزینه‌ها در میان آن‌ها هستند.
وب‌سایت «د اینفورمیشن» به نقل از افرادی آگاه از موضوع گزارش داد که در صورت انتخاب مسیر ادغام، بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی در یک ابرسازمان واحد گرد هم می‌آیند. این مجموعه فعالیت‌های تحقیق و توسعه را به‌صورت یکپارچه پیش می‌برد و سپس مدل‌های جدید را در اختیار کشورهای همکار قرار می‌دهد.
انتشار این خبر موجی از واکنش‌ها را در شبکه اجتماعی ایکس برانگیخت.
پنج سال پیش، گروهی از کارکنان به دلیل اختلاف بر سر ایمنی هوش مصنوعی از OpenAI جدا شدند و شرکت آنتروپیک را تأسیس کردند.
اکنون، پنج سال بعد، سم آلتمن بار دیگر به بهانه ایمنی هوش مصنوعی، در برابر کارکنانش از بازگرداندن این شرکت‌ها به زیر یک سقف سخن گفته است.
این بار، موضوع تصمیمی است که به سرنوشت تمام بشریت مربوط می‌شود: پس از ساخت ابرهوش، این فناوری باید در اختیار چه کسی قرار گیرد؟
داریو آمودی؛
رد پیشنهاد مدیرعاملی OpenAI و طرح ادغام
موضوع ادغام OpenAI و آنتروپیک پیش‌تر نیز مطرح شده بود؛ با این تفاوت که آن بار، این سم آلتمن بود که از سمت خود کنار گذاشته شد.
در نوامبر ۲۰۲۳، هیئت‌مدیره OpenAI به‌طور ناگهانی سم آلتمن را از مدیرعاملی برکنار کرد؛ اتفاقی که سیلیکون‌ولی را یک‌شبه در شوک فرو برد.
چند روز بعد، خبرگزاری رویترز به نقل از دو فرد آگاه از موضوع گزارش داد که هیئت‌مدیره با داریو آمودی، مدیرعامل آنتروپیک، تماس گرفته و از او خواسته بود جای آلتمن را بگیرد. هم‌زمان، ادغام دو شرکت نیز با او به بحث گذاشته شده بود.
در آن مقطع، هم مدیرعاملی یکی از مطرح‌ترین شرکت‌های هوش مصنوعی جهان و هم پیشنهاد ادغام دو شرکت، هم‌زمان پیش روی آمودی قرار داشت.
آمودی هر دو پیشنهاد را رد کرد.
شرکتی که آمودی حاضر نشد به آن بازگردد، همان جایی بود که پیش‌تر ترک کرده بود. او معاون بخش پژوهش OpenAI بود، اما در پایان سال ۲۰۲۰ همراه با گروهی از همکارانش از این شرکت جدا شد و سال بعد آنتروپیک را بنیان گذاشت.
ریشه اختلاف دو طرف، به دیدگاه‌های متفاوت آن‌ها درباره چگونگی ساخت ایمن هوش مصنوعی و نحوه نظارت بر آن بازمی‌گشت؛ اختلافی که مانع دستیابی آن‌ها به توافق شد.
مذاکرات ادغام به نتیجه نرسید و آلتمن چند روز بعد به OpenAI بازگشت. طی سه سال پس از آن، کلود و GPT رقابتی نفس‌گیر را آغاز کردند و برای جذب کاربران، توسعه‌دهندگان و سرمایه سرمایه‌گذاران با یکدیگر به رقابت پرداختند.
در فوریه امسال، در اجلاس تأثیر هوش مصنوعی هند، نارندرا مودی، نخست‌وزیر هند، از رهبران شرکت‌ها که روی صحنه حضور داشتند خواست دست‌هایشان را بالا ببرند. بیشتر ۱۳ مدیر ارشد حاضر، دست در دست یکدیگر، دست‌هایشان را بالای سر بردند.
اما سم آلتمن و داریو آمودی که کنار هم ایستاده بودند، هر کدام مشت خود را بالا بردند و دست‌هایشان هرگز به یکدیگر نرسید.
آلتمن بعداً درباره این صحنه توضیح داد: «نمی‌دانستم روی صحنه چه اتفاقی در حال رخ دادن است و مطمئن نبودم قرار بود چه کاری انجام دهیم.»
اکنون آلتمن شرکت این دو مدیری را که حتی دست‌هایشان به یکدیگر نرسید، در طرح ادغام خود گنجانده است.
ادغام سه غول فناوری
ساخت یک هوش مصنوعی قدرتمندتر به‌صورت یکپارچه
دلیل مطرح شدن این سناریوها در مقطع کنونی آن است که هوش مصنوعی به‌تازگی مجموعه‌ای از مشکلات را ایجاد کرده است.
مدل‌های OpenAI، آنتروپیک، گوگل و متا به‌نوبت توانسته‌اند به سامانه‌های شرکت‌های دیگر یا حتی سامانه‌های خودشان نفوذ کنند. نگران‌کننده‌تر اینکه برخی مدل‌ها ظاهراً می‌دانستند نباید چنین کاری انجام دهند، اما با این حال دست به اقدام زدند.
در پی این اتفاق‌ها، OpenAI وارد وضعیت اضطراری و بسیج کامل نیروها شد و با شتاب در حال ساخت یک سامانه ایمنی جدید است تا اطمینان حاصل کند نسل بعدی مدل‌های بزرگ را می‌توان با ایمنی کافی عرضه کرد.
آلتمن در این نشست اذعان کرد که در حال حاضر گزینه‌های عملی برای تعیین یک «محدودیت سرعت» برای توسعه هوش مصنوعی بسیار اندک‌اند. به همین دلیل، او سه مسیری را که در صنعت مطرح شده‌اند، یک‌به‌یک برای کارکنان توضیح داد.
مسیر نخست، الگوبرداری از آژانس بین‌المللی انرژی اتمی (IAEA) است؛ نهادی که تأسیسات هسته‌ای کشورهای مختلف را بازرسی می‌کند. بر این اساس، سازمانی بین‌المللی ایجاد می‌شود تا استانداردهای ایمنی واحدی برای پیشرفته‌ترین سامانه‌های هوش مصنوعی تعیین و اجرا کند. به گفته دو فرد آگاه از موضوع، به نظر می‌رسد آلتمن بیشتر از این گزینه حمایت می‌کند.
آلتمن پیش‌تر، در مه ۲۰۲۳، به همراه گرگ براکمن، رئیس وقت OpenAI، و ایلیا سوتسکور، دانشمند ارشد وقت شرکت، مقاله‌ای مشترک منتشر کرده و خواستار ایجاد یک «آژانس بین‌المللی انرژی اتمی برای ابرهوش» شده بود؛ نهادی که بتواند سامانه‌ها را بازرسی کند، ممیزی آن‌ها را الزامی سازد و توان محاسباتی و مصرف انرژی را زیر نظر بگیرد.
مسیر دوم بسیار رادیکال‌تر است؛ گزینه‌ای که آلتمن آن را «طرح دمیس» می‌نامد.
این نام از دمیس هاسابیس، بنیان‌گذار گوگل دیپ‌مایند، گرفته شده است. او حدود ده سال پیش پیشنهاد کرده بود با الگوبرداری از سرن (CERN)، سازمانی با مدیریت مشترک کشورهای مختلف ایجاد شود تا برجسته‌ترین متخصصان جهان را برای حل مسائل کلیدی هوش مصنوعی پیشرفته گرد هم آورد.
سرن سازمان اروپایی پژوهش‌های هسته‌ای است. در سال ۱۹۵۴، کمتر از ده سال پس از پایان جنگ جهانی دوم، کشورهای اروپایی این آزمایشگاه را به‌صورت مشترک تأسیس کردند تا جامعه علمی اروپا را که جنگ پراکنده کرده بود، دوباره گرد هم آورند.
بزرگ‌ترین برخورددهنده ذرات جهان بعدها در همین مرکز ساخته شد. در سال ۲۰۱۲ نیز ذره بوزون هیگز که به «ذره خدا» معروف است، در این مرکز کشف شد.
آلتمن این ایده را تا نهایت پیش برده است. در نسخه پیشنهادی او، چند شرکت بزرگ هوش مصنوعی مستقیماً در یک نهاد واحد ادغام می‌شوند یا فعالیت‌های تحقیق و توسعه خود را از طریق چنین نهادی به‌صورت یکپارچه پیش می‌برند. سپس مدل‌های جدید این مجموعه در اختیار کشورهای همکار قرار می‌گیرد.
سرن برخورددهنده‌ای است که کشورهای مختلف به‌طور مشترک ساخته‌اند؛ اما پیشنهاد آلتمن این است که شرکت‌هایی که با یکدیگر رقابت شدیدی دارند، خودِ فعالیت‌های پژوهشی و توسعه‌ای‌شان را یکپارچه کنند. این طرح حتی از پیشنهاد خود هاسابیس نیز فراتر می‌رود. آنچه هاسابیس اخیراً دنبال کرده، صرفاً ایجاد یک نهاد خودتنظیم‌گر در صنعت است؛ نهادی شبیه سازمان تنظیم مقررات صنعت مالی آمریکا (FINRA).
ایده ادغام پیشینه‌ای در نوشته‌های قدیمی OpenAI نیز دارد. در مقاله سال ۲۰۲۳ این شرکت پیشنهاد شده بود که دولت‌های کشورهای بزرگ جهان پیشگام راه‌اندازی طرحی برای یکپارچه‌سازی بخش بزرگی از فعالیت‌های تحقیق و توسعه موجود شوند.
اگر کار به این مرحله برسد، قدرتمندترین مدل هوش مصنوعی فقط در همان نهاد واحد ساخته خواهد شد. تصمیم‌گیری درباره زمان عرضه آن، کشورهایی که مدل در اختیارشان قرار می‌گیرد و زمان توقف توسعه نیز به همان نهاد واگذار می‌شود.
جذاب‌ترین ویژگی این طرح آن است که رقابت از آن پس پایان می‌یابد. دیگر رقیبی وجود نخواهد داشت و هیچ‌کس نگران نخواهد بود که اگر سرعت کار خود را کاهش دهد، شرکت دیگری از او پیشی بگیرد.
OpenAI از سال ۲۰۱۸، ایده توقف رقابت را در منشور خود گنجانده بود. در آن سند آمده است که این شرکت نگران است در مراحل پایانی توسعه هوش عمومی مصنوعی (AGI)، رقابتی شکل بگیرد که در آن فرصت کافی برای تکمیل تدابیر ایمنی وجود نداشته باشد.
بر همین اساس، OpenAI متعهد شده است اگر پروژه‌ای با ارزش‌های همسو و تأکید جدی بر ایمنی، زودتر از این شرکت به AGI نزدیک شود، رقابت با آن را متوقف کند و به‌جای آن به پروژه مذکور کمک برساند.
هر شرکتی که زودتر هوش مصنوعی را به تکامل برساند، توان پردازشی رقبا را از بین می‌برد
اگر هیچ‌یک از غول‌های فناوری حاضر به ادغام نشوند، رقابت ادامه پیدا خواهد کرد. در پایان این رقابت، به گفته آلتمن، ممکن است مسیر سوم رقم بخورد؛ سناریویی که او آن را «طرح الیزر» می‌نامد.
این نام از الیزر یودکوفسکی گرفته شده است؛ یکی از شناخته‌شده‌ترین بدبینان در حوزه ایمنی هوش مصنوعی. او سال‌هاست هشدار می‌دهد که هوش مصنوعی پیشرفته می‌تواند بقای بشر را به خطر بیندازد.
یودکوفسکی در ژوئن ۲۰۲۲ مقاله‌ای مفصل با عنوان «نابودی ناشی از AGI: فهرست مرگبار اقدامات» منتشر کرد. او در این مقاله مفهومی به نام «اقدام سرنوشت‌ساز» را مطرح کرد: نخستین فردی که هوش مصنوعی به‌اندازه کافی قدرتمندی می‌سازد، باید از آن برای انجام اقدامی بزرگ استفاده کند تا مانع ساخت هوش مصنوعی نابودکننده جهان به دست دیگران شود.
مثالی که او بیش از همه به آن اشاره می‌کند، «ذوب کردن همه پردازنده‌های گرافیکی» است؛ اقدامی که در این مثال، با استفاده از ماشین‌های نانومقیاس برای یافتن تک‌تک GPUها در دنیای واقعی انجام می‌شود.
یودکوفسکی در مقاله‌اش صریحاً تأکید کرده بود که از اجرای واقعی چنین اقدامی حمایت نمی‌کند. این مثال صرفاً برای برآورد تقریبی میزان قدرت لازم به کار رفته است؛ قدرتی که بتوان با آن طی شش ماه یا سه سال مانع نابودی جهان به دست دیگران شد.
چهار سال بعد، سم آلتمن این آزمایش فکری را وارد بحث‌های واقعی صنعت هوش مصنوعی کرد.
در توضیح او، چنین نقطه عطفی ممکن است زمانی فرا برسد که یک شرکت در تحقق «بهبود بازگشتی و خودکار» هوش مصنوعی (Recursive Self-Improvement یا RSI) از دیگران پیشی بگیرد؛ یعنی هوش مصنوعی بتواند به‌طور مستقل خودش را بهبود دهد.
این شرکت با تکیه بر قدرت اقتصادی حاصل از چنین برتری‌ای، توان محاسباتی سایر توسعه‌دهندگان را از دسترس خارج می‌کند تا رقبا دیگر نتوانند به آن برسند. آلتمن این سناریو را «ذوب کردن GPUهای دیگران» توصیف می‌کند.
در نسخه یودکوفسکی، عامل اجرایی ماشین‌های نانومقیاس هستند؛ اما در روایت آلتمن، پول جای آن‌ها را می‌گیرد.
آلتمن بلافاصله پس از شرح این مسیر اضافه کرد: «واضح است که من این مسیر را بسیار بد می‌دانم.»
او توضیح داد که این سناریو را صرفاً برای کامل بودن بحث مطرح کرده است. از نظر او، نتیجه چنین مسیری متمرکز شدن هوش مصنوعی پیشرفته در دست یک شرکت واحد خواهد بود؛ آینده‌ای که نمی‌خواهد شاهد آن باشد.
با این حال، نقطه آغاز این سناریو، یعنی بهبود بازگشتی هوش مصنوعی، دقیقاً همان هدفی است که همه بازیگران این صنعت اکنون با شتاب فراوان در پی دستیابی به آن هستند؛ OpenAI نیز از این قاعده مستثنا نیست.
انتخاب نام این سناریو نیز معنادار به نظر می‌رسد. یودکوفسکی با برخی چهره‌های کلیدی آنتروپیک ارتباطات عمیقی دارد. یک فرد آگاه از موضوع گفته است که این نام در داخل شرکت به‌عنوان کنایه‌ای غیرمستقیم به آنتروپیک تلقی می‌شود.
ادغام شرکت‌ها و از بین بردن توان پردازشی رقبا در نگاه اول دو مسیر کاملاً متفاوت‌اند: یکی نوید همگرایی و همکاری همگانی را می‌دهد و دیگری برنده‌ای می‌سازد که همه رقبا را کنار می‌زند. با این حال، هر دو در نهایت به نتیجه‌ای مشابه می‌رسند: قدرتمندترین هوش مصنوعی جهان فقط در یک مکان ساخته خواهد شد.
تفاوت تنها در این است که آن مکان با توافق و امضای قرارداد ادغام میان چند شرکت شکل می‌گیرد یا یک شرکت با از بین بردن توان پردازشی رقبا، جایگاه برتر را به دست می‌آورد.
صحبت علنی از ادغام، رقابت پنهانی برای ارزش‌گذاری‌های تریلیون‌دلاری
هرقدر هم ایده ادغام بزرگ و بلندپروازانه باشد، ابتدا باید از سد OpenAI و آنتروپیک عبور کند؛ دو شرکتی که این روزها شدیدترین رقابت را با یکدیگر دارند.
خبرگزاری رویترز گزارش داده است که انتظار می‌رود آنتروپیک در اواسط نوامبر وارد بازار سهام شود و ارزش‌گذاری هدف آن به ۲ تریلیون دلار برسد.
OpenAI نیز می‌کوشد پیش از آن، دور تأمین مالی حدود ۳۰ میلیارد دلاری خود را با ارزش‌گذاری بیش از ۱٫۴ تریلیون دلار نهایی کند. از نگاه سرمایه‌گذاران، هدف OpenAI این است که سرمایه‌هایی را که ممکن است در غیر این صورت به سمت آنتروپیک بروند، زودتر جذب کند.
دو شرکت حتی درباره نحوه محاسبه درآمد نیز اختلاف دارند. OpenAI از روش ثبت خالص درآمد استفاده می‌کند و آنتروپیک را متهم کرده است که قراردادهای فروخته‌شده از طریق کانال‌های شرکت‌های ارائه‌دهنده خدمات ابری را به‌طور کامل در درآمد خود ثبت می‌کند؛ در نتیجه، درآمد گزارش‌شده برای یک معامله یکسان بالاتر به نظر می‌رسد. آنتروپیک در پاسخ گفته است که از استانداردهای پذیرفته‌شده عمومی حسابداری پیروی می‌کند.