سم آلتمن سه سناریوی نهایی برای رقابت هوش مصنوعی ترسیم کرد؛ بدترین سناریو، از کار انداختن پردازنده‌های رقب
به گزارش نشریه The Information، سم آلتمن، مدیرعامل OpenAI، اخیراً در نشست داخلی با حضور کارکنان شرکت، سه سناریوی احتمالی برای سرانجام رقابت هوش مصنوعی ترسیم کرده است:
سناریوی نخست، تشکیل یک نهاد نظارتی جهانی است؛ سناریوی دوم، ادغام آزمایشگاه‌های پیشرو در یک مجموعه واحد؛ و سناریوی سوم، پیشتازی یک شرکت در دستیابی به فناوری‌های کلیدی، تا جایی که حتی بتواند سخت‌افزار رقبایش را از کار بیندازد.
سناریوی آخر بیشتر به داستان‌های علمی‌تخیلی شباهت دارد، اما خود آلتمن نیز صراحتاً آن را نتیجه‌ای «به‌شدت فاجعه‌بار» توصیف کرده است.
سه مسیر متفاوت که هرکدام هزینه‌ها و چالش‌های خود را دارند
نخستین گزینه‌ای که آلتمن مطرح کرده، ایجاد یک نهاد نظارتی جهانی مشابه آژانس بین‌المللی انرژی اتمی (IAEA) است.
چنین نهادی می‌تواند بر پیشرفته‌ترین سامانه‌های هوش مصنوعی نظارت کند، استانداردهای یکپارچه ایمنی تدوین کند و شرکت‌های توسعه‌دهنده را ملزم سازد که سامانه‌های خود را در معرض ارزیابی‌های مستقل قرار دهند.
آلتمن در مه ۲۰۲۳، به همراه گرگ براکمن، از بنیان‌گذاران OpenAI، و ایلیا سوتسکِوِر، دانشمند ارشد وقت این شرکت، مقاله‌ای با عنوان حکمرانی بر ابرهوش (Governance of Superintelligence) منتشر کرده بود.
پیوند مقاله: Governance of Superintelligence
در این مقاله پیشنهاد شده است که شاید در آینده به نهادی بین‌المللی مشابه آژانس بین‌المللی انرژی اتمی نیاز باشد تا بر فعالیت‌های توسعه هوش مصنوعی که از آستانه‌های مشخصی از توانمندی یا قدرت محاسباتی فراتر می‌روند، نظارت کند. وظایف چنین نهادی می‌تواند بازرسی سامانه‌ها، ممیزی ایمنی، آزمون انطباق و پایش توان محاسباتی و مصرف انرژی را دربر بگیرد.
بااین‌حال، هوش مصنوعی به فناوری‌ای راهبردی تبدیل شده است که کشورها سرمایه‌گذاری گسترده‌ای روی آن انجام می‌دهند. تنظیم مقررات بین‌المللی در این حوزه با مسائلی مانند محرمانگی فناوری، امنیت ملی و رقابت صنعتی گره خورده است. ازاین‌رو، هنوز مشخص نیست کشورها تا چه اندازه حاضر باشند قواعد یکسانی را بپذیرند.
مسیر دوم این است که آزمایشگاه‌های پیشرو هوش مصنوعی در جهان در نهایت در یک نهاد واحد ادغام شوند.
آلتمن این سناریو را «طرح دمیس» نامیده است. دمیس هاسابیس پیش‌تر پیشنهاد کرده بود که پژوهش در حوزه هوش مصنوعی می‌تواند از الگوی سازمان اروپایی پژوهش‌های هسته‌ای (CERN) الهام بگیرد؛ سازمانی که در آن کشورهای مختلف برای ایجاد و اداره یک مرکز پژوهشی بزرگ با یکدیگر همکاری می‌کنند.
پیوند ویدئو: مشاهده در یوتیوب
اگر شرکت‌های پیشرو هوش مصنوعی زیر نظر یک سازمان مشترک فعالیت کنند، می‌توانند استانداردهای ایمنی و تجربه‌های عملی خود را با یکدیگر به اشتراک بگذارند. چنین سازوکاری می‌تواند مانع از آن شود که شرکت‌ها پیوسته سرعت تحقیق و توسعه را افزایش دهند تا محصولاتشان را هرچه زودتر روانه بازار کنند.
بااین‌حال، اگر پیشرفته‌ترین مدل‌ها، استعدادهای برتر و توان محاسباتی در یک سازمان متمرکز شوند، آن نهاد نفوذ فنی و اقتصادی عظیمی به دست خواهد آورد. در چنین شرایطی، جلوگیری از تمرکز بیش‌ازحد قدرت به چالشی تازه تبدیل می‌شود.
آلتمن مسیر سوم، یعنی سناریوی برنده همه‌چیز را به دست می‌آورد، «طرح الیعزر» نامیده است. این سناریو فرضیه‌ای افراطی است که الیعزر یودکوفسکی، پژوهشگر ایمنی هوش مصنوعی، مطرح کرده است.
پیوند مقاله: AGI Ruin: A List of Lethalities
یودکوفسکی مدت‌هاست هشدار می‌دهد که ابرهوشِ خارج از کنترل ممکن است بقای بشریت را به خطر بیندازد. او پیش‌تر از این دیدگاه حمایت کرده بود که طرفی که زودتر به ابرهوش دست پیدا می‌کند، باید برای جلوگیری از توسعه سامانه‌های ابرهوش بالقوه خطرناک توسط سازمان‌های دیگر، اقداماتی قاطع انجام دهد.
آلتمن این سناریو را به مفهوم «خودبهبوددهی بازگشتی» (Recursive Self-Improvement یا RSI) مرتبط می‌داند.
منظور از خودبهبوددهی بازگشتی این است که هوش مصنوعی بتواند در بهبود معماری مدل خود، روش‌های آموزش یا فرایندهای توسعه مشارکت کند. سامانه ارتقایافته نیز می‌تواند همین توانایی‌ها را بیش از پیش تقویت کند و چرخه‌ای پیوسته از خودبهبوددهی به وجود آورد.
اگر این سازوکار به سطح بالایی از خودمختاری برسد، سرعت تحقیق و توسعه هوش مصنوعی ممکن است به‌طور چشمگیری افزایش یابد.
اگر شرکتی زودتر از رقبا به پیشرفت تعیین‌کننده‌ای در زمینه خودبهبوددهی بازگشتی دست پیدا کند، ممکن است در مدت کوتاهی برتری فنی‌ای ایجاد کند که رقبا قادر به جبران آن نباشند و در نهایت به انحصار بازار برسد.
در افراطی‌ترین حالت، چنین شرکتی حتی ممکن است بتواند در عملکرد پردازنده‌های گرافیکی رقبا اختلال ایجاد کند یا آن‌ها را از کار بیندازد.
آلتمن صراحتاً مخالفت خود را با چنین نتیجه‌ای اعلام کرده است؛ وضعیتی که در آن هوش مصنوعی پیشرفته در اختیار یک شرکت واحد متمرکز شود.
خطرهایی که آلتمن بارها بر آن‌ها تأکید کرده است
این بحث داخلی در واقع ادامه نگرانی‌هایی است که آلتمن پیش‌تر نیز بارها مطرح کرده بود.
آلتمن در اواسط سپتامبر ۲۰۲۶، علناً هشدار داد که هوش مصنوعی پیشرفته ممکن است دو خطر عمده به همراه داشته باشد: نخست، انسان‌ها کنترل سامانه‌های هوش مصنوعی را از دست بدهند؛ دوم، قدرت هوش مصنوعی در دست شمار اندکی از سازمان‌ها متمرکز شود.
او همچنین تأکید کرد که باید از حرکت توسعه هوش مصنوعی به سوی هر یک از این سناریوها جلوگیری شود.
آلتمن گفت OpenAI باید از موضعی نماینده منافع تمام بشریت عمل کند، نه اینکه صرفاً در خدمت یک شرکت یا گروه ذی‌نفع خاص باشد. او همچنین خواستار تدوین پروتکل‌های سخت‌گیرانه‌تر ایمنی هوش مصنوعی و انجام ارزیابی‌های مستقل از سامانه‌های پیشرفته این فناوری شد.
این موضع با برخی از دیدگاه‌های داریو آمودی، مدیرعامل شرکت آنتروپیک، هم‌راستاست.
بااین‌حال، آلتمن در جلسه داخلی اذعان کرد که OpenAI نمی‌تواند به‌آسانی از رقابت با شرکت‌های رقیب برای دستیابی به برتری فناورانه دست بکشد.
منبع: The Information
این مقاله از حساب رسمی وی‌چت «Synced» (شناسه: almosthuman2014) منتشر شده است. نویسنده، یکی از مشارکت‌کنندگان حوزه هوش مصنوعی است و این مطلب با اجازه نشریه 36Kr بازنشر شده است.