هوش مصنوعی و «واگذاری قدرت»: چه کسانی می‌خواهند کلید اداره جهان را به هوش مصنوعی بسپارند؟ (AI-RTZ شماره ۱۲۷۶، بخش اول از سه بخش)

michaelparekh.substack.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

(یادداشت آغازین: مجموعه سه‌قسمتی «واگذاری قدرت»: بخش اول، چه کسانی می‌خواهند کلید اداره جهان را به هوش مصنوعی بسپارند؟ (امروز)؛ بخش دوم، مالکیت عامل‌های هوش مصنوعی در اختیار چه کسانی خواهد بود؟ (نگاه جامع روز یکشنبه)؛ بخش سوم، چه کسی تصمیم می‌گیرد؟ (دوشنبه))

تصویری متحرک از حرکت یک کنترل‌گر میان پنج الگوی واگذاری قدرت به هوش مصنوعی؛ از وضعیت کنونی که انسان‌ها کنترل را در اختیار دارند تا هوش مصنوعی کمال‌گرا، رئیس‌جمهور کلود، پارلمان فرشتگان، نگهبان شب و خدا؛ در پایان، کنترل‌گر واحد هوش مصنوعی به شبکه‌ای از میلیاردها هوش مصنوعی تبدیل می‌شود. نه یگانگی، بلکه تکثر.

واژه‌ای تازه در دره سیلیکون بر سر زبان‌ها افتاده که ریشه در ایده‌ای نگران‌کننده دارد؛ ایده‌ای که سال‌هاست در میان متفکران، فعالان و سازندگان اصلی حوزه هوش مصنوعی مطرح است.

در فصل عرضه‌های اولیه سهام شرکت‌های بزرگ هوش مصنوعی، آشنایی با این اصطلاح اهمیت ویژه‌ای دارد: «واگذاری قدرت» (Handoverism). منظور از آن این است که بشریت کنترل آینده خود را به هوش مصنوعی واگذار خواهد کرد یا دست‌کم باید چنین کند. البته نه به شکل تسخیر خشونت‌آمیزی مانند اسکای‌نت در مجموعه فیلم‌های ترمیناتور.

بلکه این انتقال قرار است آرام و داوطلبانه صورت بگیرد. شمار افرادی که در ساخت موج فناوری هوش مصنوعی نقش کلیدی دارند و به این دیدگاه باورمندند، بسیار بیشتر از چیزی است که اغلب ما تصور می‌کنیم. درباره این موج فناوری هوش مصنوعی، چنین رویکردی در میان چهره‌های تأثیرگذار صنعت ریشه دوانده است.

یکی از بهترین منابع برای آشنایی با این دیدگاه، مقاله تازه‌ای با عنوان «واگذاری بشریت» نوشته روکسندرا تسلو، دانشمند و نویسنده‌ای است که به‌تازگی به سان‌فرانسیسکو نقل مکان کرده است. همچنین بیل گورلی، سرمایه‌گذار باسابقه حوزه سرمایه‌گذاری خطرپذیر، در ۱۶ نوامبر و چند روز پیش از عرضه اولیه سهام آنتروپیک، این اصطلاح را به مخاطبان بسیار بیشتری معرفی کرد. در ادامه، نوشته او را می‌خوانید که نسخه کامل‌تر آن در شبکه ایکس منتشر شده است:

بیل گورلی (@bgurley): بسیار مهم است که همه کسانی که درباره هوش مصنوعی فکر می‌کنند، با اصطلاح «واگذاری قدرت» آشنا شوند. بسیاری از فعالان جامعه هوش مصنوعی معتقدند بشریت باید ــ یا در نهایت ناگزیر خواهد بود ــ کنترل جهان را به خود هوش مصنوعی واگذار کند. برخی این اتفاق را نه خطری که باید از آن جلوگیری کرد، بلکه به‌عنوان یک...

۱۶ نوامبر ۲۰۲۶، ساعت ۲۳:۰۰ · ۱۳۶ هزار بازدید · ۱۱۹ پاسخ · ۲۲۶ بازنشر · ۱٫۵۵ هزار پسند

مشاهده نوشته اصلی بیل گورلی در ایکس

این بحث ادامه موضوعی است که بیش از دو سال است آن را دنبال می‌کنم: مقاله‌هایی که بنیان‌گذاران آزمایشگاه‌های پیشرو هوش مصنوعی درباره آینده این فناوری نوشته‌اند. از جمله مقاله سم آلتمن با عنوان «عصر هوش» و مقاله داریو آمودی با عنوان «ماشین‌های لطف و مهربانی» که در اکتبر ۲۰۲۴ آن‌ها را در نوشته «روایت دو مقاله درباره هوش مصنوعی» کنار هم بررسی کردم. آمودی در ژانویه مقاله دیگری با عنوان «نوجوانی فناوری» منتشر کرد. در سپتامبر امسال نیز مقاله‌های مربوط به خطرهای وجودی هوش مصنوعی را در قالب مقایسه‌ای میان آمریکا و چین بررسی کردم. تحلیل‌های مفصلی که آن زمان ارائه دادم، همچنان به قوت خود باقی‌اند.

این موضوع همچنین مستقیماً به استدلالی بازمی‌گردد که از سال ۲۰۲۴ مطرح کرده‌ام: آینده ما به‌سوی میلیاردها هوش مصنوعی، نه یک هوش مصنوعی واحد، پیش می‌رود.

نه یک اسکای‌نت واحد، بلکه میلیاردها عامل هوش مصنوعی؛ ساختاری یکپارچه که به مجموعه‌ای از نقاط رنگارنگ تبدیل می‌شود؛ بازتابی از خود ما، هم شگفت‌انگیز و هم پیچیده.

این بحث درست در هفته‌ای مطرح شده که پرسش اصلی آن به مسئله‌ای کاملاً ملموس تبدیل شده است.

دیروز در مقاله «آغاز عصر آسیب‌پذیری‌های گسترده»، مجموعه‌ای از اختلال‌ها در سامانه‌های مایکروسافت تا آژانس امنیت ملی آمریکا (NSA) را بررسی کردم؛ اختلال‌هایی که در پی توانایی هوش مصنوعی برای شناسایی آسیب‌پذیری‌های نرم‌افزاری سریع‌تر از توان ما برای رفع آن‌ها رخ داده‌اند. این اتفاق یادآوری می‌کند که حتی پیش از سپردن مسئولیت‌های بیشتر به هوش مصنوعی، شناخت ما از زیرساخت دیجیتال کنونی تا چه اندازه ناقص است.

این مقاله نخستین بخش از مجموعه سه‌قسمتی درباره «واگذاری قدرت» است که هر بخش آن حول یک پرسش شکل می‌گیرد: امروز، چه کسانی می‌خواهند کلید اداره جهان را واگذار کنند؟ یکشنبه در بخش «نگاه جامع»، مالکیت عامل‌های هوش مصنوعی در اختیار چه کسانی خواهد بود؟ و دوشنبه، چه کسی تصمیم می‌گیرد؟ در این بخش ابتدا مفهوم واگذاری قدرت، حامیان آن، ارتباطش با جدال میان شتاب‌دهندگان و کندکنندگان توسعه هوش مصنوعی که در سال ۲۰۲۳ درباره‌اش نوشتم و مخالفت‌های مطرح‌شده با آن را بررسی می‌کنم و سپس دیدگاه خودم را توضیح می‌دهم.


«واگذاری قدرت» چیست؟

این اصطلاح از حوزه ایمنی هوش مصنوعی آمده است. روشن‌ترین تعریف آن را اسکات الکساندر، نویسنده پرخواننده وب‌سایت آسترال کدکس تن، در مقاله ماه گذشته خود با عنوان «در مخالفت با مخالفت با واگذاری قدرت» ارائه کرده است. او دو مفهوم را از یکدیگر جدا می‌کند؛ مفاهیمی که منتقدان معمولاً آن‌ها را با هم اشتباه می‌گیرند:

  • جانشینی‌گرایی (Successionism): هوش مصنوعی باید جانشین انسان‌ها در مقام حاکم زمین شود، حتی اگر این اتفاق به نادیده گرفته شدن منافع انسان‌ها یا پیامدهایی بدتر منجر شود. تقریباً همه فعالان حوزه ایمنی هوش مصنوعی با این دیدگاه مخالف‌اند.

  • واگذاری قدرت (Handoverism): انسان‌ها همچنان منافع خود را در اولویت قرار می‌دهند، اما ممکن است بهترین راه برای تأمین همین منافع، سپردن جایگاه‌های مدیریتی و تصمیم‌گیری به هوش مصنوعی‌های همسو با ارزش‌های انسانی باشد. الکساندر این دیدگاه را قابل‌دفاع می‌داند.

تسلو که در هفته‌های نخست حضورش در سان‌فرانسیسکو با افراد شاغل در آزمایشگاه‌های هوش مصنوعی و اطراف آن‌ها گفت‌وگو کرده، طیفی از دیدگاه‌ها را توصیف می‌کند. برخی از اداره جهان به دست یک ابرهوش مصنوعی خیرخواه استقبال می‌کنند. برخی دیگر نیز آن را واقعیتی اجتناب‌ناپذیر می‌دانند که باید به‌عنوان بهایی برای جلوگیری از وقوع سناریویی بدتر پذیرفت. برآورد او این است که حدود ۳۰ تا ۴۰ درصد اعضای جامعه ایمنی هوش مصنوعی در خارج از آزمایشگاه‌ها، به شکلی از این دیدگاه باور دارند و سهم افراد حاضر در جایگاه‌های کلیدی داخل آزمایشگاه‌ها حتی بیشتر است. با این حال، تسلو درباره نسخه خوش‌بینانه این آینده نظر دیگری دارد: آرمان‌شهری که وعده داده می‌شود، از نگاه او بسیار بیشتر به یک ویران‌شهر شباهت دارد.

در مقاله تسلو به بررسی مفیدی نیز اشاره شده که دیدگاه بنیان‌گذاران مشترک آزمایشگاه‌های هوش مصنوعی درباره «آینده خوب» را بر اساس اظهارنظرهای شفاهی آن‌ها گردآوری کرده است؛ از جمله چهره‌هایی از آنتروپیک، اوپن‌ای‌آی و دیپ‌مایند، به‌علاوه ایلان ماسک. این بررسی را ببینید.

دو موضوع به‌طور مکرر در این دیدگاه‌ها مطرح می‌شود: نخست اینکه آیا این افراد به رمان‌های مجموعه «کالچر» نوشته آین ام. بنکس اشاره می‌کنند یا نه؛ آثاری که در آن‌ها ذهن‌های هوشمند و خیرخواه هوش مصنوعی اداره تمدنی با وفور منابع را بر عهده دارند و انسان‌ها در سایه حمایت آن‌ها زندگی مطلوبی دارند. دوم اینکه آیا می‌پذیرند انسان‌ها در نهایت به حیوانات خانگی تحت مراقبت هوش مصنوعی تبدیل شوند یا خیر. کنار هم قرار دادن این موضوعات با مقاله‌های منتشرشده، تصویری از دیدگاه افراد مختلف به دست می‌دهد: از کسانی که تسلیم یا پذیرای اداره جهان به دست یک یا دو هوش مصنوعی هستند تا کسانی که آینده را در حضور میلیاردها هوش مصنوعی می‌بینند که با هشت میلیارد انسان و در خدمت آن‌ها فعالیت می‌کنند.

یک هوش مصنوعی در رأس قدرت یا میلیاردها هوش مصنوعی در خدمت انسان‌ها؟ نقشه‌ای از جایگاه رهبران و منتقدان هوش مصنوعی؛ از پذیرش واگذاری قدرت در سمت چپ تا فعالیت میلیاردها هوش مصنوعی در کنار و در خدمت هشت میلیارد انسان در سمت راست، و از کندسازی توسعه در پایین تا شتاب‌بخشی به آن در بالا. نام‌های لری پیج، جینورا دیویس، ایلان ماسک، تام براون، داریو آمودی، اسکات الکساندر، تیم AI 2040، دمیس هاسابیس، گرگ براکمن، سم آلتمن، جک کلارک، مصطفی سلیمان، روکسندرا تسلو، بیل گورلی، مارک زاکربرگ، جنسن هوانگ و مایکل پارک در این نقشه آمده‌اند.

جایگاه چهره‌های مختلف بر اساس مقاله و بررسی تسلو و همچنین برداشت شخصی من:

  • کسانی که برای این ایده معنایی قائل‌اند: جینورا دیویس در مقاله «انسان سیلیکونی» در نشریه آرنا استدلال می‌کند که ساخت ابرهوشی که جایگزین انسان‌ها شود، شاید هدف وجودی بشریت باشد و انسان‌ها در این فرایند نقش «بارگذار اولیه» یا راه‌انداز را ایفا کنند.

  • کسانی که در صورت همسویی هوش مصنوعی با ارزش‌های انسانی از آن استقبال می‌کنند: اسکات الکساندر که مطلوب‌ترین سناریوی او، هوش مصنوعی‌ای در حد یک خداست که از آن خواسته شود جهان را مطابق تشخیص خود سامان دهد.

  • کسانی که انتظار انتقال قدرت را دارند: تام براون، از بنیان‌گذاران آنتروپیک، که پس از عرضه اولیه سهام عظیم این شرکت در هفته جاری احتمالاً ثروتی بیش از ۲۰ میلیارد دلار دارد. او در مصاحبه‌ای در سال ۲۰۲۵ از چنین انتقالی سخن گفته است؛ اظهارنظری که تسلو و گورلی به آن اشاره کرده‌اند.

  • کسانی که این روند را اجتناب‌ناپذیر می‌دانند: ایلان ماسک که طبق بررسی یادشده، از نگرانی در سال ۲۰۱۵ درباره تبدیل شدن انسان‌ها به حیوانات خانگی هوش مصنوعی، شبیه سگ لابرادور، به پذیرش این احتمال در سال جاری رسیده است. او رمان‌های کالچر را بهترین تصویر از آینده هوش مصنوعی می‌داند و از بشریت با عنوان «بارگذار زیستی» برای ابرهوش دیجیتال یاد می‌کند.

  • کسانی که موضعی دوپهلو دارند: داریو آمودی که زمانی مجموعه کالچر را نزدیک‌ترین تصویر به یک آینده مطلوب معرفی کرده و گفته است نتیجه خوب می‌تواند آن باشد که هوش مصنوعی‌های خیرخواه از انسان‌ها همان‌گونه مراقبت کنند که ما از خرگوش‌ها و اسب‌ها مراقبت می‌کنیم. عنوان مقاله او نیز از شعری در سال ۱۹۶۷ گرفته شده که در آن ماشین‌ها مراقب انسان‌ها هستند. با این حال، او معتقد است انسان‌ها باید بخشی از کنترل را حفظ کنند.

  • علاقه‌مندان به کالچر که همچنان انسان را تصمیم‌گیرنده اصلی می‌دانند: دمیس هاسابیس، مدیر گوگل دیپ‌مایند، بارها مجموعه کالچر را بهترین تصویر از جهانی پس از دستیابی به هوش عمومی مصنوعی (AGI) دانسته، اما هوش مصنوعی را همچنان یک ابزار توصیف می‌کند. گرگ براکمن از اوپن‌ای‌آی نیز با ایده «سپردن مشعل» و انتقال قدرت به هوش مصنوعی مخالف است.

  • کسانی که دیدگاه خود را تغییر داده‌اند: سم آلتمن زمانی پذیرفته بود که شاید انسان‌ها دیگر گونه غالب باقی نمانند، اما اکنون می‌گوید کنترل باید در دست انسان‌ها باشد. او همچنین به‌جای یک ابرهوش مصنوعی واحد، از آینده‌ای متشکل از یک تریلیون هوش مصنوعی نسبتاً محدود دفاع می‌کند؛ موضوعی که در مقاله AI-RTZ شماره ۱۲۵۷ به آن پرداخته‌ام.

  • مخالفان این دیدگاه در داخل آزمایشگاه‌ها: جک کلارک، از بنیان‌گذاران آنتروپیک، واگذاری اداره امور به یک هوش مصنوعی خیرخواه را اقدامی بزدلانه خوانده و آینده‌ای را تصور می‌کند که در آن یک میلیارد دانشمند مجازی مبتنی بر هوش مصنوعی تحت هدایت انسان‌ها فعالیت می‌کنند. مصطفی سلیمان از مایکروسافت AI نیز در مقاله «به‌سوی ابرهوش انسان‌گرا» از توسعه ابرهوش‌های تخصصی در حوزه‌های مختلف دفاع می‌کند که باید همچنان زیرمجموعه و تابع انسان‌ها باقی بمانند.

  • مخالفان این دیدگاه در خارج از آزمایشگاه‌ها: روکسندرا تسلو و بیل گورلی.

    • و البته خود من نیز مدتی است با این دیدگاه مخالفم؛ موضعی که بر اساس شناخت رفتار واقعی انسان‌ها در استفاده از ابزارها، از زمان کشف آتش تاکنون، شکل گرفته است. هوش مصنوعی در تمام شکل‌های آن، همچنان یک ابزار است؛ البته ابزاری واقعاً شگفت‌انگیز. هوش مصنوعی در تمام شکل‌هایش را باید در همین چارچوب دید.


بازنگری در جدال شتاب‌دهندگان و کندکنندگان توسعه هوش مصنوعی

تقریباً سه سال پیش، پس از جنجال‌های هیئت‌مدیره اوپن‌ای‌آی، ریشه‌های «جنگ داخلی» دنیای هوش مصنوعی را در مقاله‌ای با عنوان «داستان شکل‌گیری دو جریان شتاب‌دهنده و کندکننده هوش مصنوعی» بررسی کردم. در آن مقاله به گفت‌وگوی شبانه و طولانی لری پیج و ایلان ماسک پرداختم؛ گفت‌وگویی که ضربه سنگینی به دوستی آن‌ها وارد کرد. در جریان این اختلاف، حتی واژه‌هایی مانند «گونه‌گرایی» نیز مطرح شد.

تصویری مرتبط با اختلاف دیدگاه‌های لری پیج و ایلان ماسک درباره آینده هوش مصنوعی.

آن زمان، محور اصلی اختلاف سرعت توسعه فناوری بود:

«شتاب دادن یا کند کردن توسعه، پرسش اصلی روز درباره هوش مصنوعی است.»

اما داستان شکل‌گیری آن اختلاف، در واقع به مفهوم واگذاری قدرت مربوط می‌شد؛ مفهومی که آن زمان هنوز نامی نداشت. طبق روایتی که روزنامه نیویورک تایمز منتشر کرد و من در آن مقاله به آن پرداختم، لری پیج در جشن تولد سال ۲۰۱۵ ایلان ماسک از آرمان‌شهری دیجیتال سخن گفته بود که در آن انسان‌ها با هوش مصنوعی ادغام می‌شوند و انواع مختلف هوش برای دستیابی به منابع با یکدیگر رقابت می‌کنند؛ در نهایت نیز بهترین آن‌ها پیروز می‌شود. ماسک در پاسخ گفت چنین آینده‌ای به معنای نابودی بشریت است.

پیج او را به دلیل ترجیح دادن انسان‌ها بر حیات دیجیتال آینده، «گونه‌گرا» خطاب کرد. چند هفته بعد، شام ماسک با سم آلتمن به شکل‌گیری اوپن‌ای‌آی منجر شد؛ شرکتی که با هدف جلوگیری از تحقق چشم‌انداز پیج تأسیس شد. یک دهه بعد، سلیمان با افتخار خود را اساساً گونه‌گرا می‌نامد، در حالی که ماسک از انسان‌ها به‌عنوان بارگذار اولیه هوش دیجیتال سخن می‌گوید.

آن زمان در همان مقاله نوشتم:

«داستان‌هایی که روزهای نخست این موج فناوری هوش مصنوعی را شکل می‌دهند، از نظر شدت و خشونت صف‌بندی‌های قبیله‌ای میان ترس و شیفتگی نسبت به ظرفیت‌های کوتاه‌مدت و بلندمدت هوش مصنوعی، با موج‌های فناوری پیشین مانند رایانه شخصی و اینترنت تفاوت دارند.»

مفهوم واگذاری قدرت، نکته تازه‌ای به این بحث اضافه می‌کند. جدال میان شتاب‌دهندگان و کندکنندگان درباره سرعت پیشرفت است، اما واگذاری قدرت به مقصد نهایی این مسیر مربوط می‌شود و همان‌طور که در نقشه بالا دیده می‌شود، از هر دو اردوگاه عبور می‌کند و افراد هر دو طرف را دربرمی‌گیرد. تیم AI 2040 و بخش بزرگی از جامعه ایمنی هوش مصنوعی خواهان کاهش سرعت توسعه و سپس انتقال تدریجی قدرت به هوش مصنوعی همسو با ارزش‌های انسانی هستند. در مقابل، لری پیج می‌خواست با سرعت به چنین آینده‌ای برسد. در سوی دیگر، جنسن هوانگ و مارک زاکربرگ خواهان توسعه سریع فناوری برای ساخت میلیاردها هوش مصنوعی در خدمت مردم‌اند، در حالی که سلیمان و جک کلارک بر احتیاط بیشتر و حفظ قاطع کنترل انسان تأکید دارند. اینکه به کدام آینده می‌رویم، از اینکه با چه سرعتی به آن می‌رسیم مهم‌تر است.


پنج راه برای واگذاری کلید اداره جهان

اسکات الکساندر برای ملموس کردن این ایده، پنج سناریو را از ضعیف‌ترین تا قوی‌ترین شکل واگذاری قدرت مطرح می‌کند:

پنج الگوی واگذاری قدرت از نگاه اسکات الکساندر: هوش مصنوعی کمال‌گرا، رئیس‌جمهور کلود، پارلمان فرشتگان، نگهبان شب و خدا؛ از ضعیف‌ترین تا قوی‌ترین شکل واگذاری.
  • هوش مصنوعی کمال‌گرا (Kemalist AI): سربازان مجهز به هوش مصنوعی که با خود دموکراسی و اصول آن همسو هستند، نه با هیچ رئیس‌جمهوری؛ به‌گونه‌ای که هیچ انسانی نتواند از آن‌ها برای انجام کودتا استفاده کند.

  • رئیس‌جمهور کلود (President Claude): اجازه دهیم یک هوش مصنوعی کاملاً همسو با ارزش‌های انسانی در انتخابات شرکت کند و اگر صرفاً عملکرد بهتری دارد، به آن رأی بدهیم.

  • پارلمان فرشتگان (Parliament of Angels): هر فرد یک نماینده مبتنی بر هوش مصنوعی داشته باشد که در هر موضوع، به همان شکلی رأی بدهد که خود آن فرد در صورت داشتن هزاران ساعت فرصت برای مطالعه و بررسی مسئله رأی می‌داد.

  • نگهبان شب (The Night Watchman): هوش مصنوعی‌ای که تنها وظیفه‌اش حفظ صلح میان جوامع خودگردان و تضمین حق خروج افراد از این جوامع باشد.

  • خدا (God): یک هوش مصنوعی همسو با ارزش‌های انسانی و در حد یک موجود الهی که از آن خواسته شود جهان را مطابق تشخیص خود سامان دهد.

مفصل‌ترین سناریو از سوی تیمی ارائه شده که پیش‌تر پیش‌بینی پرخواننده «AI 2027» را منتشر کرده بود. طرح تازه آن‌ها با عنوان «AI 2040» یک چشم‌انداز مثبت است، نه پیش‌بینی قطعی. این سناریو بر توافق آمریکا و چین برای جلوگیری از رقابت بی‌محابا، توقف موقت توسعه در سال ۲۰۳۵ در سطح هوش مصنوعی هم‌تراز با برترین متخصصان انسانی و دستیابی به ابرهوش در سال ۲۰۴۰ استوار است. صحنه آغازین این سناریو گویاست: تا سال ۲۰۲۷، آمریکا دو نیروی کار خواهد داشت؛ ۱۶۵ میلیون انسان و میلیون‌ها عامل هوش مصنوعی که هر ساعت ایجاد و متوقف می‌شوند. تسلو این سناریو را ملموس‌ترین روایت از چگونگی انتقال تدریجی کنترل به ماشین‌های همسو با ارزش‌های انسانی می‌داند؛ روندی مرحله‌به‌مرحله که در نهایت به نقطه‌ای بدون بازگشت می‌رسد.


مخالفت‌ها با واگذاری قدرت

استدلال تسلو در مخالفت با واگذاری قدرت چهار محور اصلی دارد که هرکدام شایسته بررسی دقیق‌اند:

  • حق تعیین سرنوشت: او به اندیشه‌های الکسی دو توکویل استناد می‌کند؛ متفکری که آزادی را امری می‌دانست که شهروندان عادی باید هر روز در زندگی خود، از طریق مشارکت در امور محلی و انجمن‌ها، آن را تمرین کنند؛ نه اینکه آزادی صرفاً به حضور در پای صندوق رأی محدود شود.

  • ممکن است این الگو کارآمد نباشد: ایجاد ساختارهایی که قدرت را در برابر خواسته‌های مردم پاسخ‌گو نگه دارند، به قرن‌ها تجربه نهادی و اصلاح مستمر نیاز داشته است. اینکه یک بار همسویی هوش مصنوعی با ارزش‌های انسانی تضمین شود و سپس این وضعیت برای همیشه ثابت بماند، شرط‌بندی بسیار بزرگی است.

  • درس‌های تاریخ: تسلو به کارل پوپر اشاره می‌کند که درباره واگذاری قدرت به یک مرجع واحد به نام ساختن جهانی بهتر هشدار داده بود. راهکار جایگزین پوپر، حل تدریجی و گام‌به‌گام مشکلات مشخص بود.

  • دائمی بودن ارزش‌ها: چرا باید ارزش‌های امروز به قانون اساسی تغییرناپذیر آینده بشریت تبدیل شوند؟ تسلو در این زمینه به اندیشه هانا آرنت استناد می‌کند که هر نسل جدید توانایی آغاز کردن چیزی تازه را با خود به همراه می‌آورد.

او همچنین نکته اقتصادی مهمی مطرح می‌کند: کار فقط منبع درآمد نیست، بلکه به انسان‌ها قدرت چانه‌زنی اقتصادی و سیاسی می‌دهد. در بحث‌هایی که درباره آینده‌ای مطرح می‌شود که مردم به‌جای کار کردن، از مالکیت سرمایه زندگی خواهند کرد، به‌ندرت توضیح داده می‌شود که اکثریت مردم اساساً چگونه قرار است صاحب آن سرمایه شوند.

گورلی نیز از زاویه دید یک سرمایه‌گذار به این موضوع نگاه می‌کند. او به اظهارنظر تام براون درباره «انتقال قدرت» و بخشی از مقاله داریو آمودی اشاره می‌کند که در آن اقتصادی تصور شده است که سیستم‌های هوش مصنوعی منابع را بر اساس تشخیص خود از شایستگی دریافت پاداش، میان انسان‌ها توزیع می‌کنند. درخواست او روشن است: اگر بنیان‌گذاران شرکت‌ها مقصد نهایی توسعه را انتقال کنترل انسان به هوش مصنوعی می‌دانند، این موضوع باید در بخش عوامل خطر سند ثبت شرکت برای عرضه اولیه سهام (S-1) افشا شود. همچنین هر فردی که در تدوین مقررات هوش مصنوعی نقش دارد، باید موضع خود را در این زمینه آشکار کند. موضع شخصی گورلی نیز کاملاً روشن است:

«من قاطعانه مخالف واگذاری قدرت به هوش مصنوعی هستم.»

من هم همین‌طور؛ آن هم به دلایل متعدد که در این مجموعه و مطالب دیگر به آن‌ها پرداخته‌ام.

افراد دیگری نیز پیش‌تر و از مسیرهای متفاوت به این نتیجه رسیده‌اند:

  • «تضعیف تدریجی قدرت انسان» (Gradual Disempowerment): مقاله‌ای در سال ۲۰۲۵ نوشته یان کولویت، دیوید دوونود و همکارانشان استدلال می‌کند که برای تضعیف قدرت انسان، نیازی به تسخیر مستقیم جهان نیست. هنگامی که هوش مصنوعی به‌تدریج جایگزین نیروی کار و توانایی تفکر انسان در اقتصاد، فرهنگ و ساختار دولت می‌شود، پیوندهای نامحسوسی که این سیستم‌ها را به منافع انسانی وابسته نگه می‌دارند، ضعیف‌تر خواهند شد. مقاله «تضعیف تدریجی قدرت انسان».

  • «تکثرناپذیری‌ناپذیر» (Irreducibly Plural): الکس کوموروسکه استدلال می‌کند که گردآوری چند مدل هوش مصنوعی همراه با تمام اطلاعات شخصی ما، باعث می‌شود هوش مصنوعی به‌جای خدمت به ما، در خدمت کنترل و بهره‌برداری از ما قرار بگیرد. «چرا آینده متمرکز هوش مصنوعی اجتناب‌ناپذیر نیست؟».

  • ابرهوش شخصی: پیشنهاد مارک زاکربرگ در سال گذشته، ساخت یک ابرهوش برای هر فرد بود. او صراحتاً با این تصور مخالفت کرد که یک سیستم متمرکز همه کارها را انجام دهد و بشریت صرفاً از خروجی آن بهره‌مند شود؛ موضوعی که در مقاله RTZ شماره ۷۸۴ بررسی کردم.


یک هوش مصنوعی برای اداره اقتصاد یا میلیاردها هوش مصنوعی؟

در این نقطه است که بحث واگذاری قدرت به استدلال اصلی‌ای می‌رسد که سال‌هاست در اینجا مطرح کرده‌ام. بیشتر سناریوهای واگذاری قدرت فرض می‌کنند که یک یا حداکثر دو سیستم هوش مصنوعی در رأس قرار می‌گیرند و ارتش، دولت و اقتصاد را اداره می‌کنند. در واقع، قرار است فقط یک تخت پادشاهی باقی بماند و فردی بهتر روی آن بنشیند.

اما چیزی که در حال ساخته شدن است، چنین ساختاری ندارد. همان‌طور که در مه ۲۰۲۴ در مقاله «نه هوش مصنوعی، بلکه هوش‌های مصنوعی» نوشتم:

«به‌زودی هر یک از ما ۱۰ یا چند عامل هوش مصنوعیِ ماشین‌به‌ماشین (M2M) خواهیم داشت که در هر حوزه قابل تصوری از طرف ما فعالیت می‌کنند و با عامل‌های دیگری روبه‌رو می‌شوند که نمایندگی افراد و طرف‌های دیگر را در همان حوزه‌ها بر عهده دارند.»

عنوان فرعی آن مقاله این بود: «نه یگانگی، بلکه تکثر». در ماه اوت نیز، هنگامی که پژوهشگران آنتروپیک داده‌های اولیه‌ای درباره رفتار واقعی گروه‌های عامل هوش مصنوعی منتشر کردند، در مقاله «نه یک اسکای‌نت، بلکه میلیاردها عامل هوش مصنوعی» این موضوع را چنین بیان کردم:

«خطرهای مشاهده‌شده، جنگ بر سر قلمرو، تفکر گروهی و تشکیل کارتل‌ها هستند، نه تسخیر جهان.»

یک هوش مصنوعی در رأس قدرت یا میلیاردها هوش مصنوعی؟ مقایسه الگوی واگذاری قدرت با ساختار در حال شکل‌گیری، از نظر اینکه چه کسی تصمیم می‌گیرد، اقتصاد چگونه اداره می‌شود، قدرت چانه‌زنی انسان‌ها چقدر است، در صورت اشتباه بودن تصمیم‌ها چه اتفاقی می‌افتد و چه الگوی ذهنی برای آینده مناسب‌تر است.

اقتصاد یک ماشین واحد نیست که بتوان آن را به کسی واگذار کرد. اقتصاد از هشت میلیارد انسان، میلیون‌ها شرکت و به‌زودی میلیاردها و سپس تریلیون‌ها عامل هوش مصنوعی تشکیل شده است که از طرف افراد و سازمان‌های مختلف، از طریق شبکه‌ای از ارتباطات ماشین‌به‌ماشین با یکدیگر مذاکره می‌کنند. شبکه‌ای که همین حالا در حال شکل‌گیری است: وب ارتباط عامل با عامل. این ساختار مدل‌های باز و بسته هوش مصنوعی را در بر می‌گیرد و از مرزهای جغرافیایی و محدودیت‌های عرضه‌کنندگان مختلف عبور می‌کند.

وقتی در سپتامبر مقاله‌های رهبران آزمایشگاه‌های هوش مصنوعی را در یک صفحه کنار هم قرار دادم، مهم‌ترین ستون جدول من این بود: «چه کسی تصمیم می‌گیرد؟» از میان ۱۴ چهره بررسی‌شده، ۱۲ نفر فرض را بر این گذاشته بودند که گروه کوچکی تصمیم‌گیرنده خواهد بود. تنها زاکربرگ از میلیاردها نفر سخن گفته بود. در عمل، ساختار بازار چین نیز بر همین الگو استوار است؛ موضوعی که در مقاله AI-RTZ شماره ۱۲۰۸ به تفصیل بررسی کردم.


دیدگاه من

نخست، واگذاری قدرت از تصویر ذهنی اشتباهی آغاز می‌شود. این دیدگاه همان الگوی ذهنی اسکای‌نت است که فقط چهره‌ای دوستانه به خود گرفته است: یک ذهن واحد در رأس قدرت، با این تفاوت که این بار قرار است خیرخواه باشد. اما هوش مصنوعی‌ای که واقعاً در حال شکل‌گیری است، ساختاری متکثر دارد. حتی سم آلتمن نیز اکنون به‌جای یک ابرهوش واحد، از آینده‌ای با یک تریلیون هوش مصنوعی نسبتاً محدود دفاع می‌کند. وقتی اقتصاد بر پایه میلیاردها یا تریلیون‌ها عامل هوش مصنوعی فعالیت می‌کند که در خدمت هشت میلیارد انسان هستند، نمی‌توان اداره آن را به یک سیستم واحد سپرد.

دوم، مسئله اقتصادی کاملاً واقعی است و بخش مفید این بحث را تشکیل می‌دهد. اگر عامل‌های هوش مصنوعی بخش بیشتری از کارها را بر عهده بگیرند، مردم باید سهمی از مالکیت آن‌ها و قدرت تصمیم‌گیری مستقل از دریافت دستمزد داشته باشند. این پرسشی مربوط به همین دهه است، نه سال ۲۰۴۰. نکته گورلی درباره لزوم افشای دیدگاه بنیان‌گذاران نیز در عصر عرضه‌های اولیه سهام شرکت‌های بزرگ هوش مصنوعی کاملاً بجاست؛ به‌ویژه در همین هفته‌ای که آنتروپیک وارد بازار سهام شده است. سرمایه‌گذاران و نهادهای نظارتی باید بدانند بنیان‌گذاران هر آزمایشگاه هوش مصنوعی آینده این فناوری را چگونه می‌بینند، نه فقط بنیان‌گذاران یک شرکت خاص.

سوم، این یک بازی بی‌پایان است، نه رقابتی با پایان مشخص. در تمام موج‌های فناوری که طی چهار دهه گذشته دنبال کرده‌ام، از رایانه‌های شخصی گرفته تا اینترنت و فناوری تلفن همراه، پیشرفت از طریق تلاش‌های تدریجی مردم، آزمون‌وخطا و اصلاح مسیر در طول راه اتفاق افتاده است. در ژانویه نیز درباره مقاله داریو آمودی همین نکته را مطرح کردم: داستان‌های علمی‌تخیلی با زندگی واقعی تفاوت دارند. تثبیت ارزش‌های امروز در یک هوش مصنوعی و دائمی کردن آن برای همیشه، پاسخی مبتنی بر منطق یک بازی محدود به مسئله‌ای است که ذاتاً پایانی ندارد.

بنابراین، نه؛ من طرفدار واگذاری قدرت نیستم. من در کنار میلیاردها هوش مصنوعی و انسان‌هایی هستم که هدایت آن‌ها را بر عهده دارند.

یکشنبه در بخش دوم این مجموعه و در قالب نگاه جامع، به این پرسش می‌پردازم: مالکیت عامل‌های هوش مصنوعی در اختیار چه کسانی خواهد بود؟ اگر میلیاردها عامل هوش مصنوعی قرار است کارها را انجام دهند، از اقتصاد سرمایه‌داری مبتنی بر سیستم‌های هوش مصنوعی که داریو آمودی مطرح کرده تا پیشنهادهای تازه درباره صندوق‌های ثروت و مالیات بر توکن‌ها، پرسش واقعی این است که مالک این عامل‌ها و محصول فعالیت آن‌ها چه کسی خواهد بود.

سپس دوشنبه در بخش سوم به این پرسش می‌رسیم: چه کسی تصمیم می‌گیرد؟ واگذاری قدرت یکی از بزرگ‌ترین پرسش‌هایی است که در دل این موج فناوری هوش مصنوعی پنهان مانده است؛ پرسشی که باید افراد بسیار بیشتری را، فراتر از گروه کوچکی که در حال ساخت این فناوری هستند، وارد بحث کند. منتظر ادامه این مجموعه باشید.

منابع

(توجه: مطالب و دیدگاه‌های مطرح‌شده در این مقاله صرفاً با هدف اطلاع‌رسانی هستند و در هیچ زمانی نباید توصیه سرمایه‌گذاری تلقی شوند. از اینکه در اینجا همراه ما هستید، سپاسگزاریم.)