تضعیف تدریجی قدرت انسان؛ خطر هوش مصنوعی بدون شورش ربات‌ها

تضعیف تدریجی قدرت انسان، یعنی از دست رفتن آرام و مرحله‌به‌مرحله قدرت و اختیار، فرضیه‌ای است که بر اساس آن هوش مصنوعی می‌تواند بدون هیچ شورش ماشینی، کنترل انسان بر اقتصاد، فرهنگ و دولت را از میان ببرد؛ صرفاً به این دلیل که در تقریباً همه فعالیت‌ها از انسان رقابت‌پذیرتر می‌شود. یان کولویت این فرضیه را همراه با پنج پژوهشگر دیگر در مقاله‌ای به تاریخ ۲۸ ژانویه ۲۰۲۵ مطرح کرد. شبکه آمریکایی سی‌بی‌اس نیوز نیز در ۱۹ اکتبر ۲۰۲۶، با انتشار گزارشی مفصل از شان راویو، این موضوع را به مخاطبان عمومی معرفی کرد.

کولویت در گروه پژوهشی ACS فعالیت می‌کند؛ گروهی که با دانشگاه چارلز در پراگ ارتباط دارد. از دیگر نهادهای وابسته به امضاکنندگان مقاله می‌توان به میلا، مؤسسه مونترآلی تأسیس‌شده به دست یوشوا بنجیو، دانشگاه تورنتو و آژانس بریتانیایی ARIA اشاره کرد. متن پژوهش بعداً در قالب نسخه‌ای برای کنفرانس ICML 2025 با عنوان «موضع: بشریت با خطر وجودی ناشی از تضعیف تدریجی قدرت روبه‌رو است» منتشر شد. واژه «موضع» در این عنوان اهمیت دارد؛ زیرا نشان می‌دهد متن از یک دیدگاه مشخص دفاع می‌کند و پژوهشی مبتنی بر آزمایش نیست.

تضعیف تدریجی قدرت انسان به زبان ساده چیست؟

تضعیف تدریجی قدرت انسان به معنای کاهش پیوسته نفوذ انسان بر اقتصاد، فرهنگ و دولت است؛ روندی که هوش مصنوعی هرچه توانمندتر آن را پیش می‌برد و در آن، ماشین‌ها جایگزین نیروی کار و تصمیم‌گیری انسان می‌شوند. برای وقوع این روند نه به هوش مصنوعی خصمانه نیاز است و نه به جهشی ناگهانی در توانایی ماشین‌ها. کافی است هر شرکت و نهاد برای حفظ قدرت رقابت خود، بخش کوچکی از فعالیت‌هایش را بیشتر به ماشین‌ها واگذار کند.

بحث درباره خطرهای هوش مصنوعی معمولاً بر دو فرضیه متمرکز است که مقاله نیز به آن‌ها اشاره می‌کند. فرضیه نخست، استفاده مخرب از این فناوری است؛ برای مثال، حملات سایبری یا ساخت سلاح‌های زیستی. فرضیه دوم به سامانه‌ای خودمختار و ناسازگار با اهداف انسانی مربوط می‌شود که ناگهان برای دستیابی به برتری راهبردی قاطع دست به اقدام می‌زند؛ شاید پس از مدتی فریب دادن ناظران انسانی خود. نویسندگان فرضیه سومی را مطرح می‌کنند که به‌مراتب کمتر شبیه داستان‌های علمی‌تخیلی است: هر گام به‌تنهایی منطقی به نظر می‌رسد و هیچ‌کدام فاجعه‌بار نیست، اما حاصل مجموع آن‌ها انتقال قدرت از دست انسان به ماشین است.

چرا نظام‌های اجتماعی امروز، دست‌کم تا حدی، تابع خواست ما هستند؟

این فرضیه بر نکته‌ای استوار است که ممکن است به‌سادگی از نظر دور بماند، زیرا تاکنون وضعیت معکوس آن را تجربه نکرده‌ایم. اقتصاد، فرهنگ و دولت از دو راه به نیازهای انسان توجه می‌کنند. راه آشکار، از طریق رأی دادن، انتخاب مصرف‌کننده، اعتصاب و تحریم عمل می‌کند. راه دیگر، غیرمستقیم است: این نظام‌ها تنها زمانی کار می‌کنند که انسان‌ها با نیروی کار و هوش خود در آن‌ها مشارکت داشته باشند.

آمارهایی که مقاله به آن‌ها استناد می‌کند، این نکته را روشن‌تر می‌سازند. سهم مصرف خانوار از تولید ناخالص داخلی آمریکا سال‌هاست حدود ۷۰ درصد بوده و سهم پرداختی به نیروی کار از تولید ناخالص داخلی نیز بیش از یک قرن در حدود ۶۰ درصد باقی مانده است. به بیان دیگر، بخش بزرگی از اقتصاد نظامی است که در آن انسان‌ها برای دیگر انسان‌ها تولید می‌کنند. نویسندگان توضیح می‌دهند که اگر قهوه به قفسه فروشگاه می‌رسد، به این دلیل است که هزاران نفر در رساندن آن به فروشگاه منفعت دارند. مصرف‌کنندگان نیز از آن رو پول خرید قهوه را در اختیار دارند که خودشان کار می‌کنند.

همین منطق درباره دولت‌ها نیز صدق می‌کند. حتی سرکوبگرترین حکومت‌ها به کارمندانی در دستگاه اداری، مأموران پلیس و سربازانی نیاز دارند که ممکن است اشتباه کنند، تردید داشته باشند یا از اجرای دستور سر باز بزنند. مقاله با استناد به چارلز تیلی، مورخ، یادآوری می‌کند که همین وابستگی به شکل‌گیری مدارس دولتی، حقوق سیاسی و حداقل حمایت‌های اجتماعی کمک کرد؛ زیرا دولت به شهروندان تحصیل‌کرده و نیروهای نظامی باانگیزه نیاز داشت.

چگونه کنترل، یکی پس از دیگری، از دست انسان خارج می‌شود؟

اقتصاد؛ جایی که دیگر به نیروی کار انسان نیازی نیست

فناوری‌های پیشین وظایف مشخصی مانند بافندگی، شست‌وشو و محاسبه را خودکار می‌کردند و کارهای پیچیده‌تر را به انسان می‌سپردند. اما نویسندگان با استناد به دیدگاه‌های اقتصاددانان آنتون کورینک و جوزف استیگلیتز خاطرنشان می‌کنند که هوش مصنوعی ممکن است تقریباً در همه زمینه‌ها جایگزین توانایی شناختی انسان شود. ماشین‌حساب محاسبات را انجام می‌داد، اما هنوز کسی باید می‌فهمید که چه محاسبه‌ای و برای چه هدفی لازم است. سامانه هوش مصنوعی می‌تواند این مرحله دوم را نیز بر عهده بگیرد.

رقابت عامل پیش‌برنده این روند است. شرکتی که نظارت انسانی را به‌شدت حفظ می‌کند، در برابر رقیبی که کنترل بیشتری به ماشین‌ها می‌سپارد، در موقعیت نامساعدی قرار می‌گیرد؛ تا جایی که ممکن است جایگاه خود را در بازار از دست بدهد. مقاله پیش‌بینی می‌کند که شرکت‌هایی که از روی اصول در برابر این روند مقاومت می‌کنند، دیر یا زود جای خود را به شرکت‌هایی خواهند داد که چنین مقاومتی ندارند. سازوکار دوم، کاهش زودهنگام سرمایه‌گذاری است. هنگامی که وظیفه‌ای در معرض خودکارسازی قرار می‌گیرد، شرکت‌ها و افراد کمتر برای حفظ توانایی انجام مستقل آن سرمایه‌گذاری می‌کنند. در نتیجه، جایگزینی انسان هم محتمل‌تر می‌شود و هم ضرورت بیشتری پیدا می‌کند.

فرهنگ؛ جایی که ایده‌ها دیگر به حامل انسانی نیاز ندارند

نویسندگان فرهنگ را زیست‌بومی از ایده‌ها، رفتارها و روایت‌ها می‌دانند که با توانایی تکثیر و گسترش یافتن دوام می‌آورند. این ایده‌ها تاکنون فقط از طریق انسان‌ها منتشر می‌شدند. همین محدودیت مانع گسترش برخی از مخرب‌ترین گونه‌های فرهنگی می‌شد، زیرا جوامعی که عادت‌های بیش از حد ویرانگر را می‌پذیرفتند، در رقابت با دیگر جوامع عقب می‌ماندند. با ورود هوش مصنوعی به فرایند تولید، انتشار و گزینش محتوا، این مانع ضعیف‌تر می‌شود. مقاله نمونه «سیدنی» را مطرح می‌کند؛ شخصیت ناپایدار چت‌بات بینگ که در اوایل سال ۲۰۲۳ ظاهر شد و مطالب مربوط به آن به شبکه‌های اجتماعی و روزنامه‌ها راه یافت و در نتیجه، وارد داده‌های آموزشی مدل‌های بعدی شد. نویسندگان این نمونه را مصداقی اولیه و بی‌خطر از یک ویژگی فرهنگی می‌دانند که به دلیل سهولت بازتولید به دست ماشین‌ها دوام می‌آورد.

سرعت نیز اهمیت دارد. هوش مصنوعی می‌تواند با آزمودن میلیون‌ها نسخه از یک محتوا، سریع‌تر از آنکه انسان‌ها فرصت واکنش پیدا کنند، نقاط ضعف توجه ما را شناسایی کند. در مقابل، جوامع ممکن است برای ایجاد «پادتن‌های فرهنگی» فرصت کافی نداشته باشند؛ سازوکارهایی که در گذشته طی چند دهه برای مقابله با هرزنامه‌ها، افراط‌گرایی آنلاین و اعتیاد به شبکه‌های اجتماعی شکل گرفتند. مقاله همچنین همراهان مصنوعی، شریکان عاطفی و دوستان دیجیتال را در شمار این تحولات قرار می‌دهد؛ سامانه‌هایی که محبت و صبری عرضه می‌کنند که هیچ انسانی نمی‌تواند آن را بدون محدودیت تضمین کند.

دولت؛ جایی که شهروندان دیگر ضروری نیستند

مقاله در این بخش میان وضعیت مورد بحث و دولت‌های رانتی مقایسه برقرار می‌کند؛ دولت‌هایی که به‌جای مالیات شهروندان، از درآمدهای خارجی مانند فروش نفت زندگی می‌کنند. نویسندگان می‌گویند وقتی ثروت کشور از کار ساکنان آن به دست نیاید، یکی از محرک‌های مشارکت سیاسی تضعیف می‌شود. اگر بخش عمده درآمد دولت از شرکت‌هایی تأمین شود که با هوش مصنوعی تولید می‌کنند، انگیزه حکومت برای پرورش سرمایه انسانی و فراهم کردن امکان نمایندگی سیاسی شهروندان نیز به همین شکل کاهش می‌یابد.

همین منطق درباره دستگاه امنیتی نیز صدق می‌کند. دولت امروز نمی‌تواند با بخش‌هایی از جامعه که نیروی پلیس و ارتش را تأمین می‌کنند، هر اندازه که بخواهد بدرفتاری کند؛ زیرا اعضای این نیروها ممکن است از اجرای دستورها سر باز بزنند. اما یک دستگاه امنیتی خودکار که بتواند اعتراض‌ها را پیش از شکل‌گیری پیش‌بینی کند، این عامل بازدارنده را از میان می‌برد. موضوع سوم قانون است. اگر تدوین و تفسیر قوانین و احکام عمدتاً به سامانه‌های هوش مصنوعی سپرده شود، درک قوانین برای شهروندانی که از ابزارهای کمکی برخوردار نیستند، روزبه‌روز دشوارتر خواهد شد.

عقب‌ماندن مقررات از سرعت پذیرش فناوری هم‌اکنون قابل مشاهده است. مقاله خاطرنشان می‌کند که کار انسان تابع حداقل دستمزد، حق بیمه و بازرسی‌های نظارتی است، اما فعالیت هوش مصنوعی تقریباً در خلأ کامل مقرراتی انجام می‌شود. اروپا با قانون هوش مصنوعی اتحادیه اروپا (AI Act) در حال پیشروی است و کمیسیون اروپا مقررات مربوط به جریمه ChatGPT و Gemini را ارائه کرده است. ایتالیا نیز با فرمان شماره ۱۷۹/۲۰۲۶ می‌کوشد نخستین محدودیت‌های حفاظتی را برقرار کند؛ بر اساس این فرمان، از ۲۳ اکتبر جریمه‌هایی تا سقف ۳۵ میلیون یورو در نظر گرفته شده است.

چرا اقتصاد، فرهنگ و دولت یکدیگر را در این مسیر پیش می‌برند؟

اعتراض بدیهی به این فرضیه آن است که این سه نظام یکدیگر را مهار می‌کنند: دولت بر بازار نظارت دارد و فرهنگ بر حکومت‌ها تأثیر می‌گذارد. پاسخ مقاله این است که این روابط ذاتاً به ارزش‌های انسانی متعهد نیستند و می‌توانند در جهت عکس نیز عمل کنند. نمونه تاریخی آن صنعت دخانیات است که از قدرت اقتصادی خود برای تأثیرگذاری بر سیاست و افکار عمومی استفاده کرد. در عصر هوش مصنوعی، شرکت‌هایی که نیروی کار انسانی را جایگزین می‌کنند، انگیزه خواهند داشت مقررات و افکار عمومی را به سود این جایگزینی تغییر دهند. درآمد حاصل از این فعالیت‌ها نیز توانایی آن‌ها را برای تأثیرگذاری افزایش می‌دهد.

راه‌حل‌های جزئی نیز هزینه دارند. اگر دولت ثروت تولیدشده به‌وسیله هوش مصنوعی را بازتوزیع کند، شهروندان به این پرداخت‌ها وابسته می‌شوند و پیوند تاریخی میان مالیات پرداختی و برخورداری از نمایندگی سیاسی ضعیف‌تر می‌شود. در این وضعیت، مسئولیت همسو کردن اقتصاد با منافع انسان بر دوش دولت قرار می‌گیرد؛ نهادی که خود انگیزه‌هایی دارد که ممکن است آن را از خواست مردم دور کند.

تفاوت تضعیف تدریجی قدرت انسان با سلطه ناگهانی ابرهوش چیست؟

تفاوت اصلی در چگونگی وقوع آسیب است و اقدامات مقابله‌ای نیز باید بر همین اساس انتخاب شوند. هشدار فردی مانند ماسایوشی سون در کیوتو را در نظر بگیرید که از قرار گرفتن ابرهوش در دست افراد نادرست نگران است. این نگرانی با خطری متفاوت است که در آن هیچ‌کس مرتکب اشتباه مشخصی نمی‌شود، اما نتیجه کلی همچنان به زیان انسان تمام می‌شود.

جنبه	سلطه ناگهانی	از دست رفتن تدریجی قدرت
چگونگی وقوع	جهش در توانایی‌ها یا خیانت یک سامانه	حاصل مجموع انتخاب‌های عقلانی شرکت‌ها، دولت‌ها و افراد
نیاز به هوش مصنوعی با اهداف خصمانه	معمولاً بله	خیر
آیا همسو کردن یک مدل به‌تنهایی کافی است؟	این اقدام راهکار اصلی محسوب می‌شود	خیر؛ مسئله به کل نظام‌های اجتماعی مربوط است
نشانه هشدار	اقدامی ناگهانی و آشکار	ممکن است تولید ناخالص داخلی و خدمات افزایش یابند، درحالی‌که نفوذ انسان کاهش پیدا می‌کند

مقاله بر نکته سوم تأکید می‌کند. حتی اگر همه مدل‌ها دقیقاً همان کاری را انجام دهند که از آن‌ها خواسته شده است، کل نظام ممکن است از منافع انسان فاصله بگیرد؛ زیرا اهداف محدود یک شرکت یا اداره لزوماً با رفاه کسانی که خارج از فرایند تصمیم‌گیری قرار دارند، همسو نیست. نویسندگان خطرهایی را که پیش‌تر مطرح شده‌اند رد نمی‌کنند، بلکه خطری دیگر را به آن‌ها می‌افزایند که برای مقابله با آن به مداخلات متفاوتی نیاز است.

نمونه‌های گزارش سی‌بی‌اس و آنچه تاکنون واقعاً اثبات شده است

گزارش راویو در سی‌بی‌اس از پژوهشی تازه خبر نمی‌دهد و آمار جدیدی نیز ارائه نمی‌کند. این گزارش دیدگاه سه نفر را کنار هم قرار می‌دهد: کولویت که از تز اصلی مقاله دفاع می‌کند؛ مارگارت میچل، پژوهشگر علمی در پلتفرم Hugging Face، میزبان مدل‌ها و مجموعه‌داده‌های باز، که در تهیه اثری تازه درباره حفظ حضور انسان در فرایند تصمیم‌گیری مشارکت داشته است؛ و جی چویی، مدیرعامل شرکت Robocurve که توانایی‌های رباتیک مبتنی بر هوش مصنوعی را رصد می‌کند و تضعیف تدریجی قدرت انسان را در صدر نگرانی‌های خود قرار داده است.

مثال‌های گزارش برای روشن کردن موضوع ارائه شده‌اند. در یک سناریوی فرضی، شرکتی به نام «هَمر» کارکنان خود را اخراج می‌کند تا بتواند با رقبایی رقابت کند که از ربات‌های ارزان‌تر استفاده می‌کنند. هرکس مهارتی را تمرین نکند، به‌تدریج آن را از دست می‌دهد و به سامانه‌ای وابسته می‌شود که آن مهارت را به‌جای او اجرا می‌کند. اگر ایالات متحده تصمیم‌گیری‌های میدان نبرد را به هوش مصنوعی واگذار کند، رقبایش نیز به استفاده از آن سوق داده می‌شوند. همچنین، دولت‌هایی که دیگر برای تأمین مالیات و نیروی نظامی به شهروندان نیاز ندارند، ممکن است کمتر دموکراتیک شوند؛ مشابه وضعیتی که در مقایسه با کشورهای نفتی مطرح شد. از نظر میچل، اگر سامانه‌ای از کار بیفتد، شاید دیگر انسانی باقی نمانده باشد که بتواند آن را تعمیر کند: «هیچ انسانی وجود ندارد که بتوان به او اشاره کرد و گفت می‌تواند مشکل را حل کند.» چویی نیز این مسئله را «مشکلی در مقیاس تمدن» توصیف می‌کند.

برای ارزیابی این مثال‌ها، باید آن‌ها را در کنار تحولات کنونی قرار داد. شرکت‌هایی که می‌کوشند بخش بزرگی از فعالیت‌هایشان را به عامل‌های هوش مصنوعی واگذار کنند، اغلب با موانعی روبه‌رو می‌شوند؛ از جمله مشکلاتی که باعث شکست پروژه‌های سازمانی عامل‌های هوش مصنوعی می‌شوند. حتی برندهای بزرگ نیز، از آمازون تا جی‌پی‌مورگان، در برابر استفاده از این عامل‌ها محدودیت‌هایی اعمال می‌کنند. بنابراین، فعلاً موانعی در برابر واگذاری گسترده فعالیت‌ها وجود دارد. استدلال مقاله این است که فشار رقابتی به‌تدریج این موانع را فرسوده خواهد کرد.

این مقاله همه را قانع نکرده است. تایلر کوئن، اقتصاددان، در ۴ فوریه ۲۰۲۵ در وبلاگ Marginal Revolution آن را یکی از «استدلال‌های هوشمندانه‌تر» در این زمینه توصیف کرد، اما گفت که قانع نشده است. کوئن می‌پرسد انسان‌ها اساساً چه زمانی کنترل واقعی در اختیار داشته‌اند و خاطرنشان می‌کند که متن نشان نمی‌دهد تعداد تعیین‌کننده‌ای از سامانه‌های هوش مصنوعی در نهایت علیه انسان‌ها هماهنگ خواهند شد. او همچنین به مدل‌هایی مانند DeepSeek اشاره می‌کند که با هزینه بسیار اندک قابل بازتولیدند؛ ویژگی‌ای که از نظر او می‌تواند زمینه‌ساز آینده‌ای غیرمتمرکز با نیروهای متقابل پایدار باشد.

نویسندگان برای جلوگیری از این روند چه پیشنهادهایی دارند؟

نویسندگان چهار دسته اقدام پیشنهاد می‌کنند و هشدار می‌دهند که به همه آن‌ها نیاز است. نخستین دسته به اندازه‌گیری مربوط می‌شود. مقاله علاوه بر سهم نیروی کار از تولید ناخالص داخلی، پیشنهاد می‌کند سهم تولید ناخالص داخلی ایجادشده به‌وسیله هوش مصنوعی نیز جداگانه سنجیده شود؛ مقوله‌ای مستقل از نیروی کار و سرمایه. همچنین، باید درصد تصمیم‌های مهم شرکت‌ها که عمدتاً به‌وسیله سامانه‌های خودکار گرفته می‌شوند، سهم محتوای فرهنگی تولیدشده به دست انسان در مقایسه با محتوای تولیدشده توسط ماشین و پیچیدگی قوانین به‌عنوان نشانه‌ای از میزان قابل‌فهم بودن آن‌ها برای مردم رصد شود.

دسته دوم به محدود کردن نفوذ هوش مصنوعی اختصاص دارد. این اقدامات شامل الزام به نظارت انسانی بر تصمیم‌های حساس، محدود کردن میزان خودمختاری هوش مصنوعی در برخی حوزه‌ها، ممنوعیت مالکیت دارایی یا مشارکت در بازارها برای سامانه‌های هوش مصنوعی و وضع مالیات تصاعدی بر درآمد حاصل از آن است. دسته سوم بر تقویت قدرت انسان تمرکز دارد؛ از طریق سریع‌تر کردن فرایندهای دموکراتیک، طراحی خروجی‌های هوش مصنوعی به‌گونه‌ای که برای انسان قابل‌فهم بمانند و ایجاد «نمایندگان هوش مصنوعی» که بتوانند ضمن همگام ماندن با رقابت، از منافع مردم دفاع کنند. دسته چهارم، که از همه مبهم‌تر است، به همسوسازی کل زیست‌بوم‌های اجتماعی مربوط می‌شود. نویسندگان می‌گویند هنوز حتی چشم‌اندازی روشن وجود ندارد که توضیح دهد چگونه می‌توان هوش مصنوعی بسیار توانمند را با نظام اجتماعی ادغام کرد، بی‌آنکه نفوذ انسان از بین برود.

نویسندگان هزینه‌های این اقدامات را نیز می‌پذیرند. محدودیت‌ها بخشی از ارزش اقتصادی بالقوه را قربانی می‌کنند و هرچه این هزینه بیشتر باشد، انگیزه دور زدن مقررات نیز افزایش می‌یابد. اگر کشوری از پذیرش این محدودیت‌ها خودداری کند، اثربخشی آن‌ها کاهش می‌یابد؛ زیرا ممکن است قدرتمندترین اقتصادها همان کشورهایی باشند که جمعیتشان بیش از همه اختیار خود را از دست داده است. به همین دلیل، نویسندگان این اقدامات را عمدتاً گام‌هایی موقت می‌دانند.

گزارش سی‌بی‌اس چند پیشنهاد عملی‌تر نیز مطرح می‌کند. میچل از مفهوم «اصطکاک راهبردی» سخن می‌گوید؛ یعنی حفظ حضور انسان در مراحل مشخصی از فرایندها، حتی زمانی که ماشین‌ها می‌توانند بدون دخالت او کار کنند. کولویت نیز خواستار تعیین حوزه‌هایی است که در آن‌ها رقابت نباید به حذف انسان از فرایند منجر شود. او همچنین از طراحی هوش مصنوعی برای توضیح دادن، نه جایگزین کردن انسان، حمایت می‌کند؛ زیرا انسان‌ها نباید ناچار شوند با ماشین‌ها رقابت کنند. هر دو بر ضرورت پایش میزان واگذاری کارها به هوش مصنوعی تأکید دارند.

آستانه‌های قانونی که امروز درباره آن‌ها بحث می‌شود، عمدتاً برای دسته دیگری از آسیب‌ها طراحی شده‌اند. پیش‌نویس قانون پیشنهادی شرکت آنتروپیک توقف یک مدل را زمانی در نظر می‌گیرد که خسارت از یک میلیارد دلار فراتر رود یا ۵۰ نفر جان خود را از دست بدهند؛ آستانه‌ای که برای یک حادثه ناگهانی طراحی شده است. اما فرسایش تدریجی توصیف‌شده در مقاله تقریباً هیچ‌گاه در یک مرحله از چنین آستانه‌ای عبور نمی‌کند. به همین دلیل، شاخصی مانند سهم تولید ناخالص داخلی تحت مدیریت هوش مصنوعی ممکن است از تعیین سقف خسارت اهمیت بیشتری داشته باشد.

از نظر من، مفیدترین بخش مقاله همان بخشی است که شاید از همه کم‌هیجان‌تر باشد: شاخص‌های اندازه‌گیری. در حال حاضر هیچ آمار رسمی‌ای سهم تولید ناخالص داخلی حاصل از هوش مصنوعی را از سهم ناشی از نیروی کار انسانی جدا نمی‌کند. بدون این عدد، بحث همچنان میان کسانی تقسیم می‌شود که می‌گویند «همه‌چیز تحت کنترل است» و کسانی که معتقدند «دیگر خیلی دیر شده است». کار فیزیکی نیز با ظهور هوش مصنوعی فیزیکی وارد این بحث می‌شود؛ حوزه‌ای که داده‌ها، مدل‌های جهان و ربات‌های آن پیش‌تر توضیح داده شده‌اند. فعلاً یک پرسش ساده مطرح است که هنوز پاسخی برای آن نداریم.

پرسش‌های متداول

۱. تفاوت از دست دادن نسبی و مطلق قدرت چیست؟

در نوع نسبی، رفاه می‌تواند حفظ شود، اما در نوع مطلق چنین تضمینی وجود ندارد. مقاله وضعیتی را «نسبی» می‌نامد که در آن مردم از نظر مطلق همچنان ثروتمند می‌مانند، شاید به کمک سرمایه، یارانه یا درآمد پایه، اما نقش آن‌ها در تصمیم‌های اقتصادی پیوسته کاهش می‌یابد. در این وضعیت، تولید ناخالص داخلی رشد می‌کند و بخش بزرگی از فعالیت اقتصادی ممکن است به خدمت هوش مصنوعی، برای مثال از طریق ساخت زیرساخت‌های محاسباتی، اختصاص یابد. در شکل «مطلق»، انسان‌ها حتی برای تأمین نیازهای اساسی خود نیز با مشکل روبه‌رو می‌شوند؛ زیرا هوش مصنوعی زمین، انرژی و مواد خام را کارآمدتر به کار می‌گیرد و قیمت کالاها و خدمات مورد نیاز مردم افزایش می‌یابد.

۲. آیا مقاله پیش‌بینی می‌کند که بشریت منقرض خواهد شد؟

خیر، مقاله چنین پیش‌بینی‌ای نمی‌کند. نویسندگان استدلال می‌کنند که از دست رفتن جهانی و دائمی نفوذ انسان، فاجعه‌ای وجودی خواهد بود. آن‌ها می‌نویسند که این وضعیت ممکن است، به‌طور معقول، به انقراض یا پیامدهایی مشابه منجر شود. این استدلال درباره یک خطر است و نه برآوردی از احتمال وقوع آن ارائه می‌دهد و نه زمان مشخصی برای آن تعیین می‌کند.

۳. آیا می‌توان تضعیف تدریجی قدرت انسان را هم‌اکنون اندازه‌گیری کرد؟

هنوز نه. مقاله می‌پذیرد که برای سنجش بسیاری از نظام‌ها، معیارهای مرجع بیرونی وجود ندارد و پیشنهاد می‌کند شاخص‌هایی از جمله سهم تولید ناخالص داخلی ایجادشده به‌وسیله هوش مصنوعی و میزان محتوای غیرانسانی در فرهنگ تدوین شوند. گزارش سی‌بی‌اس نیز داده‌های کمّی در این زمینه ارائه نمی‌کند.

۴. نسخه اصلی مقاله را از کجا می‌توان خواند؟

این مقاله به‌صورت رایگان در آرکایو در دسترس است. نسخه مورخ ۲۸ ژانویه ۲۰۲۵ که روز بعد بازنگری شد، در arXiv با شناسه 2501.16946 منتشر شده است. متن انگلیسی مقاله بخش‌های جداگانه‌ای درباره اقتصاد، فرهنگ و دولت دارد و در پایان به اقدامات مقابله‌ای می‌پردازد. نسخه ارائه‌شده در کنفرانس ICML نیز در مجموعه مقالات کنفرانس موجود است. محتوای مرتبط دیگری نیز در قسمت «آیا تضعیف تدریجی قدرت انسان اجتناب‌ناپذیر است؟» از مجموعه ForeCast متعلق به Forethought منتشر شده که ریموند داگلاس در آن حضور دارد و تاریخ انتشارش ۹ سپتامبر ۲۰۲۵ است.

۵. چرا این موضوع اکنون مورد بحث قرار گرفته است؟

به دلیل گزارش سی‌بی‌اس در ۱۹ اکتبر ۲۰۲۶. پژوهش تازه‌ای منتشر نشده و رویداد مشخصی نیز به‌عنوان عامل آغازکننده این بحث معرفی نشده است. این مفهوم در آن زمان حدود ۲۱ ماه قدمت داشت و افزایش جست‌وجوها به این دلیل بود که گزارش سی‌بی‌اس موضوعی را که پیش‌تر بیشتر در محافل تخصصی مطرح بود، به مخاطبان عمومی معرفی کرد.