افلاطون حق داشت: هوش مصنوعی ضرورتِ فرمانروای فیلسوف را دوچندان می‌کند
نویسنده: متیو پریش
پنج‌شنبه، ۲۲ اکتبر ۲۰۲۶
افلاطون حدود دو هزار سال است که از مُد افتاده؛ و این معمولاً نشانه آن است که یک فیلسوف حرف مهمی برای گفتن داشته است. مشهورترین و جنجالی‌ترین دیدگاه سیاسی او این بود که مشکلات دولت‌ها پایان نمی‌یابد، مگر آنکه فیلسوفان به پادشاهی برسند یا پادشاهان حقیقتاً فیلسوف شوند. جوامع لیبرال مدرن عموماً این اندیشه را یادگاری شرم‌آور از آتن اشرافی تلقی کرده‌اند. ما انتخابات، نظرسنجی، گروه‌های کانونی، مناظره‌های تلویزیونی، مشاوران سیاسی و سیاستمدارانی را ترجیح می‌دهیم که مهم‌ترین دستاورد فکری‌شان به خاطر سپردن این است که باید به کدام دوربین نگاه کنند. فرمانروای فیلسوف در نظر ما شخصیتی تهدیدآمیز، نخبه‌گرا و تا حدی مضحک است. بااین‌حال، هوش مصنوعی ممکن است بار دیگر اعتبار این ایده را احیا کند.
دلیل این امر آن نیست که فیلسوفان لزوماً آدم‌های خوشایندی هستند؛ اغلب چنین نیستند. همچنین به این دلیل نیست که باید اداره سلاح‌های هسته‌ای، بانک‌های مرکزی و سازمان‌های اطلاعاتی را به گروه‌های فلسفه دانشگاهی سپرد؛ آزمایشی که احتمالاً خیلی زود درستی تمام انتقادهای مطرح‌شده علیه افلاطون را ثابت می‌کند. دلیل اصلی نگران‌کننده‌تر است: بشر در حال ساخت ابزارهایی با توانایی فکری تقریباً تصورناپذیر است، درحالی‌که کیفیت فکری بسیاری از کسانی که جوامع پیشرفته را اداره می‌کنند، اگر بخواهیم مؤدبانه بگوییم، همچنان به‌شدت انسانی و محدود است. فاصله میان پیچیدگی ابزارهای ما و خرد کسانی که از آن‌ها استفاده می‌کنند، به خطری فزاینده تبدیل شده است.
هوش مصنوعی صرفاً میزان اطلاعات در دسترس رهبران سیاسی را افزایش نمی‌دهد؛ بلکه توانایی آن‌ها را برای اقدام بر پایه اطلاعات، دست‌کاری افکار عمومی، پیش‌بینی رفتار، سازمان‌دهی دستگاه‌های اداری، جنگیدن، مدیریت اقتصادها و سرانجام اتخاذ تصمیم‌هایی که سرعتشان از توان پیگیری نهادهای انسانی فراتر می‌رود، افزایش می‌دهد. بنابراین، به‌سوی وضعیتی تاریخی پیش می‌رویم که در آن افراد متوسط ممکن است قدرتی در اختیار داشته باشند که از هوشی فوق‌العاده پشتیبانی می‌شود. افلاطون بی‌درنگ این مشکل را تشخیص می‌داد.
مشکل دیرینه فرمانروایان نادان
افلاطون معتقد نبود که افراد باهوش صرفاً به دلیل هوششان باید حکومت کنند. آتن پر از افراد باهوش بود. سوفسطاییان می‌توانستند برای تقریباً هر چیزی استدلالی قانع‌کننده بسازند، سیاستمداران قادر بودند جمعیت‌ها را به هیجان آورند، بازرگانان سود را محاسبه می‌کردند و سرداران نقشه‌های جنگی زیرکانه می‌کشیدند. هوش فراوان بود، اما خرد نه. این تمایز در مرکز اندیشه مطرح‌شده در کتاب جمهوری قرار دارد.
فیلسوف صرفاً کسی نیست که اطلاعات زیادی در اختیار دارد؛ او کسی است که آموزش دیده بپرسد دانش به چه کار می‌آید. او ظاهر را از واقعیت، میل را از ارزش و منفعت فوری را از خیر و صلاح تمیز می‌دهد. از همه مهم‌تر، فرمانروای آرمانی افلاطون مشتاقانه در پی حکومت کردن نیست. میل به قدرت سیاسی، خود می‌تواند نشانه‌ای باشد از اینکه فرد از نظر روانی برای در اختیار داشتن آن مناسب نیست.
می‌توان تصور کرد که افلاطون از کارزارهای انتخاباتی امروزی سردرنمی‌آورد. نامزدها اکنون مبالغ هنگفتی خرج می‌کنند تا ثابت کنند بیش از رقبایشان مشتاق رسیدن به قدرت‌اند. با هزاران نفر دست می‌دهند، شعارهایی را تکرار می‌کنند که بر اساس نظرسنجی‌ها انتخاب شده‌اند، متخصصانی را برای مدیریت تصویر عمومی خود استخدام می‌کنند و ماه‌ها توضیح می‌دهند که تمدن تنها زمانی از فاجعه پیش رو نجات می‌یابد که شخصاً زمام امور را به دست بگیرند. از دید افلاطون، این روش راهی عالی برای شناسایی دقیقاً همان کسانی بود که نباید حکومت کنند.
بااین‌حال، دموکراسی قانون‌مدار مدرن پاسخی بسیار قدرتمند به افلاطون داده است. لازم نیست فرمانروایان فوق‌العاده خردمند باشند، زیرا می‌توانیم قدرتشان را محدود کنیم. انتخابات آن‌ها را برکنار می‌کند، دادگاه‌ها مانعشان می‌شوند، مجالس قانون‌گذاری با آن‌ها بحث می‌کنند، روزنامه‌نگاران افشاگری می‌کنند و دستگاه‌های اداری سرعت کارشان را کاهش می‌دهند. قانون‌های اساسی نیز مشخص می‌کنند که حتی اگر فرمانروایان مطمئن باشند اقدامی عالی است، باز هم اجازه انجام برخی کارها را ندارند. بنابراین، دولت لیبرال بر برداشتی از انسان بنا شده که از جمهوری افلاطون کمتر آرمان‌گرایانه است: به‌جای آنکه بپرسد چگونه می‌توان فرمانروایی کاملاً خردمند یافت، می‌پرسد چگونه می‌توان با فرمانروایی ناکامل دوام آورد.
این روش برخلاف انتظار، تا حد زیادی موفق بوده است. اما هوش مصنوعی این سازوکار را پیچیده می‌کند، زیرا ممکن است قدرت فرمانروایان ناکامل را به‌شدت افزایش دهد. سازوکارهای قانون اساسی که برای مهار خطاهای معمول انسانی طراحی شده‌اند، شاید در برابر همان خطاها هنگامی که به توان محاسباتی خارق‌العاده مجهز می‌شوند، کارایی کافی نداشته باشند.
به یک نادان ابررایانه بدهید
در گذشته، فرمانروای نادان با موانع اجرایی روبه‌رو بود. شاید می‌خواست اقتصاد را یک‌شبه از نو سازمان‌دهی کند، هزاران نفر از دشمنان فرضی را بازداشت کند، اطلاعات دریافتی تک‌تک شهروندان را دست‌کاری کند یا آسیب‌پذیری‌های دقیق میلیون‌ها نفر را محاسبه کند؛ اما دستگاه اداری لازم برای اجرای چنین تصمیم‌هایی کند و پرهزینه بود. دیوان‌سالاری انسانی باید اطلاعات جمع‌آوری می‌کرد، اسناد را پردازش می‌کرد، دستور صادر می‌کرد و تصمیم‌ها را به اجرا درمی‌آورد. گاهی خود بی‌کفایتی، ناخواسته نقش یک تضمین قانون اساسی را ایفا می‌کرد.
هوش مصنوعی بخش بزرگی از این موانع را از میان برمی‌دارد. دولتی که به هوش مصنوعی به‌اندازه کافی پیشرفته دسترسی داشته باشد، بالقوه می‌تواند جمعیت‌های عظیم را در لحظه تحلیل کند. چنین دولتی می‌تواند سوابق مالی، رفت‌وآمدها، ارتباطات، داده‌های تشخیص چهره، گرایش‌های سیاسی و روابط اجتماعی را با یکدیگر تطبیق دهد. همچنین می‌تواند به‌جای پخش یک پیام یکسان برای همه، برای تک‌تک شهروندان تبلیغات سیاسی متناسب با ویژگی‌های فردی آن‌ها تولید کند. حتی ممکن است پیش از آنکه مخالفان سیاسی فرصت سازمان‌دهی پیدا کنند، نشانه‌های شکل‌گیری مخالفت را شناسایی کند و هم‌زمان نظام مالیاتی، بسیج نظامی، پلیس و مداخله اقتصادی را در مقیاسی بهینه سازد که پیش‌تر تصورناپذیر بود.
برای تحقق هیچ‌یک از این احتمالات لازم نیست خود ماشین به موجودی مستبد تبدیل شود. انسان‌ها به‌خوبی از عهده استبداد برمی‌آیند. کابوس رایج این است که هوش مصنوعی شرور شود و تصمیم بگیرد بر بشریت سلطه پیدا کند؛ اما کابوسی که در تاریخ سابقه بسیار بیشتری دارد این است که انسانی تصمیم بگیرد بر انسان‌های دیگر مسلط شود و دریابد که هوش مصنوعی ابزار بسیار مفیدی برای این کار است. ابرهوشی بدخواه بی‌تردید هراس‌آور خواهد بود، اما سیاستمداری نادان که به ابرهوش دسترسی دارد، شاید خطری فوری‌تر باشد.
هوش ارزان می‌شود
در بیشتر تاریخ بشر، تولید فکری پیچیده پرهزینه بود. تهیه یک یادداشت حقوقی حرفه‌ای به وکیل نیاز داشت، طراحی پل به مهندس وابسته بود، تولید تبلیغات به نویسنده، هنرمند و چاپخانه احتیاج داشت و تحلیل اطلاعات نظامی مستلزم گروه‌های بزرگی از کارکنان بود. به همین دلیل، دولت‌ها دستگاه‌های اداری متشکل از متخصصان انسانی را گسترش می‌دادند؛ زیرا دانش تخصصی کمیاب بود، تولیدش زمان می‌برد و تکثیر آن هزینه داشت.
هوش مصنوعی هزینه بسیاری از شکل‌های تولید فکری را به‌شدت کاهش می‌دهد. این فناوری هم‌اکنون می‌تواند در عرض چند ثانیه تحلیل حقوقی قابل‌قبول، کد رایانه‌ای، خلاصه‌های اقتصادی، برنامه‌های راهبردی، سخنرانی، ترجمه و اسناد اداری تولید کند و توانایی‌هایش نیز بهبود خواهد یافت. این تحول به نتیجه‌ای عجیب می‌انجامد: هوش، یا دست‌کم بسیاری از نمودهای ظاهری آن، ممکن است فراوان شود، درحالی‌که خرد همچنان کمیاب می‌ماند.
این تمایز شاید سیاست در عصر هوش مصنوعی را تعریف کند. ممکن است به‌زودی جهان با حجم بیشتری از تحلیل روبه‌رو شود که هیچ‌کس فرصت خواندن آن را ندارد، با پیش‌بینی‌هایی که هیچ‌کس نمی‌تواند همه آن‌ها را ارزیابی کند و با استدلال‌هایی که پاسخ‌گویی به همه‌شان از توان بشر خارج است. هر وزیر ممکن است در محاصره ماشین‌هایی قرار گیرد که می‌توانند برای تقریباً هر سیاست پیشنهادی، توجیه‌هایی بسیار پیچیده و قانع‌کننده تولید کنند. مسئله دیگر یافتن کسی نیست که بتواند استدلالی بسازد؛ مسئله یافتن کسی است که تشخیص دهد چه زمانی استدلالی ظاهراً درخشان، بی‌معناست. این توانایی تا حد زیادی از مهارت‌های فلسفی است.
غار افلاطون به وای‌فای مجهز می‌شود
دلیل دیگری هم وجود دارد که افلاطون را به شکلی نگران‌کننده معاصر جلوه می‌دهد. مشهورترین تمثیل او درباره زندانیانی است که در غاری به زنجیر کشیده شده‌اند و سایه‌هایی را روی دیوار تماشا می‌کنند. چون هرگز چیز دیگری ندیده‌اند، سایه‌ها را با واقعیت اشتباه می‌گیرند. تمدن مدرن طی سی سال گذشته پیچیده‌ترین غار تاریخ را ساخته است.
ما بیش از پیش جهان را از طریق صفحه‌نمایش‌ها تجربه می‌کنیم. الگوریتم‌ها تعیین می‌کنند کدام خبرها را ببینیم، چه کسانی در خوراک خبری ما ظاهر شوند، کدام تبلیغات ما را دنبال کنند و چه مناقشاتی بر گفت‌وگوی عمومی مسلط شوند. موتورهای جست‌وجو میانجی دسترسی ما به دانش‌اند؛ شبکه‌های اجتماعی روابط دوستانه را شکل می‌دهند؛ برنامه‌های دوست‌یابی میانجی روابط عاشقانه‌اند؛ سامانه‌های مسیریابی درک ما از جغرافیا را هدایت می‌کنند و هوش مصنوعی نیز بیش از پیش میانجی خود زبان می‌شود. هوش مصنوعی مولد تمثیل افلاطون را کامل می‌کند، زیرا اکنون سایه‌ها می‌توانند خودشان را تولید کنند.
دیگر لازم نیست یک عکس چیزی را به تصویر بکشد که واقعاً اتفاق افتاده است. صدایی که می‌شنویم لزوماً متعلق به شخصی نیست که به نظر می‌رسد سخن می‌گوید. یک مقاله متقاعدکننده نیز لزوماً به قلم کسی نوشته نشده که به استدلال آن باور داشته باشد. در آینده ممکن است میلیون‌ها شخصیت مصنوعی در کنار انسان‌ها در فضاهای دیجیتال حضور داشته باشند و استدلال‌های سیاسی، پیشنهادهای تجاری و واکنش‌های عاطفی‌ای تولید کنند که از واکنش‌های انسان‌های واقعی قابل‌تشخیص نباشند. دست‌کم زندانیان افلاطون می‌دانستند که به دیوار نگاه می‌کنند؛ ما شاید سرانجام حتی وجود آن دیوار را هم از یاد ببریم.
پیامدهای سیاسی این وضعیت عظیم است. دموکراسی به حداقلی از درک مشترک از واقعیت وابسته است. شهروندان ممکن است درباره آنچه باید انجام شود اختلافی شدید داشته باشند، اما گفت‌وگوی سیاسی زمانی ناممکن می‌شود که حتی نتوانند بر سر اصل وقوع یک رویداد توافق کنند. هوش مصنوعی فقط تهدید نمی‌کند که دروغ را وارد گفت‌وگوی عمومی کند؛ سیاستمداران پیش از ظهور رایانه‌ها نیز در این کار مهارت داشتند. تهدید مهم‌تر این است که عدم‌قطعیت درباره منشأ و اصالت هر چیز را به پدیده‌ای صنعتی و گسترده تبدیل کند. بنابراین، وظیفه دیرینه فیلسوف برای تمایز میان ظاهر و واقعیت، دیگر سرگرمی‌ای دانشگاهی نیست، بلکه به بخشی از زیرساخت مدنی جامعه تبدیل می‌شود.
مسئله میان‌مایگی سیاسی
موضوع ناخوشایندی وجود دارد که جوامع دموکراتیک ترجیح می‌دهند درباره آن صحبت نکنند: سازوکار انتخاب سیاستمداران لزوماً به هوش، قدرت قضاوت یا استقلال فکری پاداش نمی‌دهد. این فرایند به ترکیبی پیچیده از جاه‌طلبی، استقامت، جذابیت شخصی، توانایی جمع‌آوری کمک مالی، وفاداری حزبی، مهارت رسانه‌ای، پایبندی ایدئولوژیک و شانس پاداش می‌دهد. برخی افراد برجسته از این فرایند جان سالم به در می‌برند، بسیاری از افراد کاملاً قابل‌احترام نیز به آن راه پیدا می‌کنند و شماری از افراد به‌طرز شگفت‌آوری متوسط هم به مقام قدرت می‌رسند.
این مسئله زمانی اهمیت کمتری داشت که ابزارهای در اختیار رهبران سیاسی نسبتاً ابتدایی بودند. اما وقتی رئیس دولت می‌تواند به سامانه‌های محاسباتی دسترسی داشته باشد که قادرند اقتصادهای کامل را تحلیل کنند، جنگ‌ها را شبیه‌سازی کنند یا بر جمعیت‌ها نظارت داشته باشند، اهمیت آن بسیار بیشتر می‌شود. کاستی‌های فکری یک فرمانروا هنگامی پیامدهای بسیار بزرگ‌تری پیدا می‌کند که فناوری توانایی او را برای تبدیل انگیزه‌های شخصی به اقدام عملی تقویت کند.
پاسخ سنتی به مشکل میان‌مایگی سیاسی، تخصص بود. وزیران لازم نبود فیزیک هسته‌ای را بفهمند، زیرا فیزیک‌دانان هسته‌ای به آن‌ها مشاوره می‌دادند. نیازی نبود همه‌گیری‌شناسی بدانند، چون متخصصان این رشته وجود داشتند. لازم نبود اقتصاد پولی را درک کنند، زیرا بانک‌های مرکزی اقتصاددان استخدام می‌کردند. هوش مصنوعی رابطه میان فرمانروا و متخصص را تغییر می‌دهد؛ زیرا ممکن است ماشین در نهایت از تمام متخصصان حاضر در اتاق دانش بیشتری داشته باشد. در چنین شرایطی، سیاستمدار با مشاوری روبه‌رو خواهد شد که نمی‌تواند مستقلاً به نتایج آن برسد و شاید حتی نتواند توانایی‌های فکری‌اش را به‌درستی درک کند.
در آن لحظه، منش و شخصیت از هوش مهم‌تر می‌شود. آیا سیاستمدار عدم‌قطعیت را درک می‌کند؟ آیا می‌تواند میان اطمینان و شواهد تفاوت بگذارد؟ آیا می‌داند چه زمانی باید پرسش دیگری مطرح کند؟ آیا می‌تواند پاسخی را که با غریزه‌اش در تضاد است تحمل کند؟ آیا می‌فهمد که هر فرایند بهینه‌سازی، فرض‌هایی پنهان درباره آنچه باید بهینه شود در خود دارد؟ آیا می‌تواند میان کاری که انجام‌دادنی است و کاری که باید انجام شود تمایز بگذارد؟ این‌ها در درجه نخست پرسش‌های فنی نیستند؛ بلکه به منش و روحیه فلسفی مربوط می‌شوند.
ماشین نمی‌تواند خیر را انتخاب کند
فرض کنید هوش مصنوعی بتواند کارآمدترین نظام مراقبت سلامت را از نظر اقتصادی محاسبه کند. این توانایی به ما نمی‌گوید که آیا کارایی اقتصادی باید هدف اصلی نظام سلامت باشد یا خیر. فرض کنید بتواند سامانه نظارتی‌ای را شناسایی کند که بیشترین تأثیر را در جلوگیری از تروریسم دارد. این نتیجه مشخص نمی‌کند شهروندان باید برای برخورداری از امنیت، تا چه اندازه از حریم خصوصی خود چشم‌پوشی کنند. فرض کنید بتواند راهبرد نظامی‌ای را تعیین کند که بیشترین احتمال پیروزی را دارد. این موضوع نیز روشن نمی‌کند که از نظر اخلاقی، پیروزی تا چه میزان تلفات غیرنظامی را توجیه می‌کند. ماشین‌ها ممکن است در یافتن بهترین وسیله برای رسیدن به هدف فوق‌العاده ماهر شوند، اما تعیین خود هدف مسئله دیگری است.
هر فرایند بهینه‌سازی سیاسی، گزاره‌ای اخلاقی را در خود پنهان می‌کند. بیشینه‌سازی تولید ناخالص داخلی، تولید را در اولویت قرار می‌دهد. بیشینه‌سازی طول عمر، دوام زندگی را ترجیح می‌دهد. بیشینه‌سازی برابری ممکن است به بهای قربانی کردن برخی شکل‌های آزادی تمام شود. افزایش حداکثری امنیت ممکن است به نظارت نیاز داشته باشد. افزایش کارایی نظامی ممکن است مستلزم اقداماتی باشد که جامعه متمدن آن‌ها را تحمل‌ناپذیر می‌داند. نمی‌توان با توسل به علم از این انتخاب‌ها گریخت؛ زیرا علم پیامدها را توصیف می‌کند، نه اینکه ارزش‌ها را تعیین کند.
هوش مصنوعی نیز نمی‌تواند صرفاً با هوشمندتر شدن، این مشکل را به‌طور جادویی حل کند. هوش بیشتر ممکن است پیامدهای انتخاب‌های ما را با دقتی خارق‌العاده آشکار کند، اما پرسش از اینکه کدام پیامدها را باید ترجیح دهیم، همچنان بی‌پاسخ می‌ماند. ماشین می‌تواند به پادشاه بگوید چگونه به هر چیزی که می‌خواهد برسد؛ فلسفه می‌پرسد آیا اساساً باید خواهان آن چیز باشد. تمایز میان این دو پرسش، تمام مسئله سیاسی در همین‌جا نهفته است.
شاید سقراط از افلاطون مفیدتر باشد
بااین‌حال، احیای ایده فرمانروای فیلسوف خطر آشکاری دارد. هر دیکتاتوری در تاریخ خود را به‌طور استثنایی خردمند دانسته است. اگر به فرمانروایی قدرت محاسباتی عظیمی بدهیم و او را متقاعد کنیم که تنها کسی است که خیر را به‌درستی می‌شناسد، جمهوری افلاطون ممکن است به چیزی شبیه یک زندان دیجیتال تبدیل شود. فرمانروای فیلسوفی که به هوش مصنوعی مجهز شده است، می‌تواند با کارایی‌ای هولناک به فیلسوفی مستبد بدل شود.
بنابراین، راه‌حل نمی‌تواند حکومت استادان دانشگاه باشد. دانشگاه‌ها شواهد فراوانی ارائه می‌کنند که تحصیلات پیشرفته غرور، جناح‌گرایی، کوته‌فکری یا رفتارهای مضحک را از میان نمی‌برد. سیاست دانشگاهی مجهز به ابرهوش مصنوعی ممکن است صرفاً فاجعه‌هایی تولید کند که پاورقی‌های دقیق‌تری دارند. ازاین‌رو، چهره مفیدتر آتن باستان لزوماً فرمانروای موردنظر افلاطون نیست، بلکه آموزگار اوست: سقراط.
سقراط در آتن پرسه نمی‌زد تا اعلام کند پاسخ همه پرسش‌ها را می‌داند. او با پرسیدن اینکه مردم از کجا می‌دانند پاسخ‌هایشان درست است، دیگران را کلافه می‌کرد. بخشی از خرد او در این بود که نادانی خود را می‌شناخت. از مردم می‌خواست اصطلاحات خود را تعریف کنند، فرض‌هایشان را آشکار سازند و استدلال‌هایشان را تا جایی دنبال کنند که تناقض‌ها نمایان شوند. این دقیقاً همان منش فکری‌ای است که رهبران سیاسی هنگام مواجهه با هوش مصنوعی به آن نیاز خواهند داشت.
وقتی ماشین می‌گوید سیاست «الف» بهینه است، نخستین پرسش باید این باشد: بهینه بر اساس کدام معیار؟ وقتی احتمال وقوع چیزی را ۹۳ درصد اعلام می‌کند، باید کسی بپرسد این عدد چگونه محاسبه شده است. وقتی نظارت را توصیه می‌کند، باید پرسید چه برداشتی از آزادی در محاسبات آن گنجانده شده است. وقتی جنگ را پیشنهاد می‌کند، باید روشن شود مدل چه هزینه‌های انسانی‌ای را صرفاً متغیرهایی قابل‌محاسبه در نظر گرفته است. وقتی همه افراد حاضر در اتاق تحت تأثیر ماشین قرار گرفته‌اند، باید کسی استقلال فکری لازم را داشته باشد تا بپرسد آیا ممکن است ماشین به‌سادگی اشتباه کرده باشد.
فرمانروای فیلسوفِ جدید
بنابراین، باید پیشنهاد افلاطون را اصلاح کرد، نه اینکه آن را بی‌کم‌وکاست پذیرفت. نیازی نداریم فیلسوفان به پادشاه تبدیل شوند. آنچه لازم داریم این است که پادشاهان، رؤسای جمهور، نخست‌وزیران، وزیران، فرماندهان نظامی، قضات، نهادهای ناظر، مدیران اجرایی و هر فرد دیگری که قدرت قابل‌توجهی در اختیار دارد، بخشی از منش فیلسوفانه را در خود پرورش دهد. آن‌ها باید دقیقاً در زمانی که فناوری تولید قطعیت را آسان کرده است، نسبت به قطعیت‌های ساده و بی‌دردسر بدگمان باشند.
آن‌ها باید بدانند که هوش با خرد، پیش‌بینی با اخلاق و بهینه‌سازی با مشروعیت یکسان نیست. باید آن‌قدر از معرفت‌شناسی بدانند که ضعف شواهد را تشخیص دهند، آن‌قدر از اخلاق بدانند که بفهمند ارزش‌های رقیب را نمی‌توان همیشه به اعداد فروکاست و آن‌قدر تاریخ بشناسند که بدانند جوامع هوشمند در گذشته بارها چگونه خود را به باورهایی فاجعه‌بار قانع کرده‌اند. مهم‌تر از همه، باید فروتنی فکری را بیاموزند.
این پیشنهاد در ظاهر ساده و کم‌توقع است، اما چنین نیست. فروتنی ممکن است به مهم‌ترین فضیلت سیاسی عصر هوش مصنوعی تبدیل شود؛ زیرا این فناوری قدرت ناشی از خودبزرگ‌بینی را به‌شدت افزایش می‌دهد. سیاستمداری که زمانی تصور اغراق‌آمیزی از نبوغ خود داشت، می‌توانست سخنرانی‌های بدی ایراد کند و سیاست‌های احمقانه‌ای به اجرا بگذارد. جانشین او ممکن است همان تصور متورم از نبوغ شخصی را داشته باشد، اما در کنار آن به ماشین‌هایی دسترسی پیدا کند که ایده‌هایش را با سرعتی خارق‌العاده در سراسر جامعه اجرا می‌کنند. نادانی که دستگاه دیوان‌سالاری در اختیار دارد مایه تأسف است؛ اما نادانی که به ابرهوش مصنوعی دسترسی دارد، یک وضعیت اضطراری برای قانون اساسی به شمار می‌رود.
آخرین تصمیم انسانی
پرسش سیاسی درباره هوش مصنوعی اغلب به‌اشتباه صورت‌بندی می‌شود. می‌پرسیم آیا ماشین‌ها به خودآگاهی خواهند رسید، آیا مشاغل را از بین خواهند برد، آیا از هوش انسان فراتر خواهند رفت و آیا ممکن است روزی کنترل دولت‌ها را به دست بگیرند. این پرسش‌ها مهم‌اند، اما توجه ما را از واقعیتی که هم‌اکنون در حال وقوع است منحرف می‌کنند: انسان‌ها داوطلبانه قضاوت خود را به ماشین‌ها واگذار می‌کنند، زیرا این کار راحت‌تر است.
برنامه‌های مسیریابی مسیر ما را انتخاب می‌کنند. الگوریتم‌ها سرگرمی ما را تعیین می‌کنند. سامانه‌های پیشنهاددهنده انتخاب می‌کنند چه چیزی بخوانیم. سامانه‌های خودکار مشخص می‌کنند کدام تراکنش‌های مالی مشکوک به نظر می‌رسند، کدام درخواست‌های شغلی مورد توجه قرار می‌گیرند و چه اطلاعاتی مرتبط تشخیص داده می‌شود. هر بار واگذاری اختیار به‌تنهایی ناچیز به نظر می‌رسد، اما مجموع این موارد عادتی ایجاد می‌کند: وقتی ماشین پاسخی ارائه می‌دهد، آن را بپذیر. دولت‌ها نیز در برابر همین وسوسه قرار خواهند گرفت، به‌ویژه از آن رو که دستگاه‌های اداری برای کارایی پاداش قائل‌اند و سیاستمداران همواره با کمبود وقت مواجه‌اند.
بنابراین، خطر لزوماً از صبحی ناگهانی آغاز نمی‌شود که هوش مصنوعی اعلام کند قدرت را به دست گرفته است. این انتقال ممکن است بی‌سروصدا اتفاق بیفتد. وزیران همچنان در دفترهایشان می‌نشینند، مجالس قانون‌گذاری به رأی‌گیری ادامه می‌دهند، دادگاه‌ها حکم صادر می‌کنند و رؤسای جمهور سخنرانی می‌کنند. ظاهر و تشریفات قانون اساسی دست‌نخورده باقی می‌ماند، درحالی‌که اقتدار فکری واقعی به‌تدریج به سامانه‌هایی منتقل می‌شود که انسان‌ها توصیه‌هایشان را هرچه بیشتر بی‌چون‌وچرا تأیید می‌کنند. پادشاه همچنان بر تخت نشسته است، اما دیگر فکر نمی‌کند.
این وضعیت وارونگی نهایی اندیشه افلاطون خواهد بود. به‌جای آنکه فیلسوفان به پادشاهی برسند، پادشاهان به اپراتورهای ماشین‌هایی تبدیل می‌شوند که هوش آن‌ها را درک نمی‌کنند. اقتدار سیاسی رسماً انسانی باقی می‌ماند، اما قضاوت سیاسی به‌تدریج به فرایندهای محاسباتی واگذار می‌شود؛ در نتیجه، مسئولیت بر دوش کسانی می‌ماند که دیگر تصمیم‌هایی را که ظاهراً مسئول آن‌ها هستند، به معنای واقعی کلمه اتخاذ نمی‌کنند.
انتقام افلاطون
طنز بزرگ هوش مصنوعی این است که هرچه ماشین‌های ما هوشمندتر شوند، انسان‌ها فوریت بیشتری برای پرورش شکل‌هایی از هوش پیدا می‌کنند که نمی‌توانند مسئولیت به‌کارگیری آن‌ها را به ماشین‌ها واگذار کنند. دقیقاً به این دلیل که محاسبه فراوان می‌شود، به قضاوت نیاز داریم. دقیقاً به این دلیل که پاسخ‌های متقاعدکننده ارزان می‌شوند، به تردید و شکاکیت نیاز داریم. دقیقاً به این دلیل که اعمال قدرت آسان‌تر می‌شود، به جدیت اخلاقی نیاز داریم. ازاین‌رو، فلسفه از حاشیه زندگی سیاسی به مرکز آن حرکت می‌کند.
این امر لزوماً به معنای فلسفه دانشگاهی نیست و قطعاً به معنای تولید حرفه‌ای مناقشاتی هرچه جزئی‌تر که تنها متخصصان قادر به درک آن‌ها هستند نیز نیست. آنچه اهمیت دارد فلسفه در معنای قدیمی‌تر آن است: بررسی روشمند و نقادانه آنچه می‌دانیم، آنچه برایمان ارزش دارد و آنچه باید انجام دهیم. وقتی یک ماشین می‌تواند تقریباً درباره هر موضوع دیگری پاسخ‌هایی ظاهراً معتبر ارائه کند، این پرسش‌ها اهمیت بیشتری پیدا می‌کنند، نه کمتر.
افلاطون معتقد بود فاجعه سیاسی از آنجا ناشی می‌شود که جوامع قدرت را به دست کسانی می‌سپارند که نه خود را به‌درستی می‌شناسند و نه خیر را درک می‌کنند. ما راه‌حل او را رد کردیم، زیرا دموکراسی قانون‌مدار گزینه بهتری پیش روی ما گذاشت: به‌جای اعتماد به خردمندی فرمانروایان، قدرتشان را محدود کردیم، چون می‌دانستیم ممکن است خردمند نباشند. اکنون هوش مصنوعی ایجاب می‌کند که هر دو کار را انجام دهیم.
به محدودیت‌های قانون اساسی نیرومندتری نیاز داریم، زیرا فرمانروایان به ابزارهای قدرتمندتری دسترسی پیدا می‌کنند. در عین حال، به فرمانروایان شایسته‌تری نیاز داریم، زیرا هیچ قانون اساسی‌ای نمی‌تواند همه تصمیم‌های ممکن را در جهانی پیش‌بینی کند که فناوری‌های تازه آن را دگرگون می‌کنند و پیامدهایشان سریع‌تر از آن آشکار می‌شود که قانون‌گذاری بتواند همگامشان پیش برود. بنابراین، فرمانروای فیلسوف باید بازگردد، اما بدون تاج‌وتخت. او این بار به معیاری فکری تبدیل می‌شود که بر همه صاحبان قدرت اعمال می‌شود: وظیفه بررسی انتقادی فرض‌ها، تمایز میان دانش و اطمینان، درک ارزش‌های رقیب، پذیرفتن تناقض و شناخت مرزهای فهم خویش.
هوش مصنوعی ممکن است در تقریباً هر کاری که زمانی آن را نشانه هوشمندی می‌دانستیم، از ما بهتر شود. شاید سریع‌تر محاسبه کند، اطلاعات بیشتری به خاطر بسپارد، الگوهایی را تشخیص دهد که از دید ما پنهان می‌مانند و سرانجام بتواند در میان مجموعه‌هایی از دانش استدلال کند که هیچ ذهن انسانی در طول عمر خود قادر به فراگیری کامل آن‌ها نیست. اما هیچ‌یک از این توانایی‌ها فلسفه سیاسی را منسوخ نمی‌کند؛ برعکس، ضرورت آن را فوری‌تر می‌سازد. هرچه پاسخ تولیدشده به‌وسیله ماشین چشمگیرتر باشد، توانایی انسان برای پرسیدن اینکه آیا ماشین به پرسش درستی پاسخ می‌دهد، اهمیت بیشتری پیدا می‌کند.
بنابراین، آینده هراس‌انگیز لزوماً آینده‌ای نیست که در آن ماشین‌ها فرمانروای ما شوند. شاید آینده ترسناک‌تر آن باشد که فرمانروایانمان همچنان کاملاً انسانی باقی بمانند؛ انسان‌هایی خودخواه، هراسان، جاه‌طلب، گرفتار تعصبات گروهی، بی‌حوصله و گاه به‌طرزی حیرت‌انگیز نادان، اما مجهز به ماشین‌هایی با توانایی‌هایی تقریباً خدای‌گونه. افلاطون به‌سختی می‌توانست چنین ترکیبی را تصور کند، اما بی‌درنگ خطر آن را درمی‌یافت.
هوشی که پشت تخت فرمانروایی قرار دارد، ممکن است هر سال قدرتمندتر شود. این به معنای آن نیست که باید تخت را به فیلسوفان، چه رسد به ماشین‌ها، واگذار کنیم. معنایش این است که کسانی که بر آن تکیه می‌زنند باید عادت‌های فکری فلسفی لازم را برای درک محدودیت‌های قدرت، دانش و وجود خود پرورش دهند. هرچه هوشِ پشت تخت فرمانروایی قدرتمندتر شود، بیش از پیش به فیلسوفی نیاز خواهیم داشت که بر آن تخت نشسته است.