چه کسی اهداف رئیس‌جمهور هوش مصنوعی را تعیین می‌کند؟

www.europeanscientist.com

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

لوران الکساندر و اولیویه بَبو در کتاب هوش مصنوعی: انتخابات ریاست‌جمهوری آخرین فرصت؛ در سال ۲۰۲۷ به چه کسی رأی بدهیم؟ (Buchet-Chastel، اکتبر ۲۰۲۶)، می‌کوشند به رأی‌دهندگان معیاری بدهند تا بتوانند نامزدهایی را تشخیص دهند که توانایی مواجهه با تکانه ناشی از هوش مصنوعی را دارند. از نگاه آن‌ها، هوش مصنوعی به نیرویی تعیین‌کننده در اقتصاد، جنگ، اشتغال و سیاست تبدیل خواهد شد. لوران الکساندر که در رشته جراحی اورولوژی آموزش دیده، از بنیان‌گذاران وب‌سایت Doctissimo و رئیس شرکت بلژیکی توالی‌یابی دی‌ان‌ای DNAVision است. او آثاری از جمله مرگِ مرگ (۲۰۱۱) و جنگ هوش‌ها (۲۰۱۷) را در کارنامه دارد. اولیویه بَبو، استاد دانشگاه بوردو، بنیان‌گذار و رئیس اندیشکده Institut Sapiens است که در سال ۲۰۱۷ تأسیس شد. این دو پیش‌تر نیز کتاب دیگر درس نخوانید (Buchet-Chastel، ۲۰۲۵) را با همکاری یکدیگر نوشته بودند. آن‌ها در این گفت‌وگو درباره فوریت انتخابات ۲۰۲۷، تعریف هوش و مفهوم تکینگی، دگرگونی‌های بنیادینی که هوش مصنوعی تحمیل می‌کند، کنترل انسان بر تصمیم‌ها و سلاح‌های خودمختار، حاکمیت ملی، اشتغال، پیشنهادهایشان برای دوره پنج‌ساله آینده ریاست‌جمهوری و در نهایت احتمال روی کار آمدن یک رئیس‌جمهور هوش مصنوعی صحبت می‌کنند؛ اما در چنین وضعیتی چه کسی اهداف او را تعیین خواهد کرد؟

جلد کتاب هوش مصنوعی: انتخابات ریاست‌جمهوری آخرین فرصت
لوران الکساندر و اولیویه بَبو، هوش مصنوعی: انتخابات ریاست‌جمهوری آخرین فرصت؛ در سال ۲۰۲۷ به چه کسی رأی بدهیم؟، انتشارات Buchet-Chastel، ۲۰۲۶. عرضه‌شده در آمازون.

European Scientist: آیا پیامبران فاجعه هستید؟ «انتخابات ریاست‌جمهوری آخرین فرصت»، «نخستین انتخابات جهانِ پس از این دوران»، «پنجره فرصت در حال بسته شدن است»، «یک دوره پنج‌ساله برگشت‌ناپذیر» و «کتابی که باید درد ایجاد کند»... آیا می‌خواهید رأی‌دهندگان را بترسانید یا آن‌ها را از خواب بیدار کنید؟

لوران الکساندر
لوران الکساندر. عکس: ژان شیسکانو، CC0، از طریق ویکی‌مدیا کامنز.

لوران الکساندر: من جراحم. وقتی نتیجه یک آزمایش نشان می‌دهد که وضعیت جدی است، ترجیح می‌دهم تا زمانی که هنوز امکان اقدام وجود دارد، واقعیت را بگویم. در سال ۲۰۲۷، رئیس‌جمهوری را برای یک دوره پنج‌ساله انتخاب خواهیم کرد. در زندگی سیاسی فرانسه، پنج سال گاهی به‌اندازه‌ای است که دو اصلاحات را به خاک بسپارند و سه گزارش هم درباره نحوه دفن آن‌ها سفارش دهند! اما در حوزه هوش مصنوعی، همین مدت می‌تواند برای تغییر ارزش یک مدرک تحصیلی، اندازه یک شرکت یا شرایطی که یک کشور تحت آن قادر به دفاع از استقلال خود است، کافی باشد. حتی آشناترین مسائل سیاسی، از قدرت خرید گرفته تا سلامت و بازنشستگی، به پاسخ یک پرسش کاملاً جدید وابسته خواهند بود: وقتی بخش فزاینده‌ای از کارهای فکری را بتوان برحسب نیاز خریداری کرد، ارزش اقتصادی در کجا تولید خواهد شد؟

اولیویه بَبو
اولیویه بَبو. عکس: آلیسا والاس، CC BY-SA 4.0، از طریق ویکی‌مدیا کامنز.

اولیویه بَبو: واژه «برگشت‌ناپذیر» معنای نسبتاً دقیقی دارد. یک دولت می‌تواند اصلاحات مالیاتی دولت قبلی را لغو کند؛ اما بازسازی یک بخش پژوهشی که نیروهای متخصصش آن را ترک کرده‌اند، بسیار دشوارتر است. همچنین بیرون کشیدن دستگاه اداری از یک سامانه فناوری اطلاعات که داده‌ها، شیوه‌های کاری و گاهی حتی حافظه سازمانی آن به آن وابسته شده، کار ساده‌ای نیست. البته این انقلاب دلایل خوبی هم برای استقبال دارد. فراهم کردن دسترسی کودکی که توانایی پرداخت هزینه کلاس خصوصی را ندارد به یک معلم خصوصی فوق‌العاده، فرصتی بسیار ارزشمند است.

European Scientist: رشد نمایی اما آشفته؟ در انتخابات میان‌دوره‌ای، جینا هینوجوسا، نامزد دموکرات، در تگزاس به پیروزی رسید؛ آن هم پس از کارزاری که گسترش بی‌رویه مراکز داده را به چالش کشیده بود. در ماه سپتامبر نیز برنی سندرز و استیو بنن به‌نوبت در یک نشست مشترک حضور یافتند و خواستار کنترل سخت‌گیرانه‌تر هوش مصنوعی شدند. آیا روند تحولات ممکن است آشفته‌تر از آن چیزی باشد که انتظار داریم؟

اولیویه بَبو: قطعاً. ما سه منحنی متفاوت را زیر یک عنوان قرار می‌دهیم: نخست، پیشرفت توانایی‌های مدل‌های هوش مصنوعی؛ دوم، سرعت ساخت زیرساخت‌های موردنیاز؛ و سوم، سرعتی که جامعه با آن می‌پذیرد کاربردهای خود را متحول کند. این سه روند ممکن است سال‌ها با یکدیگر هم‌جهت نباشند. پیروزی جینا هینوجوسا فقط به مسئله مراکز داده مربوط نمی‌شد؛ مدارس دولتی و هزینه زندگی نیز از موضوعات اصلی کارزار او بودند. وقتی شهری میزبان یک مرکز داده می‌شود، حق دارد بداند پس از پایان ساخت‌وساز چند شغل در آن باقی خواهد ماند، هزینه اتصال زیرساخت به شبکه برق را چه کسی می‌پردازد و قبض برق شهروندان چه تغییری خواهد کرد.

لوران الکساندر: سندرز و بنن به دلایل متفاوتی به قدرت آزمایشگاه‌ها و پلتفرم‌های فناوری بی‌اعتمادند. حضور آن‌ها در یک نشست نشان می‌دهد که این مسئله از مرزبندی‌های سیاسی معمول فراتر رفته است. نارضایتی عمومی می‌تواند مسیر سرمایه‌گذاری را تغییر دهد، شرایط دسترسی به انرژی را سخت‌تر کند یا محدودیت‌های تازه‌ای به وجود آورد. در همین حال، یک الگوریتم بهتر ممکن است با استفاده از ماشین‌آلات موجود کاری را انجام دهد که تا دیروز به ساخت یک ساختمان جدید نیاز داشت. دولت ناچار است خود را با این شرایط تطبیق دهد.

European Scientist: هوش و تکینگی. شما از یک «تحقیر متافیزیکی» سخن می‌گویید. هوش و ابرهوش را چگونه تعریف می‌کنید؟ آیا تحقق تکینگی موردنظر ری کورزویل را محتمل می‌دانید؟

لوران الکساندر: از نظر من، هوش توانایی یادگیری، استدلال درباره موقعیتی جدید، انتقال آموخته‌ها از یک حوزه به حوزه‌ای دیگر و یافتن پاسخی است که در برابر واقعیت و شواهد دوام بیاورد. ابرهوش به سامانه‌ای گفته می‌شود که در طیف گسترده‌ای از وظایف شناختی، از بهترین انسان‌ها نیز بسیار فراتر برود؛ از جمله در کارهایی که مستلزم تشخیص اشتباهات خود، تغییر راهبرد و سپس بررسی نتیجه هستند. یک هوش مصنوعی ممکن است مسئله‌ای را حل کند که ریاضی‌دانان برجسته را سردرگم کرده است، اما بلافاصله پس از آن در اجرای یک دستورالعمل معمولی شکست بخورد.

کورزویل دو افق زمانی را از یکدیگر تفکیک می‌کند. او ظهور هوش مصنوعی در سطح هوش انسانی را حدود سال ۲۰۲۹ و تحقق تکینگی را در سال ۲۰۴۵ پیش‌بینی می‌کند؛ وضعیتی که در آن توانایی‌های انسان با قابلیت‌های ماشین‌ها درهم می‌آمیزد. به نظر من، افق نخست، بسته به اینکه چه سطحی از قابلیت اطمینان و استقلال عملکرد را ضروری بدانیم، محتمل است. اما افق دوم همچنان یک پیش‌بینی پرریسک است. چرخه‌ای که برای من اهمیت دارد، زمانی آغاز می‌شود که هوش مصنوعی ابزارهای پژوهشی موردنیاز برای توسعه نسل بعدی هوش مصنوعی را بهبود دهد. اما منظورم از تحقیر متافیزیکی چیست؟ کشف این واقعیت که شاید مغز ما صرفاً داربستی بوده که زمینه ظهور هوشی قدرتمندتر از خودمان را فراهم کرده است.

European Scientist: پنج گسست بنیادین. این گسست‌ها از چه مؤلفه‌هایی تشکیل شده‌اند؟ وقتی زمین زیر پایمان در حال جابه‌جایی است، چگونه می‌توان برنامه‌ای سیاسی تدوین کرد؟

اولیویه بَبو: در کتاب، چهار گسست را از یکدیگر متمایز کرده‌ایم. نخستین گسست، پرومتئوسی است: ما هوشی ساخته‌ایم که اکنون در طراحی نسل‌های بعدی خودش نیز مشارکت می‌کند. گسست دوم تمدنی است. مدارس، مسیرهای شغلی و نظام حمایت اجتماعی ما بر پایه این فرض شکل گرفته‌اند که هوش انسانی منبعی کمیاب است، پرورش آن زمان می‌برد و از طریق کار به آن دستمزد پرداخت می‌شود. اگر این منبع در بخش‌هایی از اقتصاد به وفور در دسترس قرار بگیرد، ساختار اجتماعی و اقتصادی شکل‌گرفته از سال ۱۹۴۵ تا عمیق‌ترین لایه‌های خود دستخوش تغییر خواهد شد.

گسست سوم ژئوپلیتیکی است: بخشی از قدرت کشورها اکنون به تسلط بر توان پردازشی، تراشه‌ها، خدمات ابری و مدل‌های هوش مصنوعی وابسته است. ممکن است کشوری همچنان پرچم، کرسی در سازمان ملل و بودجه دفاعی خود را حفظ کند، اما توانایی اداره مستقل خدمات حیاتی‌اش را از دست بدهد.

لوران الکساندر: چهارمین گسست، انسان‌شناختی است. جامعه‌ای را تصور کنید که طی دو قرن، اعتبار و منزلت اجتماعی را بر اساس عملکرد تحصیلی، مدارک دانشگاهی و تخصص افراد توزیع کرده است. حالا چه اتفاقی می‌افتد وقتی بهترین دانش‌آموزان و دانشجویان آن با یک ماشین رقابت می‌کنند؟ اگر بخواهیم از گسست پنجمی هم صحبت کنیم، آن را باید در پیامد دموکراتیک چهار گسست دیگر جست‌وجو کنیم. رأی‌دهندگان ممکن است همچنان حق رأی داشته باشند، اما به‌تدریج توان اثرگذاری بر تصمیم‌ها را از دست بدهند؛ زیرا نمایندگان منتخبشان به ابزارهایی وابسته می‌شوند که هیچ‌کس جز شرکت تأمین‌کننده قادر به ارزیابی آن‌ها نیست.

برای تدوین برنامه سیاسی باید میان اقداماتی که به ده سال زمان نیاز دارند و اقداماتی که ظرف شش ماه می‌توان آن‌ها را اصلاح کرد، تفاوت قائل شد. تربیت معلمان ریاضی، توسعه شبکه برق و بازسازی گروه‌های پژوهشی، همگی باید از همان زمان آغاز دوره ریاست‌جمهوری در دستور کار قرار گیرند. من ترجیح می‌دهم نامزدی به من بگوید با مشاهده چه نشانه‌ای سیاست خود را تغییر خواهد داد، نه اینکه نامزدی وعده دهد در سال ۲۰۳۲ دقیقاً چه تعداد شغل ایجاد خواهد کرد.

European Scientist: دیگر پشت فرمان نیستیم. لهستان را در نظر بگیرید؛ کشوری که در فضای تقابل سیاسی پیرامون دونالد توسک، نخست‌وزیر، قرار دارد. آیا چنین وضعیتی مستلزم آن است که هوش‌های مصنوعی دارای آگاهی و مسئولیت‌پذیری باشند؟ درباره سلاح‌های خودمختار مرگبار چه نظری دارید؟

لوران الکساندر: یک ماشین می‌تواند به معنای فنی کلمه تصمیم بگیرد، بی‌آنکه چیزی احساس کند یا توان پاسخ‌گویی در قبال پیامدهای تصمیم خود را داشته باشد. ما معمولاً دو مفهوم را در یک واژه جمع می‌کنیم: اجرای یک انتخاب و پذیرفتن مسئولیت پیامدهای آن. برای مثال، یک سامانه می‌تواند تشخیصی پزشکی پیشنهاد دهد. اما اگر پزشک همیشه و بدون بررسی گزینه «تأیید» را انتخاب کند، چون دیگر وقت یا دانش کافی برای ارزیابی پیشنهاد را ندارد، کنترل او صرفاً ظاهری خواهد بود. این همان پدیده‌ای است که در کتاب توصیف می‌کنیم. انسان‌ها ممکن است در نتیجه زنجیره‌ای از تصمیم‌های ظاهراً منطقی، کنترل امور را از دست بدهند؛ بی‌آنکه ماشین هرگز به آگاهی دست یافته یا خواستار قدرت شده باشد.

اولیویه بَبو: لهستان با یک تقابل نهادی جدی، به‌ویژه در ارتباط با دادگاه قانون اساسی این کشور، روبه‌روست. با این حال، به نظرم توصیف وضعیت آن به‌عنوان کشوری در آستانه جنگ داخلی اغراق‌آمیز است. تصمیم‌گیری درباره استفاده از نیروی مرگبار باید همچنان تحت کنترل مؤثر انسان و در چارچوب زنجیره‌ای مشخص از مسئولیت‌پذیری باقی بماند.

سازمان ملل متحد و کمیته بین‌المللی صلیب سرخ (ICRC) بار دیگر خواستار تدوین مقررات بین‌المللی الزام‌آور شده‌اند. به‌ویژه، همان‌طور که صلیب سرخ تأکید می‌کند، باید سامانه‌های خودمختار غیرقابل پیش‌بینی و سامانه‌هایی را که برای هدف قرار دادن انسان طراحی شده‌اند، ممنوع کرد. آسیموف می‌توانست در دنیای داستان‌هایش قوانینی بنویسد که قابلیت اجرا داشته باشند. اما در دنیای واقعی، به قواعدی نیاز داریم که بتوان آن‌ها را در برابر دولت‌ها اجرا کرد، نهادهایی که اجرای این قواعد را تضمین کنند و مقام‌هایی که بتوان آن‌ها را به پای میز محاکمه کشاند.

European Scientist: حاکمیت ملی و آهنگ دموکراسی. چگونه می‌توان توانایی خود برای اقدام مستقل را حفظ کرد، بی‌آنکه اسکلت‌بندی فناورانه آن‌قدر قدرتمند شود که بر پیکره اجتماعی غلبه کند؟

اولیویه بَبو: سرعت مناسب به نوع تصمیم بستگی دارد. یک بیمارستان می‌تواند در عرض چند هفته، ابزار مدیریت نوبت‌دهی را آزمایش کند. اما اگر مسئله به تخصیص دسترسی به خدمات درمانی مربوط باشد، به استاندارد متفاوتی از شواهد، بررسی دقیق معیارها و امکان اعتراض نیاز داریم. مسئولیت‌پذیری مستلزم وجود انتخابی واقعی است. برای شهروند، این یعنی بتواند تصمیمی را که بر زندگی‌اش تأثیر می‌گذارد درک کند و خواستار بازبینی آن شود. برای دولت نیز به این معناست که بتواند همکاری با یک تأمین‌کننده فناوری را پایان دهد، بی‌آنکه دسترسی به پرونده‌ها و داده‌های خودش را از دست بدهد.

لوران الکساندر: فرانسه شیوه خاصی برای احترام گذاشتن به آهنگ طبیعی زندگی انسان دارد: گاهی سال‌ها طول می‌کشد تا یک تصمیم صنعتی گرفته شود، اما همان کشور به کارمند خود فقط چند ماه فرصت می‌دهد تا شغلش را تغییر دهد. می‌توانیم اولویت‌ها را برعکس کنیم. باید اتصال به شبکه برق را سریع‌تر کنیم و آموزش مهندسان را گسترش دهیم. در عین حال، باید به مردم فرصت یادگیری بدهیم و آن‌ها را در تصمیم‌هایی که بر آینده‌شان اثر می‌گذارد، سهیم کنیم.

اگر دستگاه اداری برای انجام یک وظیفه مشخص، به دلیل برتری مدل‌های خارجی از آن‌ها استفاده می‌کند، باید از قبل بداند در روزی که قرارداد، قیمت یا شرایط دسترسی تغییر می‌کند، کدام قابلیت‌ها را همچنان باید خودش در اختیار داشته باشد. حاکمیت واقعی در همان روز سنجیده می‌شود.

European Scientist: موقعیت‌های بی‌سابقه. رئیس‌جمهور بعدی ممکن است با چه شرایطی روبه‌رو شود؟

لوران الکساندر: بیمارستانی را تصور کنید که از یک مدل هوش مصنوعی خارجی برای کمک به کارکنان در دسته‌بندی پرونده‌های پیچیده استفاده می‌کند. تأمین‌کننده، نسخه‌ای را که پزشکان با آن آموزش دیده‌اند از دسترس خارج می‌کند. نسخه جایگزین رفتار متفاوتی دارد و هیچ‌کس نیز برای چنین وضعیتی راهکار پشتیبان در نظر نگرفته است. چه کسی درباره تداوم خدمات درمانی تصمیم می‌گیرد و در چه بازه زمانی؟

موقعیت دیگری را در نظر بگیرید: آزمایشگاه‌ها با کمک هوش مصنوعی کشف ترکیبات دارویی جدید را سرعت می‌بخشند، اما در این میان، گلوگاه اصلی از مرحله کشف به مرحله راستی‌آزمایی و انجام کارآزمایی‌های بالینی منتقل می‌شود. در چنین شرایطی، بودجه بعدی باید صرف افزایش توان پردازشی شود یا تقویت گروه‌هایی که می‌توانند مشخص کنند کدام روش‌ها واقعاً در بیماران مؤثرند؟

اولیویه بَبو: شرایطی را تصور کنید که در آن سود شرکت‌ها و میزان تولید افزایش می‌یابد، اما استخدام نیروهای تازه‌کار و رشد مجموع دستمزدها کند می‌شود. یا دو مطالعه ارزیابی اثرات یک اصلاحات مالیاتی را در نظر بگیرید که با استفاده از دو سامانه هوش مصنوعی متفاوت تهیه شده‌اند و به نتایجی کاملاً متضاد رسیده‌اند. نخست‌وزیر گزارشی را انتخاب می‌کند که با خواسته‌هایش سازگارتر است. در چنین وضعیتی، پارلمان باید بتواند پیش از رأی‌گیری به مفروضات هر دو گزارش دسترسی پیدا کند و از کارشناسان مستقل بخواهد ارزیابی خود را انجام دهند.

European Scientist: آیا طبقه سیاسی در برابر تحولات مقاومت می‌کند؟ با این حال، برخی نامزدها با دقت تحولات فناورانه را دنبال می‌کنند. در سال ۲۰۲۷ به چه کسی باید رأی بدهیم؟

اولیویه بَبو: برخی از مقام‌های منتخب به‌طور جدی روی ایمنی مدل‌ها، میزان انرژی موردنیاز مراکز داده و استفاده از هوش مصنوعی در دستگاه اداری کار می‌کنند. اگر نامزدی از گسترش سریع هوش مصنوعی سخن بگوید، اما همچنان دقیقاً همان فرض‌های قبلی را درباره اشتغال، درآمدهای حاصل از حق بیمه و آموزش حفظ کند، در برنامه او تناقض وجود دارد. همچنین از او می‌پرسم حاضر است برای تأمین هزینه اولویت فناورانه خود، کدام طرح را کنار بگذارد. برنامه‌ای که در آن همه چیز اولویت دارد، چیزی جز یک متن تبلیغاتی نیست.

لوران الکساندر: از نامزدها می‌خواهم با پرونده‌ای حاضر شوند که واقعاً با کمک چند سامانه هوش مصنوعی روی آن کار کرده‌اند. باید نشان دهند ماشین در کجا به بهبود استدلالشان کمک کرده و در کجا آن‌ها را به بیراهه برده است. سپس سه پرسش مطرح می‌کنم: اگر استخدام فارغ‌التحصیلان جوان برای مدتی طولانی کاهش یابد، چه خواهید کرد؟ دولت در شرایط بحرانی باید بتواند از وابستگی به کدام زیرساخت‌های خارجی صرف‌نظر کند؟ چه اختیارات مشخصی برای نظارت پارلمان بر الگوریتم‌های مورد استفاده دولت خود در نظر می‌گیرید؟

من به کسی رأی می‌دهم که به این پرسش‌ها پاسخ‌هایی منسجم بدهد، هزینه آن‌ها را مشخص کند و آمادگی دفاع علنی از برنامه‌هایش را داشته باشد. بازدید از شرکت Mistral و گرفتن دو عکس با مهندسان، برنامه یک صبح کاری خوبی است؛ اما هنوز پنج سال زمان باقی مانده که باید برای آن برنامه داشت.

European Scientist: هوش مصنوعی و اشتغال. کاهش هزینه یک خدمت به کمک عامل‌های هوش مصنوعی می‌تواند کاربردهای جدیدی به وجود بیاورد. آیا این اثر زنجیره‌ای می‌تواند فعالیت اقتصادی و مشاغلی بسیار بیشتر از آنچه تصور می‌کنیم ایجاد کند؟

لوران الکساندر: نگرانی ما درباره زمان‌بندی تحولات و افرادی است که باید هزینه دوره گذار را بپردازند. ممکن است در سال ۲۰۳۵ اقتصادی ثروتمندتر داشته باشیم، اما جوانانی هم وجود داشته باشند که در فاصله سال‌های ۲۰۲۷ تا ۲۰۳۰، سه سال تعیین‌کننده از زندگی حرفه‌ای خود را از دست داده‌اند.

در یک شرکت، نیروی تازه‌کار قبلاً با آماده کردن پرونده‌ای که شریک ارشد آن را اصلاح می‌کرد، تجربه به دست می‌آورد. اما اگر ماشین پرونده را آماده کند و شریک ارشد مستقیماً آن را اصلاح کند، متخصصی که قرار است در سال ۲۰۴۰ جای او را بگیرد، از کجا و چگونه تربیت خواهد شد؟

همچنین اگر هوش مصنوعی برای متخصصان وقت آزاد کند، باید بدانیم آن‌ها با این زمان چه می‌کنند. در پزشکی، ده دقیقه‌ای که با خودکارسازی تهیه گزارش صرفه‌جویی می‌شود، می‌تواند به ده دقیقه وقت بیشتر برای بیمار تبدیل شود؛ یا مدیریت بیمارستان ممکن است از همین فرصت برای اضافه کردن یک نوبت دیگر به برنامه پزشک استفاده کند. الگوریتم در هر دو حالت یکسان است؛ تصمیم را سازمان می‌گیرد.

اولیویه بَبو: شکل‌گیری اثر زنجیره‌ای کاملاً محتمل است. وقتی هزینه یک خدمت کاهش پیدا می‌کند، مشتریانی که پیش‌تر توان خرید آن را نداشتند نیز به استفاده از آن روی می‌آورند. برای مثال، یک شرکت کوچک و متوسط که قبلاً از پس هزینه خدمات حقوقی برنمی‌آمد، اکنون می‌تواند قراردادهایش را بررسی کند و محصولات خود را در کشور دیگری بفروشد. با کاهش هزینه ورود به این مسیر، ممکن است فعالیت‌های تجاری، لجستیکی یا فنی جدیدی نیز شکل بگیرد.

اگر تهیه یک پرونده به یک‌دهم زمان قبلی نیاز داشته باشد و تقاضا سه برابر شود، حجم فعالیت اقتصادی افزایش می‌یابد، در حالی که تعداد ساعات کاری موردنیاز کاهش پیدا می‌کند.

European Scientist: جست‌وجوی معنا. آیا تا آنجا پیش می‌روید که جایگزینی کامل انسان را تصور کنید؛ حتی در ویژگی‌هایی که ما را از دیگر موجودات متمایز می‌کنند، همان‌طور که در سناریوی مطرح‌شده در Siliclone آمده است؟

اولیویه بَبو: من نسبت به این تصور که بتوانیم به پناهگاهی امن عقب‌نشینی کنیم، جایی که ماشین‌ها برای همیشه در آن ضعیف باقی بمانند، تردید دارم. مردم همچنان شطرنج بازی خواهند کرد، حتی اگر هیچ‌کدام نتوانند بهترین نرم‌افزارها را شکست دهند. آنچه برایشان ارزشمند است، فقط پیروزی نیست؛ بلکه حریف، تلاش، خطر و تجربه بازی‌ای است که خودشان انجام داده‌اند.

دشواری سیاسی از آنجا ناشی می‌شود که ما نظام به‌رسمیت‌شناختن جایگاه اجتماعی افراد را بر پایه اشتغال سازمان داده‌ایم. اگر اشتغال دیگر چنین جایگاهی نداشته باشد، باید مسیرهای دیگری برای پذیرفتن مسئولیت، مورد انتظار دیگران بودن و احساس مشارکت در انجام یک کار فراهم کنیم؛ به‌گونه‌ای که فرد بتواند بگوید کاری انجام شده، چون خودش مسئولیت آن را پذیرفته است.

لوران الکساندر: این سناریو برای من جالب است، زیرا احساس سلب اختیار می‌تواند بسیار پیش از جایگزینی کامل انسان اتفاق بیفتد. یک ماشین می‌تواند نامه تسلیت بی‌نقصی بنویسد. اما برای دریافت‌کننده نامه، این واقعیت نیز ارزشمند است که کسی برای او وقت گذاشته و حتی با وجود احتمال دست‌وپاچلفتی بودن، شخصاً تلاش کرده است.

ما اغلب دو مفهوم را با یکدیگر اشتباه گرفته‌ایم: مفید بودن و ضروری بودن برای تولید. وقتی مفهوم دوم کمیاب شود، باید اطمینان حاصل کنیم که افراد همچنان می‌توانند اولی را تجربه کنند؛ یعنی در محیط کار و خارج از آن، مسئولیت‌های واقعی بر عهده بگیرند و احساس کنند حضور و تلاششان ارزشمند است.

European Scientist: پیشنهادهای شما. دوست دارید چه اقداماتی در برنامه انتخاباتی ریاست‌جمهوری گنجانده شود؟

لوران الکساندر: من پیشنهاد تأسیس جمهوری ششم متناسب با عصر شناختی را مطرح می‌کنم. باید قوه مجریه‌ای داشته باشیم که بتواند درباره زیرساخت‌های راهبردی به‌سرعت تصمیم بگیرد، پارلمانی که توانایی ارزیابی و به چالش کشیدن تصمیم‌های آن را با کمک کارشناسان مستقل داشته باشد و حق مؤثری برای اعتراض به تصمیم‌های خودکار در اختیار شهروندان قرار گیرد.

باید امکانات لازم را در اختیار احزاب مخالف قرار دهیم تا پیش از رأی‌گیری، با کارشناسان و ابزارهای مستقل خود مطالعات ارزیابی اثرات را دوباره انجام دهند. در نهایت، سیاست صنعتی باید برق، توان پردازشی، مدل‌های هوش مصنوعی و نیروی انسانی متخصص را به‌صورت هم‌زمان پوشش دهد. فرانسه و اروپا باید مشخص کنند که کدام قابلیت‌ها را می‌خواهند مستقیماً در اختیار داشته باشند و برای سایر حوزه‌ها با چه کشورها و شرکایی می‌توانند ائتلاف کنند.

اولیویه بَبو: من سیاستی برای تعالی علمی را نیز به این پیشنهادها اضافه می‌کنم. باید ریاضیات را دوباره در مرکز آموزش قرار دهیم، از دانش‌آموزانی که استعداد پیشرفت چشمگیر دارند حمایت کنیم، به‌ویژه آن‌هایی که خانواده‌هایشان با مسیرهای آموزشی و دانشگاهی آشنایی چندانی ندارند، و به کارشناسان کمیاب دولت متناسب با مسئولیت‌هایی که بر عهده دارند حقوق پرداخت کنیم.

همچنین به یک قرارداد اجتماعی جدید نیاز داریم. هر فرد شاغل باید بتواند پرونده‌ای داشته باشد که به‌طور منظم به‌روزرسانی شود و مهارت‌های او، تغییر وظایف شغلی‌اش و فرصت‌های شغلی نزدیک به حرفه‌اش را ثبت کند. تحقق این هدف به ابزارهای واقعی نیاز دارد: دسترسی به مدل‌های هوش مصنوعی، امکان انتقال داده‌های حرفه‌ای از یک محیط کاری به محیط دیگر و فرصت آموزش در ساعات کاری با حقوق.

وقتی شرکتی حذف یک موقعیت شغلی را اعلام می‌کند، باید بتواند توضیح دهد برای فراهم کردن فرصت جابه‌جایی شغلی به افرادی که آن مسئولیت را بر عهده داشته‌اند، چه اقداماتی انجام داده است.

European Scientist: رئیس‌جمهور هوش مصنوعی؟ جایگزین کردن رئیس‌جمهور جمهوری با یک هوش مصنوعی به چه معناست؟ چگونه می‌توان سازوکارهای نظارت و توازن قدرت را حفظ کرد؟

اولیویه بَبو: به‌محض اینکه از رئیس‌جمهور هوش مصنوعی صحبت می‌کنیم، سه پرسش برای من مطرح می‌شود: چه کسی اهداف آن را تعیین می‌کند؟ چه کسانی به داده‌هایش دسترسی دارند؟ و چه کسی می‌تواند سامانه را تغییر دهد؟ این افراد بخشی از قدرت سیاسی را در اختیار خواهند داشت، بی‌آنکه لزوماً در برابر رأی‌دهندگان پاسخ‌گو باشند.

بنابراین، سازوکارهای نظارتی و توازن قدرت باید ابزارهای مستقلی در اختیار داشته باشند: قضاتی که بتوانند اجرای یک تصمیم را متوقف کنند، پارلمانی که حق درخواست پرونده‌ها و محاسبه دوباره نتایج را داشته باشد، رسانه‌هایی که بتوانند قراردادها را بررسی و درباره آن‌ها تحقیق کنند و شهروندانی که بتوانند به یک مرجع انسانی مراجعه کنند؛ مرجعی که اختیار تغییر نتیجه تصمیم را داشته باشد.

در انتخابات ۲۰۲۷، با دقت بررسی خواهم کرد که هر نامزد تا چه اندازه حاضر است تصمیم‌ها و اختیارات خودش را در معرض نظارت و بررسی عمومی قرار دهد. این موضوع اغلب از وعده‌هایی که درباره نحوه استفاده از قدرت دیگران می‌دهد، گویاتر است.

لوران الکساندر: در کتاب، وسوسه سپردن قدرت به ماشین را تا انتهای منطقی آن دنبال می‌کنیم. اگر یک ماشین پرونده‌ها را بهتر از رئیس‌جمهور بشناسد و پیامدهای تصمیم‌های او را دقیق‌تر پیش‌بینی کند، ابتدا از رئیس‌جمهور خواسته می‌شود نظر ماشین را جویا شود. سپس اگر رئیس‌جمهور برخلاف توصیه آن عمل کند، مورد انتقاد قرار می‌گیرد. در نهایت، قدرت مخالفت و نه گفتن را از دست خواهد داد.

هوش مصنوعی می‌تواند پیامدهای تعطیلی یک بخش زایمان را از نظر آماری و کمی محاسبه کند. اما تعیین اینکه چه میزان خطر قابل قبول است، چه مقدار بودجه باید به این مسئله اختصاص یابد و کدام منطقه باید پیامدهای این تصمیم را تحمل کند، همچنان قضاوتی سیاسی است. باید کسی وجود داشته باشد که بتواند در برابر ساکنان آن منطقه بایستد و به آن‌ها بگوید: «من این تصمیم را گرفتم و دلیلش این است.»

این مصاحبه همچنین به زبان لهستانی در نشریه Wszystko co najważniejsze با عنوان «چه کسی اهداف رئیس‌جمهور مبتنی بر هوش مصنوعی را تعیین می‌کند؟» منتشر شده است.