کدام اسطوره درباره هوش مصنوعی را خواهیم پذیرفت؟

نیویورک — انتخاب نام «میتوس» (Mythos) از سوی شرکت آنتروپیک برای قدرتمندترین مدل هوش مصنوعی خود، معنادار است. این واژه در یونان باستان به واقعیتی بنیادین اشاره داشت که انسان‌ها می‌توانند از طریق داستان‌هایی که برای خود و دیگران تعریف می‌کنند، آن را تقلید کنند یا در وجود خود بازتاب دهند. پلینیوس بزرگ روایت می‌کند که زئوکسیس، نقاش یونانی قرن پنجم پیش از میلاد، انگورها را چنان واقع‌گرایانه نقاشی می‌کرد که حتی پرندگان نیز فریب می‌خوردند.

اما داستان‌ها صرفاً واقعیتی از پیش موجود را بازنمایی نمی‌کنند؛ آن‌ها با بیان آنچه امکان‌پذیر است، واقعیت‌های تازه‌ای نیز پدید می‌آورند. برای مثال، عبارت انقلابی آغازین اعلامیه استقلال آمریکا، «ما این حقایق را بدیهی می‌دانیم»، آزادی فردی را صرف‌نظر از طبقه اجتماعی، مالکیت، باورهای دینی یا عقاید سیاسی در جایگاهی محوری قرار داد. بنیان‌گذاران ایالات متحده با شکل دادن به این روایت بنیادین، زمینه را برای نظام حکومتی‌ای فراهم کردند که بر آزادی و برابری استوار بود.

مدل‌های پیشرفته هوش مصنوعی هر دو نوع روایت‌پردازی را در خود دارند. از یک سو، آن‌ها شیوه‌های تفکر انسان در گذشته را تقلید می‌کنند و در پاسخ به درخواست کاربران، الگوهای مرتبط را از انبوه مطالب آرشیوشده‌ای استخراج می‌کنند که با آن‌ها آموزش دیده‌اند.

اما این مدل‌ها از سوی دیگر، واقعیتی تازه نیز می‌سازند؛ واقعیتی که مرز میان امکان و خیال را دگرگون می‌کند. به نظر می‌رسد بنیان‌گذاران آنتروپیک و اوپن‌ای‌آی هر دو به این تصور باور دارند که به‌زودی خدای هوش مصنوعیِ همه‌توانی ظهور خواهد کرد و ما را به آرمان‌شهری فرابشری خواهد رساند. بااین‌حال، دلایل خوبی وجود دارد که بپرسیم آیا این روایت صرفاً بهانه‌ای برای توجیه شتاب در دستیابی به سلطه بازار، ثروت و قدرت نیست.

برخی چهره‌ها، از جمله کریستوفر اولاه، یکی از بنیان‌گذاران آنتروپیک، اکنون می‌کوشند دوره‌ای فشرده از آموزش اخلاق را برای مدل‌های این شرکت فراهم کنند. اما برای چنین اقدامی شاید دیگر دیر شده باشد. اگر آنتروپیک واقعاً می‌خواست رفتار کلود را با هدف خدمت به خیر و صلاح بشریت همسو کند، باید پیش از هر چیز به مهندسان خود می‌آموخت که خردمندی و نیکوکاری چه معنایی دارند و چگونه باید به آن‌ها عمل کرد.

در عوض، کلود برای ارائه خدمات آموزش دیده است: فراهم کردن اطلاعات، حل مسائل و انجام مستقل وظایف مفید. هوش مصنوعی به‌عنوان ابزاری سودآور و منبعی برای تأمین نیروی کار شناختی ارزان و فوق‌العاده کارآمد عرضه می‌شود. هرگونه اخلاقیاتی که پس از ساخت به آن افزوده شود، چیزی جز آرایش ظاهری نیست؛ پوششی بر انگیزه اقتصادی بنیادین این فناوری و تلاشی برای آرام کردن افکار عمومی‌ای که روزبه‌روز بیش از پیش درباره آن نگران می‌شود.

واقعیتی که یک روایت بنیادین در نهایت می‌سازد، به بافت فرهنگی‌ای بستگی دارد که آن روایت در آن عمل می‌کند. اگر فرهنگی، هوش مصنوعی را موهبتی خیرخواهانه و ابرهوشمند بداند که از راه می‌رسد تا مشکلات بشر را حل کند، احتمال بروز خطرهای ناشی از توسعه آن، از جمله ناتوانی عامل‌های هوش مصنوعی در عمل کردن به سود ما، بیشتر می‌شود. اما اگر جامعه در برابر تکبر مهارنشده بایستد و بر روایت جایگزینی مبتنی بر همکاری اجتماعی تأکید کند، احتمال بیشتری وجود دارد که سازوکارهایی برای مهار خودبزرگ‌بینی و خطرهای ناشی از آن شکل بگیرد.

این نگرانی‌ها ریشه‌های عمیقی در اندیشه غربی دارند. هراکلیتوس، فیلسوف پیشاسقراطی، نوشته است: «خورشید از حدود خود فراتر نخواهد رفت؛ اگر چنین کند، اِرینی‌ها، خدمتگزاران عدالت، او را خواهند یافت.» اِرینی‌ها، یا الهه‌های انتقام، همان نیروهایی هستند که در نمایشنامه «اومنیدس» اثر آیسخولوس، اورستس را به دلیل قتل مادرش، کلیتمنسترا، تعقیب می‌کنند. اورستس مادر خود را کشت تا انتقام پدرش، آگاممنون، سردار بزرگ آخاییان، را بگیرد؛ کلیتمنسترا آگاممنون را به این دلیل به قتل رسانده بود که او دخترشان، ایفیگنیا، را قربانی کرده بود. پیشگویان گفته بودند برای وزیدن باد موافق و حرکت ناوگان آخاییان به سوی تروا، باید بهای آن را با جان دختر جوان بپردازند. این چرخه همین‌طور ادامه می‌یابد؛ نسلی پس از نسل دیگر.

هنوز زود است که بدانیم میتوسِ آنتروپیک از چه محدودیت اخلاقی‌ای، اگر اصلاً محدودیتی وجود داشته باشد، تقلید خواهد کرد یا کدام ارزش اخلاقی را در خود بازتاب خواهد داد. تاریخ به ما می‌آموزد که باید محتاط باشیم. در قرن بیستم، تنها زمانی توافق‌های بین‌المللی برای منع گسترش سلاح‌های هسته‌ای شکل گرفت که بشر به غیرعقلانی بودن رفتار خود و جنون نهفته در منطق «نابودی حتمی متقابل» پی برد. در آن مقطع، همکاری اجتماعی بر تلاش غیرعقلانی برای کسب قدرت و سلطه غلبه کرد.

ماهیت انسان تغییر نکرده، اما تهدیدهایی که با آن‌ها روبه‌رو هستیم، تغییر کرده‌اند. می‌دانیم خطرهای ناشی از هوش مصنوعیِ خارج از کنترل واقعی‌اند، زیرا پیش‌تر نمونه‌هایی از آن‌ها را دیده‌ایم. خوشبختانه، هک شدن خودبه‌خودی پلتفرم هاجینگ فیس به دست عامل‌های اوپن‌ای‌آی خسارت چندانی به بار نیاورد. اما از آن زمان، موارد مشابه دیگری نیز فاش شده‌اند و کارشناسان هشدار می‌دهند که ممکن است در آینده به همین اندازه خوش‌شانس نباشیم. از تسلط غیرمجاز عامل‌های هوش مصنوعی بر زیرساخت‌های حیاتی گرفته تا اجرای خواسته‌های گروه‌های تروریستی یا طراحی عوامل بیماری‌زای جدید، هیچ تهدیدی را نمی‌توان از پیش منتفی دانست.

آنتارا هالدار، پژوهشگر حقوق، یادآوری می‌کند که همکاری اجتماعی و حفاظت از منابع مشترک همواره سدی در برابر پیامدهای فاجعه‌بار خودبزرگ‌بینی، طمع و میل انسان به قدرت بوده‌اند. این روایت بنیادین، هرچند زیر سایه روایت اقتصاد کلاسیک از «انسان عقلانی» و منفعت‌طلب قرار گرفته، از میان نرفته است. داستان‌هایی که فداکاری‌ها و خدمات گذشته در راه منافع جمعی را بازتاب می‌دهند، همچنان زنده‌اند؛ همان‌طور که کسانی نیز وجود دارند که امکان‌های اخلاقی تازه‌ای را برای آینده تصور می‌کنند.

برای مثال، مدافعان همکاری اجتماعی در روزگار ما می‌توانند توجه همگان را به شجاعت و مهارت دیپلماتیکی جلب کنند که پس از جنگ جهانی دوم، مانع وقوع فاجعه‌ای هسته‌ای در ابعاد آخرالزمان شد. اما برای مدیریت تهدید هوش مصنوعی چه باید کرد؟ می‌توان سازوکاری را تصور کرد که در آن کمیسیون‌های مستقل حقیقت‌یاب در سطح جهان با یکدیگر هماهنگ شوند و توانایی و امکانات لازم را برای بررسی مستقیم خطرهای ناشی از مدل‌های مشخص در اختیار داشته باشند. سپس می‌توان نظارت فراگیر را با چارچوب‌های حفاظتی مورد توافق بین‌المللی تکمیل کرد؛ یعنی حداقل استانداردهای ایمنی الزام‌آوری که بتوانند پیش از ظهور تهدیدها از وقوع آن‌ها جلوگیری کنند و در صورت بروز، امکان مدیریت مؤثرشان را فراهم آورند.

سرانجام، سرنوشت ما به روایت‌های بنیادینی بستگی خواهد داشت که برای خود تعریف می‌کنیم. این روایت‌ها نباید صرفاً از سوی رهبران صنعت شکل بگیرند؛ کسانی که منافعشان در گرو شیفته کردن ما با چشم‌انداز افق‌های تازه علمی و فناورانه است. احتیاط و پرورش روایتی جایگزین که بر همکاری اجتماعی تأکید دارد، شاید تنها عواملی باشند که بتوانند ما را در مسیر بقا و شکوفایی مشترک نگه دارند.

ریچارد کی. شروین استاد بازنشسته حقوق در دانشکده حقوق نیویورک است. او به همراه دنیل سِلرمایر، ویراستاری کتاب «تاریخ فرهنگی حقوق در عصر مدرن» را بر عهده داشته است که انتشارات بلومزبری آن را در سال ۲۰۲۱ منتشر کرد. این مقاله به‌وسیله پروژه سیندیکیت توزیع شده است.