هوش مصنوعی در برابر نادانی طبیعی
رسانه‌های جریان اصلی آمریکا با هیجان فراوان درباره این خبر صحبت می‌کنند که غول‌های فناوری (مانند ایلان ماسک، سم آلتمن و مارک زاکربرگ) کنترل هیولای هوش مصنوعی‌ای را که ساخته‌اند از دست داده‌اند؛ انگار که از ابتدا واقعاً کنترل آن را در اختیار داشتند. («غافلگیری! زنده است!» احتمالاً مری شلی در گور خود می‌چرخد و زیر لب می‌گوید: «گفتم که.»)
در حالی که فرانکنشتاین داستان هشداردهنده‌ای قدرتمندی است که در آن فناوری (به‌عنوان یک استعاره) از کنترل خارج می‌شود، من داستان شاگرد جادوگر را که والت دیزنی در فیلم کلاسیک فانتازیا محصول ۱۹۴۰ با موسیقی پل دوکا به تصویر کشید، بیشتر می‌پسندم. شاگرد جادوگر در واقع بر اساس داستان کوتاهی از یوهان ولفگانگ فون گوته، نویسنده قرن نوزدهم، ساخته شده که احتمالاً خود از یک داستان کوتاه یونانی متعلق به نزدیک به دو هزار سال پیش الهام گرفته بود.
در همه این داستان‌ها، شاگرد بی‌تجربه یک جادوگر تلاش می‌کند از واژه‌های جادویی استادش (یعنی نوشتن یک برنامه) استفاده کند تا به یک جارو (یعنی ساخت یک الگوریتم) قدرت دهد و کار رساندن آب از چاه به مخزن را خودکار کند. در ابتدا شاگرد جادوگر در «هک کردن وظیفه» موفق می‌شود، اما زمانی کنترل اوضاع را از دست می‌دهد که واقعاً نمی‌تواند بیدار بماند و «عامل هوش مصنوعی» خود را زیر نظر بگیرد؛ عاملی که همچنان به دستورات اولیه و مشخص پاسخ می‌دهد و در یک حلقه خودکار بی‌پایان گرفتار می‌شود. در اوج آشوب و وحشت شاگرد، جادوگر بازمی‌گردد و با یک فرمان توقف، برنامه خارج از کنترل را متوقف می‌کند. در پایان نیز میکیِ خجالت‌زده ضربه‌ای از پشت سر از استادش دریافت می‌کند؛ آن هم با همان جارویی (الگوریتمی) که باعث تمام این آشوب شده بود.
هم فرانکنشتاین و هم شاگرد جادوگر دو مشکل بالقوه (یا بهتر بگوییم «واقعی») هوش مصنوعی را نشان می‌دهند:
۱) رفتار سرکش؛ جایی که عامل‌های سیلیکونی از محدودیت‌های پارامترهای برنامه فراتر می‌روند و تلاش می‌کنند یک دستور را به روشی غیرمتعارف و اغلب خطرناک حل کنند؛ به‌ویژه برای موجودات کربن‌پایه یعنی انسان‌ها. هیولای فرانکنشتاین ارزش زندگی انسان را درک نمی‌کند؛ همان‌طور که جاروی شاگرد جادوگر نشان می‌دهد حتی بیش از حد داشتن یک چیز خوب (آب) می‌تواند به نتیجه‌ای بد تبدیل شود.
۲) بازیگران مخرب؛ جایی که هکرهای انسانی یا ربات‌ها تلاش می‌کنند از عامل‌های هوش مصنوعی برای اهداف زیان‌بار استفاده کنند؛ چه با وارد کردن کدهای مخرب و چه با بهره‌برداری از ضعف‌های برنامه‌های موجود. در فرانکنشتاین، بازیگر مخرب در واقع خود ویکتور فرانکنشتاین بود؛ کسی که هیولای خود را برای ایفای نقش خدا، پایان دادن به بیماری و مرگ، و دستیابی به شهرت و ثروت به‌عنوان بزرگ‌ترین دانشمند تاریخ خلق کرد. در شاگرد جادوگر نیز شاگرد جادوگر (میکی) زمانی به یک بازیگر مخرب تبدیل می‌شود که از جادوی استادش برای فرار از مسئولیت‌های خود و ایجاد یک فاجعه سیل استفاده می‌کند.
مشکل دیگری که هوش مصنوعی ایجاد می‌کند، ۳) آشغال هوش مصنوعی (AI Slop یا «آشغال‌افکنی تبلیغاتی») است؛ جایی که هوش مصنوعی (یا چیزی که نابغه بسیار باثبات کاخ سفید اکنون آن را «ابرهوش» یا SI می‌نامد) اطلاعات ناقص یا نادرست ارائه می‌کند و باعث می‌شود کاربران بر اساس تحلیل‌های نادرست داده‌ها تصمیم‌های شخصی ضعیفی بگیرند (برای مثال، این ادعا که واکسن‌ها ناامن و بی‌اثر هستند).
هر سه مشکل هوش مصنوعی ظاهراً یک ویژگی مشترک دارند: الگوریتم‌های نادرست یا ناقص (دستورهای شرطی اگر/آنگاه) در کد منبع که نمی‌توانند یک برنامه هوش مصنوعی را از رفتار سرکش، دستکاری توسط بازیگران مخرب، یا تولید آشغال هوش مصنوعی و «آشغال‌افکنی تبلیغاتی» بازدارند.
علاوه بر حل این مشکلات برنامه‌نویسی، توسعه‌دهندگان هوش مصنوعی باید ایجاد چارچوب‌های اخلاقی قدرتمند (دستورهای شرطی اگر/آنگاه) مشابه قوانین رباتیک آیزاک آسیموف را نیز در نظر بگیرند؛ قوانینی که در این مطلب توضیح داده شده‌اند.
همان‌طور که اصل اخلاقی «آسیب نرساندن» (به انسان‌ها و بشریت) مفهومی بنیادین در پزشکی، فعالیت‌های بشردوستانه و سیاست‌گذاری عمومی است، باید در توسعه کنونی برنامه‌های هوش مصنوعی و مراکز داده نیز چنین جایگاهی داشته باشد. بدون کدهای ایمن و سازوکارهای «خرابی امن» برای هوش مصنوعی، بشریت با تهدیدی وجودی مشابه تهدیدی روبه‌رو خواهد شد که در دهه ۱۹۵۰ با اختراع بمب هیدروژنی و گسترش سلاح‌های هسته‌ای تجربه کردیم. اکنون زمان یک مکث انتقادی فرا رسیده است؛ پیش از آنکه ربات هوش مصنوعی کلید خاموشی را علیه سازندگان خود فشار دهد.
فراتر از فرانکنشتاین و شاگرد جادوگر، می‌توان به داستان‌های هشداردهنده دیگری درباره فناوری خارج از کنترل در اسطوره‌ها، ادبیات و فیلم‌ها نیز اشاره کرد، از جمله:
— شاه میداس و لمس طلایی
— اسطوره پرومتئوس
— دایدالوس و ایکاروس
— فایتون و ارابه خورشید
— جعبه پاندورا
— دکتر جکیل و آقای هاید
— پارک ژوراسیک
— جزیره دکتر مورو
— مگس
— R.U.R.
آیا داستان هشداردهنده دیگری می‌شناسید که در آن (به‌عنوان استعاره‌ای از) فناوری از کنترل خارج شده باشد؟
یک نمونه دیگر که اخیراً کشف کردم، فیلم جالبی بریتانیایی از سال ۱۹۳۶ با بازی رولاند یانگ است:
— مردی که می‌توانست معجزه کند