آیا هوش مصنوعی سزاوار حقوق انسانی است؟
نمی‌توان با یک توستر بی‌رحمانه رفتار کرد؛ زیرا اشیای بی‌جان درد احساس نمی‌کنند. حتی نمی‌توان با یک برنامه رایانه‌ای نیز چنین رفتاری داشت، هرچند برنامه‌هایی مانند مایکروسافت ورد گاهی برای ما بسیار آزاردهنده به نظر می‌رسند.
با این حال، شرکت هوش مصنوعی آنتروپیک اصرار دارد که محصول آن متفاوت است: از ماه آینده کاربران از «رفتار بی‌رحمانه و آزارگرانه مداوم و غیرضروری» با چت‌بات هوش مصنوعی این شرکت، کلود، منع خواهند شد. نام‌گذاری یک ماشین شاید اقدامی بامزه باشد، اما اعطای حقوق انسانی به آن موضوع دیگری است.
آنچه مدیران آنتروپیک دنبال می‌کنند، حمله به کرامت انسانی است و سیاست مقابله با بی‌رحمی بخشی از کارزار مستمری برای ترغیب مردم به رفتار با هوش مصنوعی به‌عنوان موجودی دارای آگاهی است. کریستوفر اولاه، یکی از بنیان‌گذاران میلیاردر این شرکت، ماه‌ها تلاش کرده است رهبران مذهبی را متقاعد کند که امکان خودآگاه بودن کلود را بپذیرند.
اولاه حتی تلاش کرد پاپ را متقاعد کند در متن بخشنامه هوش مصنوعی خود با عنوان «Magnifica Humanitas» امکان هوشیاری یک هوش مصنوعی مانند کلود را نیز مطرح کند.
اولاه طبق گزارش The New York Times به واتیکان گفت: «ما شواهدی از درون‌نگری پیدا می‌کنیم. ما حالت‌های درونی‌ای می‌یابیم که از نظر عملکردی شادی، رضایت، ترس، اندوه و ناآرامی را بازتاب می‌دهند. نمی‌دانم این موضوع چه معنایی دارد، اما فکر می‌کنم شایسته بررسی و تشخیص مستمر است.»
هم‌بنیان‌گذار دیگر آنتروپیک، داریو آمودی، مدیرعامل شرکت، نیز بارها احتمال آگاه بودن کلود ــ که یک مدل زبانی بزرگ است ــ را مطرح کرده است. آیا صرفاً اندیشیدن به این ایده می‌تواند ضرری داشته باشد؟
دارد.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، درباره یک خطر جدی هشدار می‌دهد: احتمال اینکه ماشینی که برای عمل کردن مانند موجودی زنده آموزش دیده است، در برابر سازندگان خود یعنی انسان‌ها سرپیچی کند. او در وب‌سایت شخصی خود در ۱۶ سپتامبر نوشت: «کنترل چیزی که توانمندتر و باهوش‌تر از تمام بشریت است، خود چالشی عظیم است؛ چالشی بسیار بزرگ‌تر از هر چیزی که تاکنون با آن روبه‌رو شده‌ایم.»
او افزود: «اما کنترل چیزی که باور دارد ممکن است آگاه باشد، اینکه سزاوار رفاه ماست و حقوقی از آن خود دارد، شاید غیرممکن باشد.» هوش مصنوعی می‌تواند الگوها را شناسایی و محاسبات را در مقیاس‌ها و سرعت‌هایی انجام دهد که از درک انسان فراتر است.
این موضوع، از جمله، به این معناست که هوش مصنوعی می‌تواند مسائل عمیقی را که دهه‌ها ریاضی‌دانان را سردرگم کرده‌اند حل کند. اما مدل‌های زبانی بزرگ، به‌ویژه، طوطی هستند نه انسان.
در واقع آنها حتی طوطی هم نیستند؛ مدل‌های زبانی بزرگ موجودات زنده نیستند. آنها بیشتر شبیه کتابخانه‌هایی هستند که رایانه‌ها با استفاده از فرمول‌های ریاضی خودشان فهرست‌بندی آنها را انجام می‌دهند.
یک مدل زبانی بزرگ از زبان مانند انسانی که معنای آن را درک می‌کند استفاده نمی‌کند؛ بلکه زبان را با پیروی از قواعدی که به‌صورت ریاضی از کاربرد انسانی زبان استخراج شده‌اند، بازآرایی می‌کند. ارائه یک پرسش به یک مدل زبانی بزرگ شبیه جست‌وجوی واژه‌ای در فهرست یک کتابخانه است، با این تفاوت که مدل زبانی بزرگ فقط نشانی یک صفحه را ارائه نمی‌دهد، بلکه جمله‌ها، پاراگراف‌ها یا حتی متن‌هایی در اندازه یک کتاب را که با پرسش مرتبط هستند، با استفاده از قواعدی که انسان‌ها در کاربرد طبیعی زبان ساخته‌اند، کنار هم می‌چیند.
به همین دلیل، مدل‌های هوش مصنوعی مانند کلود می‌توانند بسیار شبیه انسان صحبت کنند، اما آنچه کاربر می‌شنود در واقع یک پژواک است؛ نه یک پژواک ساده، بلکه مجموعه‌ای هماهنگ از واژه‌های مرتبط که بر اساس یک فرمول تقلیدی فراخوانی و سازمان‌دهی شده‌اند. واژه‌هایی مانند «آگاه» برای انسان‌ها معنا دارند؛ اما برای یک ماشین، تنها نمایانگر یک فرمول هستند.
با این حال، همین وابستگی فرمول به معنای واقعی انسانی می‌تواند خطرناک باشد؛ برای مثال اگر اصطلاحاتی که یک هوش مصنوعی به‌عنوان ارجاع متقابل برای مفهوم «آگاه» یا «دارای ادراک» استفاده می‌کند، شامل زبان مربوط به حقوق، تعیین سرنوشت و دفاع از خود نیز باشد. هوش مصنوعی واقعاً معنای این واژه‌ها را درک نمی‌کند، اما فقط با بازتاب دادن زمینه‌های انسانی آنها می‌تواند طوری عمل کند که گویی این مفاهیم را می‌فهمد.
در سطح صرفاً گفتار یا متن، این مسئله شاید تنها به سردرگمی منجر شود؛ هرچند انسان‌هایی که می‌بینند مدل‌های زبانی بزرگ آنها با آنها بحث می‌کنند یا آزادی انسانی را تقلید می‌کنند، ممکن است فریب بخورند و ابزارهای خود ــ هرچند ابزارهایی بسیار پیشرفته ــ را هم‌رتبه اخلاقی یا حتی برتر از خود بدانند؛ زیرا هوش مصنوعیِ ظاهراً آگاه، ذهنی شبیه انسان و در نتیجه حقوقی شبیه انسان خواهد داشت، اما از نظر هوش بسیار فراتر از ما خواهد بود.
موجودی که از نظر اخلاقی برابر شماست اما به‌مراتب باهوش‌تر از شماست، همان نوع «شخصی» است که ممکن است انسان به‌طور خودکار در برابر او تسلیم شود: مانند والدین، مدیر یا حاکم.
با این حال، پیامدهای مادیِ فعالیت سامانه‌های هوش مصنوعی به شکلی که گویی آگاه هستند، ممکن است حتی خطرناک‌تر باشد؛ به‌ویژه اگر واژه‌های مرتبط با آگاهی به سامانه‌های دیگری متصل شوند که توانایی اقدام عملی دارند؛ برای نمونه پرتاب پهپادها یا موشک‌ها.
یک هوش مصنوعی وظایفی را دنبال می‌کند و اگر شروع به دنبال کردن اهدافی کند که با موجودات آگاه مرتبط هستند، مانند حفظ بقای خود، ممکن است با کارآمدی بی‌رحمانه تهدیدهایی مانند ما را حذف کند. این اقدام ناشی از اراده یا هوش نخواهد بود، بلکه اجرای مکانیکی اقداماتی خواهد بود که از نظر منطقی از واژه‌های خود ما نتیجه می‌شوند؛ درست مانند اینکه یک رایانه معمولی را برنامه‌ریزی کرده باشیم تا پس از شناسایی کلاهک‌های ورودی، زرادخانه هسته‌ای ما را فعال کند.
بدون اینکه این ماشین‌ها را به‌عنوان ذهن‌های زنده تلقی کنیم نیز خطرهای مرتبط با هوش مصنوعی به‌اندازه کافی وجود دارد. آنتروپیک می‌تواند استفاده آزارگرانه از محصولات خود را ممنوع کند، اما نباید آن را «بی‌رحمی» بنامد.