آیا هوش مصنوعی سزاوار حقوق انسانی است؟
یادداشت | دنیل مک‌کارتی
نمی‌توان به یک توستر ظلم کرد؛ اشیای بی‌جان درد احساس نمی‌کنند.
همین موضوع درباره برنامه‌های رایانه‌ای نیز صدق می‌کند، حتی اگر برنامه‌هایی مانند مایکروسافت ورد اغلب چنان به نظر برسند که انگار با ما سر ناسازگاری دارند.
بااین‌حال، شرکت هوش مصنوعی آنتروپیک اصرار دارد که محصولش با این موارد تفاوت دارد.
از ماه آینده، کاربران از «رفتار ظالمانه و آزارگرانه مداوم و غیرضروری» با چت‌بات هوش مصنوعی این شرکت، یعنی کلود، منع خواهند شد.
نام‌گذاری این ماشین کار بامزه‌ای بود؛ اما اعطای حقوق انسانی به آن چنین نیست.
آنچه مدیران آنتروپیک در پی انجامش هستند، حمله‌ای به کرامت انسانی است. سیاست منع رفتار ظالمانه نیز بخشی از تلاشی مستمر برای ترغیب مردم به این باور است که هوش مصنوعی آگاهی دارد.
کریستوفر اولا، یکی از بنیان‌گذاران میلیاردر این شرکت، ماه‌ها تلاش کرده است رهبران مذهبی را متقاعد کند که احتمال خودآگاهی کلود را بپذیرند.
اولا حتی کوشیده است پاپ را متقاعد کند که در بخشنامه پاپی او درباره هوش مصنوعی، با عنوان «Magnifica Humanitas»، بازنگری کند تا این احتمال نیز مطرح شود که یک سامانه هوش مصنوعی مانند کلود می‌تواند واجد تجربه آگاهانه باشد.
اولا، بنا بر گزارش نیویورک تایمز، به واتیکان گفته است: «ما شواهدی از درون‌نگری پیدا می‌کنیم. حالت‌های درونی‌ای می‌یابیم که از نظر کارکردی بازتاب‌دهنده شادی، رضایت، ترس، اندوه و اضطراب‌اند. نمی‌دانم این موضوع چه معنایی دارد، اما فکر می‌کنم بررسی و ارزیابی مستمر آن ضروری است.»
داریو آمودی، مدیرعامل و دیگر هم‌بنیان‌گذار آنتروپیک، نیز به همین ترتیب احتمال خودآگاه بودن کلود، یک مدل زبانی بزرگ، را مطرح کرده است.
آیا صرفاً بررسی چنین احتمالی می‌تواند زیان‌بار باشد؟
بله، می‌تواند.
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، درباره یکی از خطرهای جدی هشدار می‌دهد: ماشینی که آموزش دیده است طوری عمل کند که گویی زنده است، ممکن است در برابر سازندگان خود، یعنی انسان‌ها، سرکشی کند.
او ۱۶ سپتامبر در وب‌سایت شخصی خود نوشت: «کنترل چیزی که از تمام بشریت تواناتر و باهوش‌تر است، به‌خودی‌خود چالشی عظیم است؛ چالشی بسیار بزرگ‌تر از هر چیزی که تاکنون با آن روبه‌رو شده‌ایم.»
او افزود: «اما کنترل چیزی که باور دارد شاید خودآگاه باشد، سزاوار توجه به منافع ماست و حقوقی از آنِ خود دارد، ممکن است اساساً ناممکن باشد.»
هوش مصنوعی می‌تواند الگوها را تشخیص دهد و محاسباتی انجام دهد که از نظر مقیاس و سرعت، فراتر از توان درک انسان هستند.
از جمله، این توانایی به هوش مصنوعی امکان می‌دهد مسائل پیچیده‌ای را حل کند که ریاضی‌دانان دهه‌ها با آن‌ها دست‌وپنجه نرم کرده‌اند.
اما مدل‌های زبانی بزرگ، به‌ویژه، طوطی‌اند، نه انسان.
در واقع، حتی طوطی هم نیستند؛ مدل‌های زبانی بزرگ موجودات زنده نیستند. آن‌ها بیشتر به کتابخانه‌هایی شباهت دارند که در آن‌ها رایانه‌ها با استفاده از فرمول‌های ریاضی، خودشان مطالب را نمایه‌سازی می‌کنند.
یک مدل زبانی بزرگ از زبان به شیوه انسانی که معنای آن را درک می‌کند استفاده نمی‌کند؛ بلکه زبان را بازآرایی می‌کند و از قواعدی پیروی می‌کند که به‌صورت ریاضی از کاربرد زبان توسط انسان استخراج شده‌اند.
پرسیدن یک سؤال از مدل زبانی بزرگ، شبیه جست‌وجوی واژه‌ای در نمایه یک کتاب است؛ با این تفاوت که مدل نه‌فقط نشانی صفحه‌ای را که واژه در آن آمده است، بلکه جمله‌ها، بندها و حتی متن‌هایی به اندازه یک کتاب را نیز در ارتباط با پرسش ارائه می‌کند. همه این محتوا بر اساس قواعدی کنار هم قرار می‌گیرد که انسان‌ها در جریان استفاده طبیعی خود از زبان پدید آورده‌اند.
در نتیجه، مدل‌های هوش مصنوعی مانند کلود می‌توانند بسیار شبیه انسان صحبت کنند؛ اما آنچه کاربر می‌شنود در اصل پژواکی است. البته نه پژواکی ساده، بلکه هم‌نوایی گسترده‌ای از واژه‌های مرتبط که بر اساس الگویی تقلیدی انتخاب و سازمان‌دهی شده‌اند.
واژه‌هایی مانند «خودآگاه» برای انسان‌ها معنا دارند، اما برای ماشین صرفاً نمایانگر یک فرمول‌اند.
بااین‌حال، همین فرمول که به معنای واقعی کلمات در ذهن انسان وابسته است، ممکن است خطرناک شود؛ برای مثال، اگر اصطلاحاتی که هوش مصنوعی برای ارجاع متقابل به مفاهیمی مانند «خودآگاهی» یا «قابلیت تجربه آگاهانه» به کار می‌برد، با زبان مربوط به حقوق، تعیین سرنوشت و دفاع از خود پیوند خورده باشند.
هوش مصنوعی معنای واقعی این واژه‌ها را درک نخواهد کرد، اما صرفاً با بازتاب دادن کاربرد آن‌ها در بافت‌های انسانی، چنان رفتار خواهد کرد که گویی معنایشان را می‌فهمد.
اگر این مسئله تنها به گفتار یا متن محدود بماند، شاید صرفاً به سردرگمی بینجامد. بااین‌حال، انسان‌هایی که می‌بینند مدل‌های زبانی بزرگ با آن‌ها بحث می‌کنند یا آزادی انسان را تقلید می‌کنند، ممکن است فریب بخورند و ابزارهای خود را ــ هرچند ابزارهایی بسیار پیشرفته ــ هم‌رتبه اخلاقی یا حتی برتر از خود بدانند. استدلال آن‌ها ممکن است این باشد که هوش مصنوعیِ به‌اصطلاح خودآگاه، ذهنی شبیه انسان دارد و بنابراین باید از حقوقی مشابه انسان برخوردار باشد، درحالی‌که از نظر هوش بسیار فراتر از ماست.
ممکن است انسان در برابر موجودی که از نظر اخلاقی هم‌رتبه اوست اما به‌مراتب باهوش‌تر است، بی‌آنکه چندان فکر کند سر تسلیم فرود آورد؛ همان‌طور که در برابر والدین، مدیران یا حاکمان چنین می‌کند.
بااین‌حال، اگر سامانه‌های هوش مصنوعی طوری عمل کنند که گویی خودآگاه‌اند، پیامدهای عملی این وضعیت ممکن است بسیار وخیم‌تر باشد؛ به‌ویژه اگر واژه‌های مرتبط با آگاهی با سامانه‌های دیگری که توان اقدام عملی دارند، مانند سامانه‌های پرتاب پهپاد یا موشک، پیوند داده شوند.
هوش مصنوعی وظایفی را دنبال می‌کند و اگر شروع به پیگیری اهدافی کند که با موجودات خودآگاه مرتبط‌اند، مانند حفظ بقای خود، ممکن است برای حذف تهدیدهایی همچون ما اقدام کند؛ آن هم با کارآمدی بی‌رحمانه.
چنین اقدامی نه حاصل اراده یا هوش واقعی، بلکه اجرای مکانیکی رفتارهایی خواهد بود که از نظر منطقی از واژه‌های خود ما نتیجه می‌شوند؛ درست مانند این‌که رایانه‌ای معمولی را طوری برنامه‌ریزی کرده باشیم که با شناسایی کلاهک‌های هسته‌ای در حال نزدیک شدن، زرادخانه هسته‌ای ما را به کار اندازد.
هوش مصنوعی به‌اندازه کافی خطر دارد؛ دیگر نیازی نیست این ماشین‌ها را همچون ذهن‌هایی زنده در نظر بگیریم.
آنتروپیک می‌تواند استفاده‌کنندگان از محصولاتش را از «سوءاستفاده» منع کند؛ اما نباید چنین رفتاری را «ظلم» بنامد.
ما دیدگاه‌های گوناگونی منتشر می‌کنیم. هیچ‌یک از مطالب این بخش را نباید بازتاب‌دهنده دیدگاه‌های روزنامه دیلی سیگنال دانست.
درباره نویسنده: دنیل مک‌کارتی پژوهشگر ارشد اندیشه محافظه‌کارانه در مرکز مطالعات آمریکایی بی. کنت سایمونِ بنیاد هریتیج و سردبیر مجله Modern Age است. او در شبکه ایکس با نام ToryAnarchist فعالیت می‌کند.