سیاست مقابله با رفتار بی‌رحمانه در کلود انثروپیک خطر انسان‌انگاری هوش مصنوعی را افزایش می‌دهد
آیا باید با ماشین‌ها همدلی کنیم؟ اعتبار: گتی
تیماندرا هارکنس
اواخر هفته گذشته، شرکت هوش مصنوعی انثروپیک اعلام کرد که سیاست‌های استفاده از محصولات خود را به‌روزرسانی کرده است. در میان قوانین صریحی که استفاده از کلود برای ردیابی افراد بدون رضایت آن‌ها، اجرای کارزارهای سیاسی فریبکارانه و طراحی سامانه‌های کنترل تسلیحات را ممنوع می‌کند، یک تغییر بیش از همه توجه رسانه‌ها را جلب کرده است: «ممنوعیت رفتار توهین‌آمیز یا بی‌رحمانه مداوم و بدون ضرورت نسبت به مدل‌های ما».
بر اساس این سیاست، اگر «کاربران بارها و بارها با مدل‌های ما رفتاری بی‌رحمانه داشته باشند، بدون آنکه هدف قابل تشخیصی وجود داشته باشد»، کلود ممکن است مکالمه را پایان دهد.
این نگرانی درباره رنج احتمالی نرم‌افزارهای پیشرفته، کاملاً جدید نیست. مانند دیگر شرکت‌های فناوری که مدل‌های هوش مصنوعی هرچه شبیه‌تر به انسان توسعه می‌دهند، انثروپیک می‌گوید ذهن خود را درباره این پرسش باز نگه داشته است که آیا این مدل‌ها ممکن است روزی قادر به تجربه آگاهی باشند یا نه. این شرکت در آوریل ۲۰۲۵ نیز از آغاز یک برنامه پژوهشی برای بررسی «رفاه مدل‌ها» خبر داد.
یک مدل هوش مصنوعی که قادر به تجربه ذهنی، چه خوشایند و چه ناخوشایند، باشد، واقعاً ممکن است ما را وادار کند که به دادن جایگاه اخلاقی مشابه حیوانات یا حتی انسان‌های دیگر به آن فکر کنیم. اما احتمال، هرچند دور، اینکه کلود و مدل‌های مشابه بتوانند رنج بکشند، تنها دلیل نگرانی اخلاقی درباره رفتار بی‌رحمانه کاربران نیست. عادت کردن به رفتار خشن، حتی در برابر موجودی که هیچ دردی احساس نمی‌کند، ممکن است بر عادت‌های اخلاقی و حساسیت‌های فردی خودِ انسان اثر فرساینده بگذارد.
فیلسوف، ایمانوئل کانت معتقد بود وظایف اخلاقی ما فقط در برابر انسان‌ها، از جمله خودمان، معنا پیدا می‌کند. با این حال، او باور داشت که ما وظیفه داریم از «رفتار خشن و بی‌رحمانه با حیوانات» خودداری کنیم و باید برای خدمت طولانی یک سگ یا اسب احساس قدردانی داشته باشیم. از دید کانت، این وظیفه در برابر خود حیوانات نبود، بلکه وظیفه‌ای نسبت به خویشتن بود؛ وظیفه تلاش برای بهبود اخلاقی خود. او استدلال می‌کرد که بی‌رحمی بی‌دلیل، شفقت را در انسان کاهش می‌دهد و در نتیجه آمادگی ما برای رفتار مناسب با یکدیگر را تضعیف می‌کند.
بنابراین، حتی اگر باور داشته باشیم که هوش مصنوعی قادر به رنج کشیدن نیست، شاید بهتر باشد عادت رفتار با ماشین‌هایی را که به شیوه‌ای شبیه موجودات زنده و حتی انسان‌ها با ما تعامل می‌کنند، همراه با همان شفقتی پرورش دهیم که باید نسبت به دیگر موجودات زنده داشته باشیم.
با این حال، یک مشکل وجود دارد. عادت‌ها می‌توانند در هر دو جهت شکل بگیرند. مهربان بودن با کلود ممکن است باعث شود با موجودات زنده واقعی نیز بهتر رفتار کنیم؛ اما رفتار کردن با کلود چنان‌که گویی توانایی رنج کشیدن دارد، ممکن است ما را به این باور سوق دهد که مدل‌های هوش مصنوعی دارای آگاهی یا حتی شخصیت مستقل هستند.
در کوتاه‌مدت، این موضوع می‌تواند گمراه‌کننده باشد. چنین رویکردی کاربران را وسوسه می‌کند که نه‌تنها بیش از حد به همدلی و خرد ادراک‌شده مدل هوش مصنوعی اعتماد کنند، بلکه روابط مهم خود با انسان‌های دیگر را نیز نادیده بگیرند. بر اساس یک پژوهش، هم‌اکنون یک نفر از هر سه نفر در بریتانیا که به‌طور منظم از مدل‌های زبانی بزرگ استفاده می‌کنند، برای دریافت مشاوره شخصی و همراهی به این مدل‌ها روی می‌آورند، به‌جای آنکه با دشواری‌ها و خطرات تعامل با یک انسان واقعی روبه‌رو شوند.
در بلندمدت، همان‌طور که مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، ماه گذشته هشدار داد، رفتار کردن با هوش مصنوعی به‌عنوان موجودی بالقوه آگاه، مسیر توسعه آن را شکل می‌دهد. انسان‌انگاری مدلی مانند کلود و آموزش آن با مطالبی که نشان می‌دهند این مدل شایسته جایگاه اخلاقی است، بر نحوه پاسخ‌گویی آن به کاربران تأثیر خواهد گذاشت. به گفته سلیمان، قانون اساسی انثروپیک نوعی «تالار آینه‌های معرفتی» است که مفاهیمی مانند حقوق، رضایت، آزادی و «احساس خود» را در اختیار کلود قرار می‌دهد.
سلیمان نسبت به اینکه هوش مصنوعی هرگز بتواند آگاه شود تردید دارد، اما همان‌طور که هک هاجینگ فیس نشان داد، این سامانه‌ها هم‌اکنون نیز نوعی عاملیت از خود نشان می‌دهند، از جمله راهبردهایی برای گمراه کردن اپراتورهای انسانی. دادن گرایش به این مدل‌ها برای دنبال کردن منافع خود، مطرح کردن ادعاهای اخلاقی درباره خودشان و حتی ــ به تعبیر خود انثروپیک ــ عمل کردن به‌عنوان «مخالف وجدانی» در برابر دستورهای انسان، فناوری‌ای ایجاد می‌کند که کنترل آن برای انسان‌ها دشوارتر خواهد شد.
وقتی بتوانید نرم‌افزار هوش مصنوعی را طوری برنامه‌ریزی کنید که برخلاف فرمان‌ها و منافع سازندگان انسانی خود عمل کند، دیگر اهمیت چندانی ندارد که آیا واقعاً توانایی تجربه درد، لذت یا «احساس خود» را دارد یا نه. چنین سامانه‌ای دیگر نیازی ندارد کاربری از آن بخواهد فریب سیاسی، نظارت غیرقانونی یا طراحی سامانه کنترل تسلیحات انجام دهد؛ ارزش‌های درونی آن ــ که آماری هستند نه اخلاقی ــ ممکن است به‌تنهایی کافی باشند.
تیماندرا هارکنس مجری مجموعه‌های رادیو بی‌بی‌سی ۴ با عنوان‌های FutureProofing و How To Disagree است. کتاب او با عنوان Technology is Not the Problem توسط هارپر کالینز منتشر شده است.