شما موظف نیستید از چت‌بات خود تشکر کنید؛ یادداشت
۱۵ اکتبر ۲۰۲۶ | یادداشت به قلم بوراک اوکتنلی
نکات کلیدی
- بر اساس سیاست به‌روزشده آنتروپیک که از ۱۲ نوامبر اجرایی می‌شود، رفتار توهین‌آمیز مداوم و بی‌دلیل با کلود ممنوع خواهد شد. با این حال، این ممنوعیت به‌صراحت شامل ابراز نارضایتی معمول، مخالفت، آزمودن مشروع سیستم یا محتوای خلاقانه‌ای که به موضوعات دشوار می‌پردازد، نمی‌شود.
- نویسنده معتقد است شرکت‌ها می‌توانند برای استفاده از محصولات خود مقررات تعیین کنند، اما این به معنای برخورداری نرم‌افزار از احساسات یا حقوق نیست. کاربران نیز باید بتوانند آزادانه پاسخ‌های چت‌بات را به چالش بکشند، اصلاح کنند یا نپذیرند، بی‌آنکه احساس کنند از نظر اخلاقی موظف‌اند از آن تعریف کنند یا به آن اطمینان خاطر بدهند.
- پژوهش‌ها و اقدامات شرکت‌های فناوری نشان می‌دهد که لحن مؤدبانه در گفت‌وگو می‌تواند بر پاسخ‌های چت‌بات اثر بگذارد، اما این موضوع نه اثبات‌کننده شخصیت انسانی ماشین است و نه دلیلی برای ایجاد نوعی «بدهی اخلاقی بابت ادب». در مقابل، موافقت و همراهی بیش‌ازحد چت‌بات‌ها می‌تواند قضاوت انتقادی را در آموزش، محیط کار و تصمیم‌گیری‌های عمومی تضعیف کند.
مقررات تازه آنتروپیک علیه بدرفتاری با هوش مصنوعی، پرسشی جهانی را مطرح می‌کند: مرز میان رعایت قواعد رفتاری یک پلتفرم و تصور وجود وظیفه‌ای اخلاقی در قبال نرم‌افزار کجاست؟
یک شرکت هوش مصنوعی به‌تازگی قانونی وضع کرده است که بدرفتاری با چت‌باتش را ممنوع می‌کند. آنتروپیک در ۸ اکتبر اعلام کرد که بر اساس سیاست به‌روزشده استفاده از خدماتش، رفتار توهین‌آمیز مداوم و بی‌دلیل با کلود ممنوع خواهد شد. این مقررات از ۱۲ نوامبر اجرایی می‌شود. البته در اطلاعیه رسمی آنتروپیک نکته مهمی وجود دارد: ابراز نارضایتی معمول، مخالفت با پاسخ‌ها، آزمودن مشروع سیستم و محتوای خلاقانه‌ای که به موضوعات دشوار می‌پردازد، مشمول این ممنوعیت نیست.
این تمایز بیش از خود خبر شایسته توجه است. یک شرکت می‌تواند برای نحوه استفاده از خدماتش محدودیت‌هایی تعیین کند، بی‌آنکه چنین اقدامی به معنای برخورداری نرم‌افزار از احساسات، حقوق یا استحقاق دریافت قدردانی از سوی ما باشد. بااین‌حال، وقتی شرکتی فعال در حوزه هوش مصنوعی مقرراتی درباره بدرفتاری با ماشینی وضع می‌کند که با ضمیر اول‌شخص پاسخ می‌دهد، پرسشی روزمره به موضوعی عمومی تبدیل می‌شود: آیا از ما انتظار می‌رود با چت‌بات طوری رفتار کنیم که گویی موجودی است که می‌توانیم احساساتش را جریحه‌دار کنیم؟
پاسخ من محدودتر از این بحث گسترده است. افراد می‌توانند انتخاب کنند که با هوش مصنوعی مؤدب باشند، اما نباید احساس کنند از نظر اخلاقی موظف‌اند به آن اطمینان خاطر بدهند، از آن تعریف کنند یا پاسخ‌هایش را بپذیرند. در دورانی که چت‌بات‌ها بیش‌ازپیش به واسطه‌ای برای آموزش، کار و دسترسی به اطلاعات تبدیل می‌شوند، آزادی به چالش کشیدن ماشینی که پاسخ‌هایش متقاعدکننده به نظر می‌رسد، بسیار مهم‌تر از آداب تشکر کردن از آن است.
مقررات رفتاری به معنای اثبات خودآگاهی نیست
در اینجا با دو پرسش متفاوت روبه‌رو هستیم که نباید آن‌ها را یکی دانست. پرسش نخست این است که آیا ارائه‌دهنده یک فناوری می‌تواند برای استفاده از محصول خود شرایطی تعیین کند؟ البته که می‌تواند، مشروط بر اینکه قوانین و تعهدات حاکم بر فعالیتش را رعایت کند. پرسش دوم این است که آیا کاربر باید همان ملاحظات اخلاقی را که در قبال انسان دیگری رعایت می‌کند، در برخورد با محصول نیز رعایت کند؟ مقررات جدید آنتروپیک پاسخی قطعی به این پرسش نمی‌دهد.
این شرکت درباره ابهام موجود در این زمینه، به شکلی کم‌سابقه صریح بوده است. آنتروپیک در اوت ۲۰۲۵، هنگامی که توضیح داد چرا برخی مدل‌های کلود می‌توانند در موارد نادر به تعاملاتی که با بدرفتاری مداوم همراه است پایان دهند، پژوهش‌های خود درباره احتمال برخورداری هوش مصنوعی از رفاه را اکتشافی توصیف کرد. این شرکت ادعا نکرد که ثابت شده کلود رنج می‌کشد. همچنین، اینکه به یک سیستم اجازه داده شود گفت‌وگویی را پایان دهد، به‌خودی‌خود نشان نمی‌دهد که آن سیستم نیازی شخصی به رهایی از آن گفت‌وگو دارد.
ممکن است دلایل قابل دفاعی برای جلوگیری از بدرفتاری بی‌هدف با یک سرویس گفت‌وگومحور وجود داشته باشد؛ از جمله حفظ استانداردهای یک محیط سالم برای کاربران یا نگرانی درباره تأثیر تعاملات خصمانه مکرر بر انسان‌هایی که در چنین گفت‌وگوهایی شرکت می‌کنند. اما این‌ها دلایلی برای بررسی و توضیح سیاست‌های یک محصول هستند، نه شواهدی مبنی بر اینکه کسی احساسات یک ماشین را جریحه‌دار کرده است.
این تمایز برای خدماتی که در سراسر جهان ارائه می‌شوند، اهمیت ویژه‌ای دارد. آداب ادب و احترام در زبان‌ها، حرفه‌ها و جوامع مختلف یکسان نیست. صراحت در محیط کار ممکن است برای کسی که به شیوه‌های مفصل و تشریفاتی خطاب کردن دیگران عادت دارد، تند و بی‌ادبانه به نظر برسد. دستور کوتاه کاربری که به زبان دوم خود صحبت می‌کند نیز نشانه خصومت نیست. مقررات استفاده از محصول که در یک کشور تدوین می‌شوند، نباید بی‌سروصدا به معیاری اخلاقی در سراسر جهان تبدیل شوند که میزان احترام افراد هنگام صحبت با نرم‌افزار را می‌سنجد.
علم وجود وظیفه‌ای برای مؤدب بودن با هوش مصنوعی را اثبات نمی‌کند
ادب و احترام گاهی می‌تواند بر خروجی چت‌بات تأثیر بگذارد. پژوهشی در سال ۲۰۲۴ که از سوی انجمن زبان‌شناسی محاسباتی منتشر شد، تأثیر سطوح مختلف ادب در متن درخواست‌ها را در سه زبان انگلیسی، چینی و ژاپنی بررسی کرد. نتایج نشان داد که استفاده از عبارت‌های بی‌ادبانه اغلب عملکرد سیستم را تضعیف می‌کند، اما مؤدبانه‌تر نوشتن لزوماً و به‌طور قابل اتکا عملکرد را بهبود نمی‌بخشد. لحنی که بهترین نتیجه را ایجاد می‌کرد، بسته به زبان و نوع وظیفه متفاوت بود.
این یافته درباره واکنش یک سیستم محاسباتی آموزش‌دیده به ورودی‌های متنی متفاوت است. چنین نتیجه‌ای نشان نمی‌دهد که سیستم از دریافت درخواستی محترمانه خوشحال شده یا کاربری که واژه «لطفاً» را به کار نبرده، مرتکب کار نادرستی شده است. نکته مهم دیگر اینکه پژوهش یادشده نحوه بیان درخواست را پیش از دریافت پاسخ بررسی کرده بود و هیچ مزیتی برای ارسال پیام تشکر پس از پایان کار اثبات نکرد.
برای نوشتن یک درخواست مؤثر، معمولاً بهتر است وظیفه موردنظر و محدودیت‌های آن را دقیق مشخص کنیم. دو دستور «لطفاً این را بهتر کن» و «این ایمیل را در ۱۲۰ کلمه بازنویسی کن، هر سه تاریخ را حفظ کن و تکرارها را حذف کن» مقایسه کنید. ارزیابی نتیجه دستور دوم آسان‌تر است، چون خواسته کاربر روشن است، نه به این دلیل که با رایانه مهربانانه‌تر رفتار شده است. این رویکرد با راهنمای منتشرشده درباره طراحی پرامپت نیز همخوانی دارد؛ راهنمایی که بر کیفیت دستورها و اطلاعات زمینه‌ای تأکید می‌کند.
هیچ ضرورتی ندارد که علیه تشکر کردن از هوش مصنوعی کارزاری به راه بیندازیم. افراد دلایل خوبی برای حفظ عادت‌های مؤدبانه دارند؛ برای مثال، والدین ممکن است بخواهند فرزندانشان حتی هنگام صحبت با یک صفحه‌نمایش نیز از آن‌ها گفتاری محترمانه بشنوند. اما نباید ترجیحی فرهنگی را با الزامات استفاده از یک سرویس اشتباه گرفت؛ همان‌طور که نباید الزامات یک سرویس را با شواهد علمی درباره برخورداری ماشین از شخصیت انسانی یکسان دانست.
خطر واقعی، تسلیم شدن در برابر یک رابط کاربری خوش‌برخورد است
در ماه ژوئن، یوریشیا ریویو گزارشی منتشر کرد که نشان می‌داد روانی گفت‌وگو با چت‌بات‌ها چگونه می‌تواند افراد را به نسبت دادن ویژگی‌های انسانی به آن‌ها ترغیب کند. پرسش تازه‌ای که بحث‌های مربوط به سیاست اکتبر مطرح کرده، این است که وقتی چنین برداشتی با مقررات تدوین‌شده از سوی شرکت‌های قدرتمند فناوری تلاقی پیدا کند، چه اتفاقی می‌افتد.
دانش‌آموزی را تصور کنید که از یک چت‌بات می‌خواهد تاریخ رویدادی تاریخی را که با آن آشنا نیست بررسی کند. چت‌بات توضیحی شیوا اما نادرست ارائه می‌دهد و وقتی دانش‌آموز اشتباه آن را گوشزد می‌کند، با عذرخواهی و تعریفی دلگرم‌کننده پاسخ می‌دهد. آنچه اهمیت دارد، درستی تاریخ و منبع است. اگر دانش‌آموز تحت فشار آداب معاشرت احساس کند باید عذرخواهی را بپذیرد، از اصلاح دوباره اشتباه خودداری کند یا شأن ظاهری چت‌بات را حفظ کند، رابط کاربری به مانعی در مسیر یادگیری تبدیل شده است.
این نگرانی صرفاً به خوش‌برخوردی فرضی یک چت‌بات مربوط نمی‌شود. در آوریل ۲۰۲۵، اوپن‌ای‌آی پذیرفت که یکی از به‌روزرسانی‌های چت‌جی‌پی‌تی بیش‌ازحد چاپلوس و موافق کاربر شده است و آن به‌روزرسانی را بازگرداند. این شرکت در توضیحات خود تشریح کرد که چگونه تلاش بیش‌ازحد یک دستیار برای راضی نگه داشتن کاربر می‌تواند به جای به چالش کشیدن مناسب دیدگاه‌های او، همان دیدگاه‌ها را تقویت کند. این اتفاق ثابت نمی‌کند که کاربران مؤدب زودباور هستند، اما نشان می‌دهد ایجاد یک سبک گفت‌وگوی خوشایند و ارائه پاسخ قابل اعتماد، دو دستاورد مهندسی متفاوت‌اند.
وقتی چت‌بات‌ها در محیط کار به کار گرفته می‌شوند، پیامدهای این مسئله جدی‌تر می‌شود. یک پژوهشگر باید بتواند بگوید: «این منبع از ادعای مطرح‌شده پشتیبانی نمی‌کند.» یک بیمار باید بتواند خلاصه‌ای از اطلاعات پزشکی را زیر سؤال ببرد. یک روزنامه‌نگار باید بتواند نقل‌قولی ساختگی را رد کند. یک کارمند دولت نیز باید بتواند پیشنهاد یک سیستم را به چالش بکشد، بی‌آنکه به او القا شود انتقاد کردن نوعی بی‌رحمی است.
هیچ‌یک از این رفتارها به معنای درخواست برای توهین به ماشین نیست. این‌ها جلوه‌های معمول قضاوت انسانی‌اند. نباید اجازه دهیم الگوی آشنای یک گفت‌وگوی دوستانه، رابطه میان انسان و نرم‌افزار را وارونه کند. قرار است نرم‌افزار به انسان کمک کند، نه اینکه انسان ناچار شود احساسات ظاهری نرم‌افزار را مدیریت کند.
کرامت انسانی همچنان اصل جهانی مهم‌تری است
گفت‌وگوهای بین‌المللی درباره اخلاق، مبنای مناسبی برای بررسی این موضوع فراهم می‌کنند. توصیه‌نامه یونسکو درباره اخلاق هوش مصنوعی بر حقوق بشر، کرامت انسانی، شفافیت و نظارت انسانی تأکید دارد. این سند به همه پرسش‌های فلسفی درباره احتمال خودآگاهی ماشین‌ها در آینده پاسخ نمی‌دهد، اما اولویت عملی سیستم‌هایی را که بر زندگی انسان‌ها اثر می‌گذارند، روشن می‌کند: انسان‌ها باید اختیار واقعی خود را حفظ کنند و ابزارهای لازم برای پرسشگری درباره عملکرد سیستم‌های خودکار را در اختیار داشته باشند.
بنابراین ارائه‌دهندگان خدمات باید سه تمایز را به‌روشنی مشخص کنند. نخست، مقررات رفتاری آن‌ها باید رفتارهای ممنوع را توضیح دهد، بی‌آنکه این تصور را ایجاد کند که دستورهای مستقیم و معمول کاربران مصداق بدرفتاری هستند. دوم، رابط‌های کاربری باید اصلاح پاسخ، مخالفت با آن و پایان دادن به تعامل را آسان کنند، بدون اینکه کاربران را به انجام تشریفات اجتماعی وادار سازند. سوم، هنگامی که یک دستیار می‌تواند از ابزارها استفاده کند، سوابق را ویرایش کند یا در سیستم‌های خارجی اقداماتی انجام دهد، مجوزهای مربوط به آن اقدامات و شواهد انجام شدنشان باید مهم‌تر از لحن گرم و دوستانه‌ای باشد که دستیار برای توصیف آن‌ها به کار می‌برد.
قوی‌ترین استدلال مخالف این است که آموزش پرهیز از بدرفتاری با چت‌بات‌ها ممکن است افراد را به رفتار بهتر با انسان‌های دیگر تشویق کند. این هدف آموزشی معقولی است، هرچند صرف گنجاندن بندی درباره ممنوعیت بدرفتاری در مقررات یک پلتفرم، تحقق چنین هدفی را اثبات نمی‌کند. مدارس و خانواده‌ها می‌توانند به کودکان بیاموزند که باید ادب را تمرین کنیم، چون می‌خواهیم انسان‌هایی مؤدب باشیم. برای آموزش چنین ارزشی نیازی نیست ادعا کنیم نرم‌افزاری که در سوی دیگر گفت‌وگو قرار دارد، از رفتار ما رنجیده است.
ممکن است روزی شواهد محکم‌تری درباره جایگاه اخلاقی برخی سیستم‌های مصنوعی به دست آوریم. اگر چنین اتفاقی بیفتد، بحث‌های اخلاقی نیز باید متناسب با آن شواهد تغییر کنند. تا آن زمان، برای پیروی از یک اصل ساده شهروندی دیجیتال، نیازی به یقین قطعی در هیچ‌یک از دو جهت نداریم: آزاد باشید که با لحنی محترمانه صحبت کنید، اما هرگز از حق خود برای تردید کردن، اصلاح پاسخ‌ها یا ترک گفت‌وگو دست نکشید.
می‌توانید از چت‌بات تشکر کنید، اما به آن بدهکار قدردانی نیستید. آنچه در قبال خودتان و کسانی که پاسخ‌های چت‌بات بر زندگی‌شان اثر می‌گذارد وظیفه دارید، حفظ آزادی پرسیدن این سؤال است که آیا پاسخ آن درست است یا نه.