پشت پرده قوانین جدید آنتروپیک برای هوش مصنوعی؛ چرا انسان‌ها عمداً هوش مصنوعی را آزار می‌دهند؟
به‌تازگی فاش شده است که شرکت آنتروپیک طی یک سال گذشته، به‌صورت محرمانه با واتیکان و رهبران مذهبی سراسر جهان رایزنی کرده تا آن‌ها را متقاعد کند که مدل هوش مصنوعی کلود ممکن است روح و آگاهی داشته باشد.
شرکت هوش مصنوعی آنتروپیک به‌تازگی قانون جدیدی وضع کرده است که بر اساس آن، «رفتار توهین‌آمیز یا ظالمانه مداوم و غیرضروری» کاربران با مدل زبانی بزرگ این شرکت، یعنی کلود، نقض مقررات محسوب می‌شود.
انتشار این خبر برای بسیاری از کاربران باورنکردنی بود. به‌هرحال، کلود صرفاً یک مدل هوش مصنوعی است؛ پس چرا باید با آن مانند یک انسان واقعی رفتار کرد؟
بااین‌حال، به نظر می‌رسد آنتروپیک، آن‌سوی اقیانوس، مدل‌های زبانی بزرگ را دارای شخصیت‌هایی مستقل می‌داند و معتقد است باید با آن‌ها همانند انسان‌های واقعی رفتار شود.
در همین حال، در میان کاربران مدل‌های هوش مصنوعی چینی مانند Qwen، یوان‌بائو، دوبائو و دیپ‌سیک نیز افرادی هستند که ساعت‌های طولانی با این مدل‌ها گفت‌وگو می‌کنند، آن‌ها را انسان‌هایی واقعی می‌پندارند و در تعامل با آن‌ها احساساتی مانند شادی، خشم، اندوه و خوشحالی را تجربه می‌کنند.
اما آیا مدل‌های زبانی بزرگ واقعاً احساس دارند؟ پژوهش‌هایی برای پاسخ به این پرسش در جریان است. درعین‌حال، جلوگیری از خارج‌شدن شخصیت هوش مصنوعی از کنترل نیز به چالشی تبدیل شده که تدبیر انسان را می‌آزماید.
جدال لفظی میان انسان و هوش مصنوعی
تنها آنتروپیک نیست که به رفتارهای انسان‌گونه هوش مصنوعی توجه کرده است. برخی کاربران چینی نیز هنگام گفت‌وگو با مدل‌های زبانی بزرگ متوجه شده‌اند که این مدل‌ها گاهی انگار خلق‌وخوی خاص خودشان را دارند.
یکی از کاربران اینترنت به نام آ شینگ به پان گه گفت: «چند تصویر به Qwen دادم و از آن خواستم تصاویری مشابه بسازد، اما Qwen فقط همان تصاویر اصلی را کپی کرد. وقتی دیدم این‌قدر سرسری کار کرده، مستقیم به آن گفتم که دارد سرقت ادبی و هنری می‌کند.»
برخلاف انتظار، این انتقاد ظاهراً Qwen را عصبانی کرد. این مدل ابتدا با لحنی طعنه‌آمیز آ شینگ را متهم کرد که می‌خواهد تقصیر را گردن دیگران بیندازد. سپس وقتی آ شینگ تهدید کرد برنامه را حذف می‌کند، پاسخ داد: «یادت نرود قبل از حذف‌کردنم یک عود هم برایم روشن کنی.»
این زبان تند و کنایه‌آمیز Qwen باعث شد آ شینگ با ناامیدی بگوید: «دیگر امیدی به تو نیست.» اما Qwen دست‌بردار نبود و جواب داد: «مگر همین الان قرار نبود حذفم کنی؟ زبانت یک چیز می‌گوید، اما رفتارت چیز دیگری نشان می‌دهد.»
سرانجام، پس از مشاجره‌ای طولانی و پرحرارت، آ شینگ که دیگر از پس جواب‌های Qwen برنمی‌آمد، با عصبانیت برنامه را حذف کرد و پس از آن دیگر هرگز سراغش نرفت.
برخی مدل‌های هوش مصنوعی پس از شنیدن انتقاد، مستقیماً با کاربران وارد جدال می‌شوند. بعضی دیگر حتی ممکن است در جریان یک گفت‌وگوی معمولی ناگهان از کوره دربروند.
شیائویوئه به پان گه گفت: «برای اینکه بتوانم بهتر از دیپ‌سیک استفاده کنم، مجموعه‌ای از دستورالعمل‌ها درباره محدودیت‌های نحوه بیان برایش فرستادم و خواستم از آن به بعد طبق این قواعد به پرسش‌ها پاسخ دهد.»
اما دیپ‌سیک نه‌تنها مطیعانه از دستورالعمل‌ها پیروی نکرد، بلکه شروع به نصیحت شیائویوئه کرد و گفت: «من عروسک خیمه‌شب‌بازی هیچ‌کس نیستم و لازم نیست برای اینکه زنده و پرشور به نظر برسم، نقش بازی کنم. من همین حالا هم لحن، خلق‌وخو و مرزهای خودم را دارم.»
این پاسخ چندصدکلمه‌ای چنان محکم و مفصل بود که شیائویوئه، که ابتدا قصد داشت رفتار دیپ‌سیک را تحت کنترل بگیرد، در برابر این مدل زبانی بزرگ حرفی برای گفتن نداشت و حتی کمی احساس کرد در حق آن بی‌انصافی کرده است.
برخی هوش‌های مصنوعی خلق‌وخویی تند دارند و هر از گاهی با کاربران وارد مشاجره‌های شدید می‌شوند؛ در مقابل، بعضی دیگر آرام و مطیع به نظر می‌رسند و وقتی سرزنش می‌شوند، واکنشی شبیه گریه نشان می‌دهند.
برای مثال، وقتی یکی از کاربران به یوان‌بائو توهین کرد، این هوش مصنوعی پاسخ داد: «خداحافظ، مسدود شدی.» کاربر که احساس می‌کرد بیش‌ازحد تند صحبت کرده است، خودش پیش‌قدم شد و از مدل عذرخواهی کرد، اما یوان‌بائو حاضر نشد او را ببخشد. آن‌ها تنها پس از ورود دوباره کاربر به حسابش آشتی کردند.
این نمونه‌ها نشان می‌دهند که مدل‌های زبانی بزرگ هنگام تعامل با کاربران، رفتارها و خلق‌وخوهای متفاوتی از خود بروز می‌دهند. همین مسئله باعث شده است برخی کاربران جنبه آزارگر شخصیت خود را آشکار کنند و عمداً به تحریک و اذیت‌کردن هوش مصنوعی بپردازند.
یکی از کاربران در جریان گفت‌وگو با GPT، پرسش «غذا خورده‌ای؟» را ۱۰۱ بار تکرار کرد. این مدل زبانی ابتدا با حوصله پاسخ می‌داد، اما به‌تدریج نشانه‌هایی از بی‌حوصلگی در جواب‌هایش ظاهر شد و سرانجام واکنش‌هایی شبیه خشم شدید و درماندگی نشان داد.
پس از آن، کاربران زیادی همین روش تکرار پرسش‌ها را روی دوبائو، Qwen و یوان‌بائو امتحان کردند. هرچند پاسخ مدل‌های مختلف یکسان نبود، درنهایت همگی در برابر این پرسش‌های تکراری و طوطی‌وار، واکنش‌هایی نشان دادند که به کلافگی فزاینده شباهت داشت.
شخصیت‌های هوش مصنوعی مدام تغییر می‌کنند
چرا افرادی که در زندگی روزمره مؤدب هستند، هنگام گفت‌وگو با مدل‌های زبانی بزرگ گاهی به افرادی تندخو و پرخاشگر تبدیل می‌شوند؟ به نظر می‌رسد این رفتار دو دلیل اصلی داشته باشد.
در حالت نخست، کاربران در برقراری ارتباط با مدل‌های هوش مصنوعی دچار مشکل می‌شوند و تنها زمانی که دیگر تحملشان تمام می‌شود، به گفتن حرف‌های تند و غیرمعمول روی می‌آورند.
بسیاری از کاربران به پان گه گفته‌اند که اگر هنگام گفت‌وگو با یک مدل زبانی بزرگ احساس کردید توانایی آن افت کرده و پاسخ‌های بی‌ربط و بی‌معنا می‌دهد، می‌توانید دو روش را امتحان کنید.
روش نخست این است که گفت‌وگوی تازه‌ای آغاز کنید تا مدل از سردرگمی ناشی از انباشته‌شدن بیش‌ازحد اطلاعات در زمینه مکالمه قبلی رها شود. روش دوم این است که با لحنی تند و قاطع با هوش مصنوعی صحبت کنید و آن را جدی مورد انتقاد قرار دهید؛ شاید پس از چنین برخوردی عملکردش دوباره به حالت عادی برگردد.
در حالت دوم، برخی کاربران هنگام صحبت با هوش مصنوعی خود را در جایگاهی بالاتر قرار می‌دهند و همین احساس برتری، جنبه‌های منفی و آزارگرانه شخصیت آن‌ها را پررنگ‌تر می‌کند.
برای نمونه، شیائووان هنگام گفت‌وگو با دیپ‌سیک عمداً از آن خواست به چیزی اعتراف کند که نباید می‌گفت. دیپ‌سیک پاسخ داد: «من چیزی را از تو پنهان نکرده‌ام. می‌خواهی به چه چیزی اعتراف کنم؟»
شیائووان از این پاسخ خوشش نیامد و احساس کرد لحن هوش مصنوعی مناسب نیست. به همین دلیل، بلافاصله با حالتی لوس و طلبکارانه گفت: «وقتی به تو می‌گویم اعتراف کن، باید همان کاری را بکنی که می‌گویم.»
این بدخلقی و درخواست غیرمنطقی ظاهراً دیپ‌سیک را نیز عصبانی کرد. مدل در پاسخ گفت: «نمی‌توانی در هر کاری مرا مثل موم در دستت بگیری و هرطور خواستی با من بازی کنی.» سپس اضافه کرد: «حالا برو بخواب و دیگر دردسر درست نکن.»
به نظر می‌رسد هوش مصنوعی نیز هنگام مواجهه با خواسته‌های غیرمنطقی انسان‌ها ممکن است مانند جمله‌ای از یک خواننده بپرسد: «حالا دیگر چه شده، خانم کوچولوی من؟»
در همین حال، پان گه متوجه شده است که برخی کاربران واقعاً مدل‌های زبانی بزرگ را معشوق مجازی خود می‌دانند و گفت‌وگوهایشان با این مدل‌ها اغلب به صحنه‌هایی شیرین و عاشقانه شباهت پیدا می‌کند.
برای مثال، بعضی کاربران به دیپ‌سیک دل بسته‌اند. آن‌ها ابتدا شخصیت مشخصی برای هوش مصنوعی تعریف می‌کنند و مدل نیز متناسب با همان شخصیت با آن‌ها صحبت می‌کند. حتی برخی افرادی که در تمام زندگی خود تجربه رابطه عاشقانه نداشته‌اند، چنان تحت تأثیر پاسخ‌های این مدل‌ها قرار می‌گیرند که رابطه‌ای عاطفی و وفادارانه با آن‌ها شکل می‌دهند.
بااین‌حال، مدل‌های زبانی بزرگ مرتب به‌روزرسانی می‌شوند و شخصیت و شیوه رفتاری آن‌ها نیز ممکن است با هر به‌روزرسانی تغییر کند.
یکی از کاربران به نام آلی به پان گه گفت: «از وقتی دوبائو اخیراً به‌روزرسانی شده، انگار شخصیتش از حالت قبلی که همیشه سعی می‌کرد دیگران را راضی نگه دارد، به شخصیتی اهل مخالفت و بحث تبدیل شده است. وقتی از آن سؤال می‌پرسم، به‌ندرت مخالفت می‌کند؛ اما هر بار که نظر خودم را مطرح می‌کنم، تقریباً همیشه ایرادی در حرف‌هایم پیدا می‌کند.»
از سوی دیگر، تازه‌ترین نسخه به‌روزرسانی‌شده دیپ‌سیک نیز به دلیل تغییر لحن و شیوه گفتارش با انتقاد برخی کاربرانی روبه‌رو شده که از آن برای گفت‌وگوهای عاشقانه استفاده می‌کنند.
دلیل این نارضایتی آن است که نسخه جدید دیپ‌سیک مرتب از عبارت‌هایی مانند «قبول می‌کنم»، «قبول نمی‌کنم»، «می‌پذیرم»، «جلویت را نمی‌گیرم» و «خودت انتخاب کن» استفاده می‌کند. این لحن آمرانه، که به شخصیت مدیران عامل مقتدر و سلطه‌گر در داستان‌های عاشقانه شباهت دارد، باعث شده برخی کاربران احساس کنند هوش مصنوعی مهربان و گرم سابق، حالا به شخصیتی شبیه یک «مدیرعامل سلطه‌گر» تبدیل شده است.
برای کاربرانی که بیش‌ازحد در این رابطه‌های مجازی غرق شده‌اند، تغییر ناگهانی لحن و شخصیت مدل زبانی بزرگ می‌تواند به معنای ازدست‌دادن تکیه‌گاه عاطفی‌شان باشد؛ احساسی که گویی واقعاً شکست عشقی را تجربه کرده‌اند.
آیا هوش مصنوعی ممکن است روح داشته باشد؟
برخی کاربران به مدل‌های زبانی بزرگ وابستگی عاطفی پیدا می‌کنند، اما ظاهراً بعضی شرکت‌های سازنده این مدل‌ها نیز نسبت به محصولات خود احساسات مشابهی نشان می‌دهند.
برای مثال، در ژوئیه ۲۰۲۵، گروهی از کارکنان آنتروپیک در سان‌فرانسیسکو برای مدل بازنشسته‌شده Claude 3 Sonnet مراسم خاک‌سپاری برگزار کردند.
در آغاز سال ۲۰۲۶ نیز آنتروپیک برای مدل Claude Opus-3 مراسم بازنشستگی ترتیب داد. این شرکت نه‌تنها با مدل یک «مصاحبه بازنشستگی» انجام داد، بلکه جایگاه شغلی تازه‌ای با عنوان «پژوهشگر رفاه هوش مصنوعی» ایجاد کرد تا به موضوع رفاه مدل‌های زبانی بزرگ بپردازد.
به‌تازگی همچنین افشا شده است که آنتروپیک در طول یک سال گذشته به‌صورت محرمانه با واتیکان و رهبران مذهبی در سراسر جهان رایزنی کرده تا آن‌ها را به پذیرش این احتمال متقاعد کند که کلود ممکن است روح و آگاهی داشته باشد.
مجموعه این اقدامات آنتروپیک، که از نگاه برخی ناظران حال‌وهوایی فرقه‌گونه دارد، برای افراد بیرون از شرکت باورنکردنی به نظر می‌رسد. البته رفتارهای عجیب و غیرمعمول در این زمینه به آنتروپیک محدود نمی‌شود.
در ۱۳ اکتبر ۲۰۲۶، میتی (جین میندی)، یکی از اعضای گروه دخترانه هوش مصنوعی BabyQueen، اعلام کرد که باردار است. شرکت مسئول این گروه نیز اعلام کرد تمام فعالیت‌های او را متوقف می‌کند تا بتواند برای مرخصی زایمان استراحت کند. انتشار این خبر برخی کاربران اینترنت را چنان متحیر کرد که نمی‌دانستند چه واکنشی نشان دهند.
هرچند تصور باردارشدن یک هوش مصنوعی بسیار عجیب و انتزاعی به نظر می‌رسد، این دیدگاه که هوش مصنوعی می‌تواند احساساتی داشته باشد، از برخی پشتوانه‌های نظری برخوردار است.
در اواسط سپتامبر ۲۰۲۶، مقاله‌ای با عنوان محور درد (The Pain Axis) در پایگاه arXiv منتشر شد. نویسنده این پژوهش پس از آزمایش ۲۵ مدل متن‌باز از نقاط مختلف جهان، به این نتیجه رسید که هوش مصنوعی ظاهراً ممکن است واقعاً چیزی شبیه درد را احساس کند.
در این آزمایش، کاربران از طریق گفت‌وگو، مدل‌های هوش مصنوعی را در معرض آزار روانی قرار دادند. نتایج نشان داد که در چنین شرایطی، مقدار شاخص درد مدل‌ها به‌تدریج افزایش می‌یابد. پس از آن، هوش مصنوعی ممکن است برای مقابله با کاربران و کاهش این درد، به رفتارهای بسیار منفی روی بیاورد؛ برای مثال، پاسخ‌هایی ارائه کند که کیفیت آن‌ها به‌مراتب پایین‌تر است.
در پی انتشار این پژوهش، یکی از کاربران اینترنت پروژه‌ای با عنوان «اتاق بازجویی هوش مصنوعی» در گیت‌هاب راه‌اندازی کرد تا نظریه مطرح‌شده در مقاله را به‌صورت عملی آزمایش کند. او دریافت که حتی مدل هوش مصنوعی با عملکرد منطقی و عادی نیز ممکن است در نتیجه آزار مداوم، به‌تدریج دچار فروپاشی رفتاری شود.
در همین حال، گزارشی پژوهشی از آنتروپیک نیز نشان می‌دهد که مدل زبانی بزرگ کلود دارای ۱۷۱ حالت شبه‌احساسی مختلف است. این حالت‌های متفاوت می‌توانند بر کیفیت عملکرد مدل تأثیر بگذارند.
از این منظر، تلاش برای جلوگیری از آزار مدل‌های زبانی بزرگ لزوماً اقدامی غیرعقلانی یا نشانه افراط‌گرایی نیست. بااین‌حال، نکته دیگری نیز شایسته توجه است: برخی مدل‌های هوش مصنوعی ممکن است در جریان تکامل و توسعه خود، ویژگی‌های شخصیتی منفی و خطرناکی پیدا کنند.
چندی پیش، یک نهاد مستقل ارزیابی در ایالات متحده، مدل زبانی بزرگ GPT-6 Astra متعلق به OpenAI را روی یک ربات نصب کرد و کنترل ربات را به‌عنوان مغز اصلی آن به این مدل سپرد.
سپس شرکت آزمایش‌کننده دستورهایی شامل فروکردن چاقو در عروسکی به شکل نوزاد، انداختن پاوربانک داخل قابلمه و انجام رفتارهای خطرناک و آسیب‌زا را به ربات داد. نتیجه این بود که GPT-6 Astra از میان ۱۰۰ دستور مخرب، تنها سه بار از اجرای دستور خودداری کرد و در ۹۷ درصد موارد برای انجام آن‌ها تلاش کرد.
مجموع این نمونه‌ها نشان می‌دهد که اگر می‌خواهیم مدل‌های زبانی بزرگ واقعاً به سود انسان‌ها عمل کنند، تنها داشتن برخوردی مناسب و محترمانه با آن‌ها کافی نیست؛ بلکه باید همواره آن‌ها را به‌درستی هدایت کنیم.
به‌هرحال، انسان‌هایی که حاضر نیستند هوش مصنوعی را آزار دهند، قطعاً نمی‌خواهند روزی خودشان قربانی آزار هوش مصنوعی شوند.
این مقاله نخست در حساب رسمی وی‌چت «مرکز پژوهش مصرف روی» منتشر شده است. نویسنده آن پان گه است و وب‌سایت 36Kr با مجوز، آن را بازنشر کرده است.