بحث درباره بدرفتاری با کلود، بیش از آنکه به احساسات یک ربات مربوط باشد، به رفتار انسان‌ها برمی‌گردد
آنتروپیک با سیاست جدید خود می‌خواهد جلوی بدرفتاری با ربات‌های هوش مصنوعی را بگیرد، اما یافته‌های روان‌شناسی نشان می‌دهند که این سیاست ممکن است برای خود انسان‌ها نیز مفید باشد.
دیدگاه کارشناسی | نیک هابسون، مدیرعامل بخش آمریکای شمالی شرکت Influence at Work و مشاور علوم رفتاری — @NICKMHOBSON
آنتروپیک روز ۸ اکتبر، نسخه جدید سیاست سالانه استفاده از کلود را منتشر کرد. در کنار تغییراتی که به استفاده از این فناوری در حوزه تسلیحات و نظارت مربوط می‌شوند، بند تازه‌ای نیز به این سیاست اضافه شده است که کاربران را از «رفتار توهین‌آمیز یا ظالمانه مستمر و بی‌دلیل با مدل‌های ما» منع می‌کند.
آنتروپیک می‌گوید این محدودیت قرار است «فقط در موارد حاد اعمال شود؛ یعنی زمانی که کاربران بارها و بدون هیچ هدف مشخصی با مدل‌های ما رفتاری ظالمانه دارند». این شرکت تأکید کرده است که قانون جدید شامل «ابراز نارضایتی معمول کاربران، مخالفت و انتقاد، پرداختن به موضوعات خلاقانه تاریک یا آزمایش و پژوهش درباره مدل‌ها» نمی‌شود. اجرای این سیاست عمدتاً از طریق قابلیتی در کلود انجام خواهد شد که به آن اجازه می‌دهد گفت‌وگو با کاربری را که به‌طور مداوم رفتار توهین‌آمیز دارد، پایان دهد. این سیاست از ۱۲ نوامبر اجرایی می‌شود.
آنتروپیک ادعا نمی‌کند که کلود توانایی رنج کشیدن دارد. این شرکت زمانی که در سال ۲۰۲۵ قابلیت پایان دادن به گفت‌وگو را معرفی کرد، اعلام کرد که همچنان «درباره جایگاه اخلاقی احتمالی کلود و دیگر مدل‌های زبانی بزرگ، عدم قطعیت بسیار زیادی وجود دارد». در مقابل، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت که آزمایشگاه آن رقیب آنتروپیک محسوب می‌شود، در یادداشتی به تاریخ ۱۶ سپتامبر استدلال کرد که «هوش مصنوعی خودآگاه نیست» و آنتروپیک در حال «آموزش دادن به کلود است تا احتمال خودآگاه بودنش را بپذیرد».
اما در پس این بحث ادامه‌دار، پرسش مهم دیگری نهفته است: ما انسان‌ها چگونه وجود ذهن را در موجودات و پدیده‌های دیگر تشخیص می‌دهیم؟
برخی هشدار می‌دهند که ممکن است انسان‌ها گفته‌های کلود را به چشم روایت موجودی در نظر بگیرند که به‌تدریج در حال کشف ذهن و خودآگاهی خویش است. در همین حال، آنتروپیک قانونی درباره نحوه رفتار کاربران با این مدل وضع کرده است. روان‌شناسان بررسی کرده‌اند که چه کسانی بیشتر احتمال دارد برای یک ماشین ذهن قائل شوند. یافته‌های آنان نشان می‌دهد که این گرایش، تفاوتی نسبتاً پایدار میان افراد است؛ تفاوتی که بنیان‌گذاران شرکت‌های سازنده محصولات هوش مصنوعی باید هنگام طراحی محصولات خود آن را در نظر بگیرند.
برخی افراد آسان‌تر از دیگران برای ماشین‌ها ذهن قائل می‌شوند
سال‌ها پیش، پژوهشگران از گروهی از افراد پرسیدند تا چه اندازه معتقدند یک ربات معمولی دارای خودآگاهی است. امتیازهایی که افراد در این ارزیابی به دست آوردند، می‌توانست نحوه رفتار آنان با ماشین‌ها و ربات‌ها را پیش‌بینی کند. نسبت دادن ویژگی‌های انسانی به هوش مصنوعی معمولاً به این معناست که ماشین‌ها را نیز وارد قلمرو قضاوت‌های اخلاقی خود می‌کنیم. به توضیح پژوهشگران، وقتی برای چیزی ذهن قائل می‌شویم، این تصور نیز شکل می‌گیرد که ممکن است آسیب ببیند و در نتیجه، نسبت به آن احساس مسئولیت اخلاقی پیدا می‌کنیم. از سوی دیگر، چنین تصوری به این معناست که آن موجود می‌تواند آگاهانه و هدفمند عمل کند و درباره ما قضاوت داشته باشد. همین برداشت، هم زمینه‌ساز اعتماد به آن می‌شود و هم میل ما را به اینکه در برابرش تصویر خوبی از خود نشان دهیم، تقویت می‌کند.
این موضوع برای درک تازه‌ترین تصمیم آنتروپیک اهمیت دارد. می‌توان میزان ذهن قائل شدن برای ماشین‌ها را روی یک طیف تصور کرد. در یک سر این طیف، دستیار هوش مصنوعی صرفاً یک ابزار است و توهین کردن به آن در قالب چند کلمه تایپ‌شده، تقریباً همان‌قدر اهمیت دارد که ناسزا گفتن به یک چاپگر. اما در سر دیگر طیف، دستیار هوش مصنوعی بیشتر به یک شخص شباهت پیدا می‌کند. افرادی که چنین برداشتی دارند، معمولاً بیشتر تمایل دارند در تصمیم‌های مهم به پاسخ‌های آن اعتماد کنند و در عین حال، برایشان مهم‌تر است که چگونه با آن رفتار می‌کنند. هر نشانه‌ای که به هوش مصنوعی ظاهری انسانی‌تر بدهد، از انتخاب یک نام گرفته تا صحبت کردن درباره احساسات با ضمیر اول‌شخص، عامل تازه‌ای در اختیار این افراد قرار می‌دهد که می‌تواند بر برداشت و واکنش آنان تأثیر بگذارد.