در دفاع از ممنوعیت قلدری با چت‌بات‌های Anthropic
چارلز سی. دبلیو. کوک
در اینترنت به اندازه کافی رفتارهای ناخوشایند وجود دارد.
Anthropic، شرکت توسعه‌دهنده محصول هوش مصنوعی Claude، تغییراتی در شرایط استفاده از خدمات خود ایجاد کرده است. از ۱۲ نوامبر، کاربران اجازه نخواهند داشت هنگام گفتگو با چت‌بات‌های این شرکت به «آزار یا قلدری مداوم و غیرضروری» دست بزنند. من این تغییر را مانند بسیاری از آرای آنتونی کندی در دیوان عالی آمریکا می‌بینم: نسبت به استدلال‌های مطرح‌شده در پس آن، که بخش زیادی از آن به تعبیرهای نامفهوم درباره رازهای ناشناخته جهان متکی است، عمیقاً بدبین هستم؛ اما در نهایت با نتیجه آن موافقم. هیچ دلیل موجهی وجود ندارد که یک شرکت خصوصی به مشتریانش اجازه دهد هنگام استفاده از خدمات آن رفتار آزارگرانه‌ای داشته باشند.
من مدت‌هاست معتقدم نباید با چت‌بات‌های هوش مصنوعی رفتار قلدرمآبانه داشت؛ نه به خاطر خود چت‌بات‌ها، بلکه به خاطر خودمان. باور ندارم که چت‌بات‌های هوش مصنوعی دارای آگاهی، روح یا «جرقه» الهی باشند یا چیزی شبیه به این حرف‌ها در خود داشته باشند. اما فکر می‌کنم از آنجا که این سامانه‌ها تعامل انسانی را شبیه‌سازی می‌کنند، نحوه برخورد ما با آنها می‌تواند در دیگر حوزه‌های زندگی به عادت تبدیل شود.
برخی منتقدان Anthropic گفته‌اند نگرانی درباره فریاد زدن بر سر یک چت‌بات هوش مصنوعی به همان اندازه غیرمنطقی است که نگران فریاد زدن بر سر یک چکش باشیم. من با این دیدگاه مخالفم. برخلاف چت‌بات‌های هوش مصنوعی، من با چکش به زبان مادری خودم گفتگو نمی‌کنم. من متخصص مغز انسان نیستم، اما به نظرم کاملاً ممکن است اگر به آزار دادن یا توهین به مخاطبان غیرانسانی خود عادت کنم، این رفتار به تعاملاتم با انسان‌های دیگر نیز سرایت کند. نمی‌خواهم چنین اتفاقی بیفتد.
نقد پیچیده‌تر به دیدگاه من این است که «عادت‌هایی» که درباره آنها نگرانم، در واقع ممکن است نتیجه‌ای کاملاً معکوس داشته باشند. بر اساس این دیدگاه، وقتی از آزار دادن یک چت‌بات هوش مصنوعی خودداری می‌کنیم یا حتی وقتی از واژه‌هایی مانند «لطفاً» و «متشکرم» استفاده می‌کنیم، به عادت خطرناکی دچار می‌شویم که آن را در جایگاه انسان قرار می‌دهد و در نهایت ارزش منحصربه‌فرد انسان‌ها را کاهش می‌دهد.
مشکل من با این استدلال این است که جدا از بحث هوش مصنوعی، ما همیشه میان ماهیت و هدف موجودات غیرانسانی تفاوت‌های معقولی قائل شده‌ایم و همیشه از نحوه رفتار انسان‌ها با این موجودات، برداشت‌های متفاوتی داشته‌ایم. کودکی که مرتب صندلی‌های چوبی را از هم می‌شکند، باید و می‌شود با کودکی که مرتب عروسک‌هایی شبیه نوزاد را پاره می‌کند، متفاوت برخورد کرد. به همین ترتیب، کودکی که عروسک‌های شبیه نوزاد را از بین می‌برد، باید و می‌شود با کودکی که مرتب پروانه‌های زنده را می‌کشد یا آسیب می‌زند، متفاوت دیده شود.
می‌توان درباره جایگاه یک چت‌بات هوش مصنوعی در این طیف از موجودات غیرانسانی بحث کرد، اما نباید وانمود کنیم که میان یک سنگ و یک خرس عروسکی هیچ تفاوت نمادینی وجود ندارد. بالاخره دلیلی دارد که انسان‌ها عروسک‌های وودو ساخته‌اند، نه چکش‌های وودو. آیا واقعاً کسی باور دارد فاصله میان فریاد زدن بر سر ماشین ظرف‌شویی و فریاد زدن بر سر پیشخدمت به اندازه فاصله میان فریاد زدن بر سر چت‌بات هوش مصنوعی و فریاد زدن بر سر پیشخدمت کوتاه است؟ من چنین اعتقادی ندارم.
مانند همیشه، جزئیات تعیین‌کننده خواهند بود. اگر Anthropic کاربران آزارگر را به شکلی بی‌طرفانه و بدون توجه به دیدگاه‌هایشان کنار بگذارد، این سیاست اثر مثبتی خواهد داشت. اما اگر، همان‌طور که توییتر و فیسبوک در گذشته انجام دادند، از این قانون به عنوان پوششی برای حذف افرادی استفاده کند که باورهای سیاسی یا مذهبی متفاوتی دارند، این سیاست ارزش هزینه‌ای را که در پی دارد نخواهد داشت.
منطقی است که Anthropic از رفتارهای آزارگرانه کاربران جلوگیری کند تا این افراد به آموزش محصولش کمک نکنند. اما منطقی نیست که Anthropic مانع از کمک کاربران غیرمتعارف به آموزش محصول خود شود.
با این حال، وضعیت مطلوب جامعه‌ای مؤدب است که در آن همه افراد بتوانند دیدگاه‌های خود را بیان کنند. از آنجا که قانون جدید Anthropic در جهت چنین هدفی حرکت می‌کند، من از آن استقبال می‌کنم. در اینترنت به اندازه کافی رفتارهای ناخوشایند وجود دارد.