Anthropic ممکن است کاربران بی‌رحم با کلود را مسدود کند
مجری برنامه «In the Loop»، ایجاز احمدین، در گزارشی به بررسی شرایط و ضوابط جدید شرکت Anthropic پرداخت؛ شرایطی که بر اساس آن، کاربران ممکن است در صورت رفتار بی‌رحمانه با Claude، مدل هوش مصنوعی این شرکت، از استفاده از خدمات محروم شوند.
Anthropic برای نخستین بار سیاست استفاده از خدمات خود را به‌روزرسانی کرده تا با کاربرانی که با مدل‌های این شرکت، از جمله Claude، رفتار آزارگرانه یا نامناسب دارند، برخورد کند. در این شرایط و ضوابط جدید بندی با عنوان «درگیر رفتار بی‌رحمانه، توهین‌آمیز یا آسیب‌زننده از نظر روانی نشوید» اضافه شده است.
بخش عمده‌ای از مفاد این قوانین درباره استفاده از مدل‌های هوش مصنوعی برای تأثیرگذاری بر دیگر انسان‌هاست؛ موضوعی که شامل مواردی مانند استفاده نکردن از مدل‌ها برای ساخت سلاح زیستی، نفوذ به بانک‌ها یا دولت‌ها، یا کمک به اقداماتی می‌شود که ممکن است به دیگران آسیب برساند. از دیدگاه ایجاز احمدین، این محدودیت‌ها منطقی و از نظر اخلاقی قابل دفاع هستند.
اما در پایان این سیاست، Anthropic اعلام کرده است کاربرانی که به‌طور مستمر و بدون دلیل مشخص رفتار توهین‌آمیز یا بی‌رحمانه‌ای نسبت به مدل‌های این شرکت داشته باشند، در صورت نقض این بند ممکن است در نهایت مسدود شوند.
این بخش از سیاست جدید بحث‌برانگیز است، زیرا تعریف «رفتار بی‌رحمانه» نسبت به یک مدل هوش مصنوعی می‌تواند تا حدی ذهنی باشد. مشخص نیست آیا فریاد زدن بر سر یک مدل، استفاده از کلمات توهین‌آمیز یا ناسزا، یا حتی ابراز ناامیدی از عملکرد آن، می‌تواند مصداق چنین رفتاری تلقی شود یا خیر.
Anthropic در بیانیه رسمی خود اعلام کرده است: «ما ممنوعیتی برای رفتار آزارگرانه یا بی‌رحمانه و مداوم نسبت به مدل‌های خود اضافه کرده‌ایم. این تغییر سیاست تنها در موارد شدید اعمال می‌شود؛ یعنی زمانی که کاربران به‌طور مکرر و بدون هدف قابل تشخیص با مدل‌های ما رفتار بی‌رحمانه داشته باشند.»
احمدین می‌گوید با این دیدگاه تا حدی موافق است، زیرا به باور او رفتار بی‌دلیل و خشن با افراد یا مدل‌ها منطقی نیست. او اضافه می‌کند که گاهی اگر چیزی به‌درستی درک نمی‌شود، شاید مشکل از نحوه ارتباط برقرار کردن باشد، نه از طرف مقابل.
با این حال، او پس از بررسی بیشتر متوجه شده است که در این موضوع میان مدل‌های هوش مصنوعی و انسان‌ها ارتباطی ذهنی برقرار کرده است؛ موضوعی که به گفته او دلیل اصلی پرداختن به این بحث است. او می‌گوید شروع کرده است ویژگی‌ها و رفتارهایی شبیه انسان را به مدل‌ها نسبت دهد، هرچند تأکید می‌کند که به هیچ وجه معتقد نیست این مدل‌ها دارای آگاهی هستند.
به گفته او، Anthropic، پژوهشگران این شرکت و تیم کارکنان آن، تا حد زیادی این دیدگاه را مطرح می‌کنند که مدل‌های هوش مصنوعی ممکن است به نوعی به آگاهی نزدیک شوند یا آن را تقلید کنند. این موضوع نیز در خلأ مطرح نشده است؛ Anthropic سابقه‌ای در بررسی این احتمال دارد که مدل‌های هوش مصنوعی شاید دارای نوعی آگاهی باشند یا به آن نزدیک شوند.
این بحث‌ها هم‌زمان با دوره‌ای مطرح می‌شود که بسیاری از آزمایشگاه‌های هوش مصنوعی اعلام می‌کنند به شکل‌هایی از هوش عمومی مصنوعی یا ابرهوش داخلی دست یافته‌اند.
از یک دیدگاه، اکنون قدرت تصمیم‌گیری درباره اینکه چه کسی به مدل‌های Anthropic دسترسی داشته باشد، در اختیار تعداد محدودی از افراد در تیم‌های ایمنی و هم‌ترازی قرار می‌گیرد؛ افرادی که می‌توانند درباره تعریف «بی‌رحمی» نسبت به مدل‌های هوش مصنوعی تصمیم بگیرند.
احمدین یادآوری می‌کند که Anthropic مانند OpenAI یک شرکت خصوصی است و از نظر حقوقی و فنی امکان اجرای چنین محدودیت‌هایی را دارد. با این حال، او معتقد است این اقدام می‌تواند نوعی محدودیت بر آزادی بیان نیز تلقی شود.
او می‌گوید خودش معمولاً با Claude و دیگر چت‌بات‌ها مؤدبانه صحبت می‌کند، اما گاهی از عملکرد آن‌ها ناراحت می‌شود و عباراتی مانند «چرا این را نوشتی؟»، «لطفاً دوباره انجامش بده»، یا «دست از اشتباه کردن بردار، این خیلی خسته‌کننده است» به کار می‌برد. او می‌پرسد آیا Anthropic چنین واکنش‌هایی را رفتار بی‌رحمانه نسبت به یک مدل تلقی خواهد کرد یا نه.
او همچنین اشاره می‌کند که استفاده از واژه‌هایی مانند «بی‌رحمی» در مورد مدل‌های هوش مصنوعی، خود نوعی انسان‌انگاری این فناوری است؛ یعنی نسبت دادن ویژگی‌های انسانی به چیزی که انسان نیست. به گفته او، انسان‌ها هنوز حتی تعریف دقیقی از آگاهی پیدا نکرده‌اند و بنابراین این بحث احتمالاً به این زودی‌ها حل نخواهد شد.