Anthropic رفتار «آزارگرانه یا بی‌رحمانه» نسبت به مدل‌های هوش مصنوعی خود را ممنوع کرد
شرکت هوش مصنوعی Anthropic یک بند جدید به سیاست استفاده از خدمات خود اضافه کرده است؛ بر اساس این بند، «رفتار آزارگرانه یا بی‌رحمانه» نسبت به مدل‌های هوش مصنوعی این شرکت ممنوع خواهد بود. این موضوع سیاستی کاملاً جدید نیست، اما اکنون توسط شرکت به‌طور رسمی گسترش یافته و در قالب یک مقررات مشخص تدوین شده است.
پیش از این، مدل هوش مصنوعی Claude از سوی Anthropic امکان و مجوز پایان دادن به برخی مکالمات را داشت. اکنون به نظر می‌رسد این مسئله به اندازه‌ای جدی تلقی شده که این شرکت بندی با مضمون «با ماشین رفتار نامناسب نداشته باشید» را به سیاست استفاده قابل قبول خود افزوده است. شاید استفاده مداوم از توهین‌ها باعث ایجاد داده‌های آموزشی کم‌اثرتر شود.
تصمیم جدید Anthropic
این احتمال به اندازه هر توضیح دیگری قابل طرح است، زیرا این شرکت دلیل مشخصی برای ممنوعیت رفتار آزارگرانه با Claude ارائه نکرده است. این تغییر ظاهراً با هدف نوعی مسئولیت‌پذیری در فضای دیجیتال انجام شده، اما جزئیات مشخصی درباره انگیزه آن اعلام نشده است.
از سوی دیگر، تکرار مداوم توهین به Claude ــ هر چیزی که کاربران آن را خطاب قرار می‌دهند ــ ممکن است آثار منفی بر فرایند آموزش مدل داشته باشد. البته Anthropic نمی‌تواند به‌سادگی اعلام کند که «این حجم از آزار، داده‌های مورد استفاده ما را خراب می‌کند؛ لطفاً متوقف شوید.»
«این به‌روزرسانی سیاست فقط برای موارد شدید اعمال می‌شود؛ یعنی زمانی که کاربران بدون هدف مشخص، به‌صورت مداوم رفتار بی‌رحمانه‌ای نسبت به مدل‌های ما دارند. این مقررات شامل نمونه‌های معمول از ناامیدی کاربران، مخالفت با پاسخ‌ها، موضوعات خلاقانه تاریک یا آزمایش و پژوهش درباره مدل‌ها نمی‌شود.»
در حال حاضر، هوش مصنوعی Anthropic در صورت رفتار نامناسب کاربران نسبت به آن، اقدام متفاوتی نسبت به گذشته انجام نخواهد داد. با این حال، از ۱۲ نوامبر امسال، «درگیر شدن در رفتار آزارگرانه یا بی‌رحمانه و غیرضروریِ مداوم نسبت به مدل‌های ما» به‌عنوان تخلف شناخته خواهد شد.
اگر قصد دارید ناراحتی‌های خود را بیان کنید، باید مراقب باشید از به‌روزرسانی «رفاه هوش مصنوعی» Claude در اوت ۲۰۲۵ عبور نکنید. البته کاربران همچنان می‌توانند به اعتراض یا گلایه ادامه دهند؛ توهین به ماشین ممکن است ناپسند تلقی شود، اما در نهایت نتیجه آن بیشتر احتمالاً پایان یافتن مکالمه خواهد بود نه مسدود شدن حساب کاربری.