Anthropic از مردم می‌خواهد با کلود رفتار آزارگرانه نداشته باشند
Anthropic سیاست استفاده از خدمات خود را به‌روزرسانی کرده تا از کلود در برابر رفتارهای آزارگرانه محافظت کند. این به‌روزرسانی در کنار توضیحاتی درباره محتوای سوءاستفاده جنسی از کودکان و توسعه سلاح، کاربران را از «رفتار مداوم و غیرضروریِ توهین‌آمیز یا بی‌رحمانه نسبت به مدل‌های ما» منع می‌کند.
این به‌روزرسانی که روز گذشته منتشر شده و از ماه نوامبر اجرایی می‌شود، در کنار بخش‌هایی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» و «محتوای جنسی صریح تولید نکنید»، بخشی با عنوان «درگیر رفتار بی‌رحمانه، آزارگرانه یا از نظر روانی آسیب‌زا نشوید» دارد. آخرین بند این بخش اکنون به‌طور مشخص قرار دادن مدل‌های Anthropic در معرض چنین رفتاری را ممنوع می‌کند.
Anthropic توضیح داده است که این قانون تنها برای موارد «افراطی» اعمال می‌شود؛ مواردی که کاربران «بدون هدف قابل تشخیص» چنین رفتاری انجام می‌دهند. این شرکت تأکید کرده که این مقررات شامل «ابراز نارضایتی کاربران، مخالفت و چالش، موضوعات خلاقانه تاریک، یا آزمایش و پژوهش درباره مدل‌ها» نمی‌شود.
با اینکه آزار دادن یک موجود غیرزنده مانند یک مدل زبانی بزرگ می‌تواند رفتاری غیرعادی به نظر برسد، این ممنوعیت چنین احساسی را ایجاد می‌کند که هدف آن انسان‌وار نشان دادن کلود و متقاعد کردن بیشتر مردم است که این مدل دارای احساساتی است که می‌توان به آن‌ها آسیب زد.