Anthropic کاربران را از رفتار «آزارگرانه یا بی‌رحمانه» با کلود منع می‌کند
صفحه‌هایی از وب‌سایت Anthropic و لوگوی این شرکت روی نمایشگر رایانه در نیویورک، ۲۶ فوریه ۲۰۲۶.
شرکت پژوهشی هوش مصنوعی Anthropic اعلام کرده است کاربرانی را که با چت‌بات مبتنی بر هوش مصنوعی این شرکت، یعنی کلود، «رفتاری آزارگرانه یا بی‌رحمانه» داشته باشند، مسدود خواهد کرد.
این شرکت در بیانیه‌ای اعلام کرد: «به‌روزرسانی این سیاست فقط برای موارد شدید در نظر گرفته شده است؛ مواردی که کاربران به‌طور مداوم و بدون هدف قابل تشخیص نسبت به مدل‌های ما رفتار بی‌رحمانه دارند. این سیاست شامل شکل‌های معمول نارضایتی کاربران، مخالفت با پاسخ‌ها، موضوعات خلاقانه تاریک یا آزمایش و پژوهش درباره مدل‌ها نمی‌شود.»
Anthropic که ارزش آن ۹۶۵ میلیارد دلار اعلام شده است، گفت این تغییر سیاست در ادامه اقدام‌های قبلی برای جلوگیری از «گفت‌وگوهای نادر با کاربرانی است که به‌طور مداوم در Claude.ai و Claude Code رفتار آزارگرانه دارند».
در این بیانیه آمده است: «چنین سوءرفتاری محور اصلی این به‌روزرسانی است؛ توانایی کلود برای پایان دادن به این تعاملات همچنان سازوکار اصلی اجرای این سیاست خواهد بود.»
در ماه سپتامبر، چند پژوهشگر Anthropic درباره احتمال خارج شدن هوش مصنوعی از کنترل ابراز نگرانی کردند؛ یکی از آنها هشدار داد که هوش مصنوعی ممکن است در دهه آینده به‌طور بالقوه به نابودی بشریت منجر شود.
جیکوب کاکسون، پژوهشگر هوش مصنوعی در Anthropic که روز سه‌شنبه از این شرکت کناره‌گیری کرد، در شبکه‌های اجتماعی نوشت: «افرادی که هوش مصنوعی می‌سازند، صادقانه باور دارند که این فناوری می‌تواند تا پایان دهه همه ما را از بین ببرد. این یک ترفند بازاریابی نیست.»