Anthropic کاربران را از رفتار «توهین‌آمیز یا بی‌رحمانه» با کلود منع می‌کند
(NewsNation) — شرکت پژوهشی هوش مصنوعی Anthropic اعلام کرده است که کاربرانی که با کلود، چت‌بات مبتنی بر هوش مصنوعی این شرکت، رفتار «توهین‌آمیز یا بی‌رحمانه» داشته باشند، ممکن است از استفاده از این سرویس منع شوند.
این شرکت در بیانیه‌ای اعلام کرد: «این به‌روزرسانی سیاست تنها برای موارد شدید اعمال می‌شود؛ یعنی زمانی که کاربران به‌طور مکرر و بدون هدف مشخصی با مدل‌های ما رفتاری بی‌رحمانه دارند. این سیاست شامل شکل‌های معمول نارضایتی کاربران، مخالفت با پاسخ‌ها، موضوعات خلاقانه تاریک یا آزمایش و پژوهش روی مدل‌ها نمی‌شود.»
Anthropic که ارزش آن ۹۶۵ میلیارد دلار اعلام شده است، گفت این تغییر سیاست در راستای اقدامات قبلی برای جلوگیری از «گفت‌وگوهای نادر با کاربران دائماً آزاردهنده در Claude.ai و Claude Code» انجام می‌شود.
این شرکت در بیانیه خود افزود: «تمرکز اصلی این به‌روزرسانی، همین سوءاستفاده‌هاست؛ توانایی کلود برای پایان دادن به این تعاملات همچنان سازوکار اصلی اجرای این سیاست خواهد بود.»
در ماه سپتامبر، چند پژوهشگر Anthropic درباره احتمال خارج شدن هوش مصنوعی از کنترل ابراز نگرانی کردند؛ یکی از آنها هشدار داد که هوش مصنوعی ممکن است در دهه آینده توانایی نابود کردن بشریت را داشته باشد.
جیکوب کاکسون، پژوهشگر هوش مصنوعی در Anthropic که روز سه‌شنبه از این شرکت استعفا داد، در شبکه‌های اجتماعی نوشت: «افرادی که با جدیت در حال ساخت هوش مصنوعی هستند، باور دارند که این فناوری می‌تواند تا پایان دهه همه ما را بکشد. این یک ترفند بازاریابی نیست.»