Anthropic استفاده سوء از هوش مصنوعی را ممنوع می‌کند؛ هم‌زمان بحث درباره تدابیر حفاظتی افزایش یافته است
شرکت Anthropic سیاست‌های مربوط به چت‌بات خود را به‌روزرسانی کرده است تا استفاده‌های سوء و رفتارهای آزارگرانه یا بی‌رحمانه و مداوم علیه مدل هوش مصنوعی Claude را ممنوع کند. این قوانین از ۱۲ نوامبر اجرایی می‌شوند.
این اقدام در شرایطی انجام می‌شود که بحث‌ها درباره آگاهی هوش مصنوعی، نظارت انسان بر این فناوری و پیشنهادهایی برای ایجاد سامانه‌های خاموش‌سازی اضطراری افزایش یافته است. کارشناسان و قانون‌گذاران در حال بررسی راه‌هایی برای جلوگیری از آسیب‌های احتمالی هستند، در حالی که کنترل فناوری هوش مصنوعی همچنان در اختیار انسان باقی بماند.