Anthropic استفاده مخرب از هوش مصنوعی را ممنوع می‌کند؛ بحث درباره سازوکارهای حفاظتی افزایش یافته است
شرکت Anthropic سیاست‌های استفاده از چت‌بات خود را به‌روزرسانی می‌کند تا رفتارهای طولانی‌مدت، غیرضروری و آزارگرانه یا بی‌رحمانه نسبت به مدل هوش مصنوعی Claude را ممنوع کند. این قوانین از ۱۲ نوامبر اجرایی خواهند شد.
این اقدام در شرایطی انجام می‌شود که بحث‌ها درباره آگاهی هوش مصنوعی، نظارت انسانی و پیشنهادهایی برای ایجاد سامانه‌های خاموش‌سازی اضطراری افزایش یافته است. کارشناسان و قانون‌گذاران در حال بررسی راه‌هایی هستند تا از آسیب‌های احتمالی جلوگیری شود و در عین حال کنترل انسان بر فناوری‌های هوش مصنوعی حفظ شود.