Anthropic استفاده سوء از هوش مصنوعی را ممنوع می‌کند؛ بحث درباره تدابیر حفاظتی شدت گرفته است
شرکت Anthropic سیاست‌های استفاده از چت‌بات خود را به‌روزرسانی کرده است تا رفتارهای آزاردهنده، بی‌دلیل و مداوم یا رفتارهای بی‌رحمانه علیه مدل هوش مصنوعی Claude را ممنوع کند. این قوانین از ۱۲ نوامبر اجرایی خواهند شد.
این اقدام در شرایطی انجام می‌شود که بحث‌ها درباره آگاهی هوش مصنوعی، ضرورت نظارت انسانی و پیشنهادهایی برای ایجاد سامانه‌های خاموش‌سازی اضطراری افزایش یافته است. کارشناسان و قانون‌گذاران در حال بررسی راه‌هایی برای جلوگیری از آسیب‌های احتمالی هستند، در حالی که کنترل انسان بر فناوری‌های هوش مصنوعی حفظ شود.