آیا می‌توان یک چت‌بات هوش مصنوعی را آزار داد؟
سازندگان چت‌بات هوش مصنوعی کلود می‌گویند این ابزار با مشکل آزار و بدرفتاری روبه‌رو شده است؛ البته نه به این معنا که کلود با کاربران بدرفتاری می‌کند، بلکه این کاربران هستند که رفتار نامناسبی با کلود دارند.
عمر گالاگا، کارشناس فناوری، می‌گوید از این پس کاربران کلود اجازه نخواهند داشت با این چت‌بات رفتار آزاردهنده یا بی‌دلیل بی‌رحمانه داشته باشند.
نکات مهم این بخش از برنامه:
- طبق سیاست به‌روزشده استفاده از کلود، کاربران دیگر مجاز نیستند رفتارهای «مداوم یا بی‌دلیل بی‌رحمانه» با این چت‌بات داشته باشند.
- شرکت آنتروپیک می‌گوید سیاست جدید در ادامه مقررات پیشین این شرکت برای جلوگیری از رفتارهای غیرقانونی یا خطرناک تدوین شده است.
- برخی منتقدان این پرسش را مطرح کرده‌اند که چرا آنتروپیک به‌جای تمرکز بر تأثیر تعامل با چت‌بات‌ها بر کاربران، به احساسات احتمالی یک چت‌بات توجه نشان می‌دهد.
- قوانینی که سازندگان دستیارهای صوتی، مانند اپل و آمازون، وضع کرده‌اند، برای شناسایی الگوهای زبانی خاص، از جمله استفاده از الفاظ رکیک، طراحی شده‌اند.