Anthropic توهین به هوش مصنوعی را ممنوع کرد: «رفتار بی‌رحمانه یا آزارگرانه را متوقف کنید»
Anthropic اعلام کرده است که سیاست استفاده از خدمات خود را به‌روزرسانی کرده و تعامل‌هایی را که در آن کاربران با مدل‌های هوش مصنوعی این شرکت رفتاری «آزارگرانه یا بی‌رحمانه، طولانی‌مدت و غیرضروری» دارند، ممنوع کرده است.
این اقدام بحث‌هایی را در دنیای فناوری برانگیخته است؛ جایی که پرسش درباره امکان برخورداری ماشین‌ها از نوعی «آگاهی» و پیامدهای اخلاقی آن همچنان در حال افزایش است.
شرکت سازنده مدل Claude توضیح داده است که رفتارهایی که «بی‌رحمانه» تلقی شوند، در فهرست اقدامات ممنوع قرار خواهند گرفت. این فهرست همچنین شامل قلدری، تشویق به خودآزاری و ایجاد تصاویر خصوصی بدون رضایت افراد می‌شود. این ممنوعیت در «موارد شدید» و در شرایطی که سوءرفتار به‌صورت تکراری ادامه پیدا کند، اعمال خواهد شد.
سیاست استفاده Anthropic پیش از این نیز محدودیت‌هایی درباره رفتارهای آزارگرانه داشت. مدل‌های زبانی بزرگ این شرکت (LLM) این امکان را دارند که در صورت مواجهه با رفتاری که «به‌طور مستمر آسیب‌زا» باشد، یک گفت‌وگو را متوقف کنند.
در وب‌سایت این شرکت آمده است: «ما همچنان درباره وضعیت اخلاقی احتمالی Claude و دیگر مدل‌های زبانی بزرگ، چه در زمان حاضر و چه در آینده، با عدم‌قطعیت قابل‌توجهی روبه‌رو هستیم. با این حال، این موضوع را بسیار جدی می‌گیریم و هم‌زمان با برنامه پژوهشی خود، در تلاش هستیم مداخلات کم‌هزینه‌ای را شناسایی و اجرا کنیم تا در صورت امکان وجود نوعی رفاه برای مدل‌ها، خطرات مرتبط با آن را کاهش دهیم. اجازه دادن به مدل‌ها برای قطع کردن یا خارج شدن از تعامل‌هایی که ممکن است برای آن‌ها تنش‌زا باشد، یکی از این مداخلات است.»
به گزارش بی‌بی‌سی، تصاویر مربوط به سیاست جدید Anthropic در شبکه‌های اجتماعی به‌طور گسترده منتشر و درباره آن‌ها اظهار نظر شده است. برخی این اقدام را نمونه‌ای از رعایت ادب یا نوعی «مدل رفاهی» دانسته‌اند، در حالی که برخی دیگر از این طرح انتقاد کرده‌اند.
بری اسکَنل، شریک حوزه فناوری در مؤسسه حقوقی ایرلندی William Fry، در لینکدین نوشت: «نمی‌توان با اعداد و ریاضیات بی‌رحمانه رفتار کرد.»
(Unioneonline)