آنتروپیک کاربران را به‌دلیل رفتار توهین‌آمیز مکرر با هوش مصنوعی مسدود می‌کند
شرکت هوش مصنوعی آنتروپیک اعلام کرده است که قصد دارد استفاده مستمر و غیرضروری از رفتار توهین‌آمیز علیه چت‌بات‌های هوش مصنوعی خود را ممنوع کند؛ تصمیمی که بحث‌هایی را درباره نحوه تعامل کاربران با ابزارهای هوش مصنوعی به راه انداخته است.
سازنده کلود روز پنج‌شنبه اعلام کرد که در حال به‌روزرسانی سیاست استفاده از محصولات خود است تا به ابزارهایش اجازه دهد در برابر کاربرانی که رفتاری بی‌رحمانه دارند، تعامل را متوقف کنند. به گفته این شرکت، چنین اقدامی پیش‌تر نیز در موارد نادری اعمال شده است.
در سیاست به‌روزشده، این نوع رفتار در فهرست فعالیت‌های ممنوع قرار گرفته است؛ فهرستی که آزار و اذیت دیگران، ترویج خودآزاری و تولید تصاویر صمیمی بدون رضایت نیز در آن قرار دارند.
آنتروپیک تأکید کرده است که این محدودیت تنها در موارد شدید و شامل رفتار توهین‌آمیز تکرارشونده اعمال خواهد شد. این شرکت افزود که ابراز نارضایتی معمول کاربران، انتقاد، پرداختن به مضامین تاریک در آثار خلاقانه یا آزمایش و پژوهش روی مدل‌ها مشمول این سیاست نخواهد بود.
با این حال، شرکت هنوز به‌طور روشن مشخص نکرده است که چه رفتاری را نسبت به مدل‌های هوش مصنوعی خود «توهین‌آمیز» یا «بی‌رحمانه» می‌داند.
این خبر که نخستین بار نشریه فناوری The Verge آن را گزارش کرد، در شبکه‌های اجتماعی واکنش‌های گسترده‌ای به همراه داشته است. برخی کاربران از این تصمیم استقبال کرده‌اند و آن را راهی برای تشویق به رعایت ادب می‌دانند، در حالی که برخی دیگر این پرسش را مطرح کرده‌اند که آیا اساساً باید حمایت در برابر رفتار توهین‌آمیز را به سامانه‌های هوش مصنوعی تعمیم داد.
دکتر بری اسکنل، شریک حوزه فناوری در شرکت حقوقی ایرلندی William Fry، از این سیاست انتقاد کرد و گفت برخورد با سامانه‌های هوش مصنوعی به‌گونه‌ای که گویی می‌توانند قربانی بی‌رحمی شوند، ممکن است این تصور را تقویت کند که این سامانه‌ها انسان هستند.
مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، نیز با یک ایموجی چهره در حال ذوب شدن به این خبر واکنش نشان داد. سلیمان پیش‌تر از آنتروپیک انتقاد کرده و گفته بود این شرکت با هوش مصنوعی چنان رفتار می‌کند که گویی این فناوری انسان است.
آنتروپیک اعلام کرد این تغییرات پس از بازبینی سالانه سیاست استفاده از محصولاتش انجام شده و شامل اقداماتی برای مقابله با دیگر خطرات نوظهور نیز می‌شود.
قوانین بازنگری‌شده، استفاده از کلود در کارزارهای فریبکارانه را ممنوع می‌کند و تصریح دارد که از این ابزارها نباید برای فریب رأی‌دهندگان یا ایجاد اختلال در انتخابات، در آستانه انتخابات میان‌دوره‌ای آمریکا، استفاده شود.
این شرکت همچنین محدودیت‌های خود درباره استفاده از ابزارهای هوش مصنوعی‌اش برای توسعه سلاح‌ها را دوباره مورد تأکید قرار داده است.
با وجود گستردگی تغییرات سیاستی، ممنوعیت رفتار توهین‌آمیز علیه هوش مصنوعی بیش از سایر موارد مورد توجه قرار گرفته و بحث درباره اینکه آیا کاربران هنگام ارتباط با چت‌بات‌ها باید مؤدب باشند یا نه را دوباره مطرح کرده است.
برخی کارشناسان معتقدند گفتن «لطفاً» و «متشکرم» به سامانه‌های هوش مصنوعی ضرورتی ندارد و باعث مصرف توکن‌های بیشتر می‌شود؛ در مقابل، برخی دیگر می‌گویند درخواست‌های مؤدبانه گاهی می‌توانند به دریافت پاسخ‌های بهتر منجر شوند.
این بحث همچنین به نگرانی‌هایی درباره تأثیر تعاملات خصمانه با هوش مصنوعی بر نحوه ارتباط انسان‌ها با یکدیگر کشیده شده است.
برخی کارشناسان گفته‌اند استفاده مداوم از زبان توهین‌آمیز در گفت‌وگو با چت‌بات‌ها ممکن است چنین رفتاری را عادی جلوه دهد و در نهایت بر روابط انسانی تأثیر بگذارد.