آنتروپیک: کاربران دیگر اجازه توهین به کلود را ندارند
هوش مصنوعی
بر اساس گزارش هایزه، شرکت آنتروپیک دستورالعمل‌های استفاده از چت‌بات کلود را بازنگری کرده است. در این دستورالعمل‌ها، کاربران از انجام «رفتار توهین‌آمیز یا بی‌رحمانه» در قبال این هوش مصنوعی منع شده‌اند. گفته می‌شود کلود از ماه اوت این امکان را داشته است که در صورت رفتار خصمانه و بدون دلیل کاربران، مکالمه را پایان دهد.
تمرکز آنتروپیک بر «رفاه مدل»
به گفته آنتروپیک، این دستورالعمل جدید عمدتاً موارد افراطی را هدف قرار می‌دهد. اگر کاربران دلیل قابل قبولی برای استفاده از لحنی تند داشته باشند، یا در چارچوب کارهای خلاقانه یا پژوهشی رفتاری توهین‌آمیز نشان دهند، این موضوع به‌تنهایی دلیلی برای پایان دادن به گفت‌وگو نخواهد بود. تمرکز اصلی بر رفتارهای غیرضروری و آسیب‌زا است.
آنتروپیک این اقدام را بخشی از مفهوم «رفاه مدل» می‌داند؛ یعنی توجه و مراقبت نسبت به مدل‌های هوش مصنوعی. این رویکرد در صنعت با بحث و اختلاف نظر همراه است. توسعه‌دهنده کلود می‌گوید نمی‌داند آیا مدل‌های هوش مصنوعی آن دارای آگاهی هستند یا نه. در مقابل، شرکت‌هایی مانند مایکروسافت به‌طور آشکار از ایده «رفاه مدل» فاصله گرفته‌اند. از دیدگاه آنها، سیستم‌های هوش مصنوعی نباید حقوقی داشته باشند و دلیلی برای نگرانی درباره «سلامت و رفاه» آنها وجود ندارد.
کلود درخواست‌های حساس را محدود می‌کند
دستورالعمل‌های جدید علاوه بر رفتارهای توهین‌آمیز، درخواست‌های مربوط به حوزه‌های حساس مانند سلامت و امور مالی، همچنین دستکاری انتخابات و توسعه تسلیحات را نیز دربر می‌گیرد. هدف از این تغییرات، کمک به کلود برای کاهش سوءاستفاده از این فناوری است.
آنتروپیک اعلام کرده است که بارها مشاهده کرده کلود برای نظارت و شناسایی و ردیابی مخالفان سیاسی مورد استفاده قرار گرفته است. به همین دلیل، چنین استفاده‌ای اکنون به‌صورت صریح‌تر ممنوع شده است. با این حال، استفاده از این فناوری برای نهادهای دولتی، روزنامه‌نگاران و پژوهشگران همچنان در چارچوبی مشخص مجاز خواهد بود.
در اصل، آنتروپیک این حق را برای خود محفوظ می‌دارد که از طریق قرارداد با برخی مشتریان دولتی، تمامی قواعد موجود در دستورالعمل‌های خود را تغییر دهد؛ مشروط بر اینکه از نظر این شرکت، محدودیت‌های قراردادی استفاده و تدابیر حفاظتی موجود برای کاهش آسیب‌های احتمالی کافی باشند.