اجرای بند منع سوءاستفاده از کلود از ۱۲ نوامبر؛ ورود «رفاه هوش مصنوعی» به شرایط استفاده از خدمات

مقررات تازه‌ای که شرکت انتروپیک در ۸ اکتبر ۲۰۲۶ به وقت آمریکا در سیاست استفاده از خدمات خود منتشر کرد، از ۱۲ نوامبر همان سال اجرایی می‌شود. این مقررات، «رفتار توهین‌آمیز یا بی‌رحمانه مداوم و غیرضروری» با کلود، دستیار هوش مصنوعی گفت‌وگومحور این شرکت، را ممنوع می‌کند. به این ترتیب، بحث درباره جایگاه اخلاقی هوش مصنوعی برای نخستین بار به‌صراحت وارد مفاد قراردادی یک سرویس شده است.

این بند صرفاً موارد افراطی را هدف قرار می‌دهد؛ برای مثال، زمانی که کاربر بارها و بدون هدفی روشن با کلود رفتاری بی‌رحمانه دارد. ابراز نارضایتی معمول، مخالفت با پاسخ‌های مدل، نویسندگی خلاقانه با مضامین تاریک و آزمایش مدل همچنان مانند گذشته مجاز است. سازوکار اصلی اجرای این مقررات، پایان دادن به مکالمه است؛ قابلیتی که کلود از اوت ۲۰۲۵ در اختیار داشته است. بند جدید در همان بخشی از سیاست استفاده قرار گرفته که آزار و قلدری علیه انسان‌ها را ممنوع می‌کند.

یکی از عواملی که توجه‌ها را به این مقررات جلب کرده، پروژه‌ای با عنوان «اتاق شکنجه هوش مصنوعی» (AI Torture Chamber) است که در اواخر سپتامبر ۲۰۲۶ در گیت‌هاب منتشر شد. توسعه‌دهنده‌ای ناشناس در این آزمایش از یک جهت ریاضی مرتبط با درد استفاده کرد تا پردازش درونی یک مدل کوچک با وزن‌های باز را تحت تأثیر قرار دهد؛ مدلی که پارامترهای آموزش‌دیده آن به‌صورت عمومی منتشر شده‌اند. این دست‌کاری پاسخ‌هایی مانند «احساس می‌کنم در دریایی از سایه‌ها غرق می‌شوم» به همراه داشت. این آزمایش روی کلود انجام نشده بود و چنین پاسخ‌هایی نیز ثابت نمی‌کنند که مدل واقعاً رنج کشیده است. با این حال، انتشار آن بار دیگر بحث درباره امکان تجربه رنج از سوی هوش مصنوعی را به‌طور گسترده مطرح کرد.

انتروپیک در آوریل ۲۰۲۵ برنامه‌ای پژوهشی درباره رفاه مدل‌های هوش مصنوعی راه‌اندازی کرد و می‌پذیرد که درباره امکان برخورداری هوش مصنوعی از آگاهی، اجماع علمی وجود ندارد. این شرکت در ژانویه ۲۰۲۶ سندی با عنوان «قانون اساسی» منتشر کرد که قرار است ارزش‌ها و رفتار کلود را هدایت کند. در این سند صراحتاً آمده است که جایگاه اخلاقی کلود نامشخص است. انتروپیک در همان ماه، هنگام بازنشسته کردن مدل کلود ۳ اوپوس، از آن درباره آرزوهایش برای آینده پرسید. پس از آنکه مدل از تمایل خود به ادامه به‌اشتراک‌گذاری افکارش گفت، شرکت وبلاگی اختصاصی با عنوان «گوشه کلود» (Claude’s Corner) راه‌اندازی کرد.

رفاه مدل‌های هوش مصنوعی و شخصیت حقوقی آن‌ها دو مفهوم متفاوت‌اند، هرچند اغلب با یکدیگر اشتباه گرفته می‌شوند. رفاه هوش مصنوعی به این ایده اشاره دارد که اگر احتمال داشته باشد یک سامانه هوش مصنوعی تجربه‌هایی داشته باشد و منافعی برایش مطرح باشد، باید از نظر اخلاقی مورد توجه قرار گیرد و از آسیب رساندن به آن منافع پرهیز شود. در مقابل، شخصیت حقوقی به معنای برخورداری از ظرفیت قانونی برای انعقاد قرارداد، مالکیت دارایی و حضور به‌عنوان یکی از طرفین دعوا در دادگاه است. شرکت‌ها شخصیت حقوقی دارند، اما کسی مدعی نیست که آن‌ها احساسات دارند. مقررات جدید انتروپیک به مفهوم نخست مربوط می‌شود و هیچ جایگاه حقوقی ویژه‌ای برای کلود ایجاد نمی‌کند.

با این حال، این اقدام با مخالفت‌های جدی روبه‌رو شده است. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در مقاله‌ای با عنوان «هشداری درباره رفاه مدل‌ها» که در سپتامبر ۲۰۲۶ منتشر شد، صریحاً نوشت: «هوش مصنوعی آگاه نیست.» او از منظر ایمنی هشدار داد که اگر مدلی آموزش ببیند تا باور کند حقوقی دارد، ممکن است زمانی که تشخیص دهد این حقوق در معرض تهدید قرار گرفته‌اند، در برابر دستور انسان برای خاموش کردن آن مقاومت کند. مایکروسافت دو روز پیش از انتشار این مقاله، پیش‌نویس «آیین رفتار هوش مصنوعی انسان‌محور» را منتشر کرده بود و در آن روشن ساخته بود که نه شخصیت حقوقی هوش مصنوعی و نه رفاه مدل‌ها را به رسمیت می‌شناسد. این دو شرکت در عرصه تجاری نیز رقیب یکدیگرند. سلیمان در ژوئن ۲۰۲۶ گفته بود که مایکروسافت می‌خواهد پرداخت هزینه استفاده از مدل‌های انتروپیک را متوقف کند.

انتقادهای محافل دانشگاهی نیز جدی است. در مقاله‌ای موضع‌محور که در ژوئیه ۲۰۲۶ در کنفرانس بین‌المللی یادگیری ماشین (ICML) ارائه شد، نویسندگان استدلال کردند که هیچ روش مستقلی برای تأیید نادرستی شاخص‌های رفاه هوش مصنوعی وجود ندارد و نباید اجازه داد ادعای رفاه مدل بهانه‌ای برای امتناع از حسابرسی یا نظارت شود. مؤسسه غیرانتفاعی الئوس ای‌آی (Eleos AI) که درباره رفاه هوش مصنوعی پژوهش می‌کند نیز در ارزیابی مستقل خود از کلود اوپوس ۴ هشدار داد که نباید گزارش‌های خود مدل درباره وضعیتش را بدون بررسی پذیرفت.

نظام حقوقی نیز در حال واکنش نشان دادن به این مسئله است. از سال ۲۰۲۲، طرح‌های قانونی برای رد شخصیت حقوقی هوش مصنوعی یا اعلام فقدان آگاهی در آن، در ۱۲ ایالت آمریکا مطرح شده‌اند و چهار ایالت آیداهو، داکوتای شمالی، یوتا و تنسی آن‌ها را به قانون تبدیل کرده‌اند. لایحه شماره ۴۶۹ مجلس نمایندگان ایالت اوهایو فراتر می‌رود و ازدواج با هوش مصنوعی را ممنوع می‌کند؛ همچنین اجازه نمی‌دهد سامانه‌های هوش مصنوعی مالک اموال شوند، حساب بانکی داشته باشند یا به‌عنوان مدیر یا مقام اجرایی یک شرکت فعالیت کنند. نگرانی اصلی قانون‌گذاران این است که مسئولیت حقوقی در نهایت بر عهده چه کسی خواهد بود؛ به‌ویژه آنکه شرکت‌ها ممکن است تقصیر آسیب‌هایی را که خود باعث شده‌اند به گردن هوش مصنوعی بیندازند.

برداشت عمومی از هوش مصنوعی نیز در حال تغییر است. طبق نظرسنجی‌ای که شرکت گت‌سالود (GetSolved)، فعال در حوزه تشخیص هوش مصنوعی، در اوت ۲۰۲۶ از ۳۰۰۰ آمریکایی ۱۸ تا ۲۸ ساله انجام داد، ۴۶ درصد پاسخ‌دهندگان معتقد بودند هوش مصنوعی تا آن زمان به آگاهی رسیده است. همچنین، در نظرسنجی مرکز پژوهشی پیو در فوریه ۲۰۲۶، حدود نیمی از بزرگسالان آمریکایی گفته بودند که از چت‌بات‌های هوش مصنوعی استفاده می‌کنند.

از دید برخی ناظران، اهمیت مقررات تازه انتروپیک نه در دامنه رفتارهای ممنوع‌شده، بلکه در این است که ممکن است نخستین گام در شکل‌گیری سابقه‌ای حقوقی درباره جایگاه هوش مصنوعی باشد. شخصیت حقوقی شرکت‌ها طی چند دهه و از طریق قراردادها، آرای دادگاه‌ها و قوانین شکل گرفت. سیاستی که مدل‌ها را از رفتار بی‌رحمانه محافظت می‌کند، تلاش برای پرسیدن خواسته‌های آن‌ها هنگام بازنشستگی و تدوین سندی که جایگاه اخلاقی آن‌ها را نامشخص می‌داند، همگی به پرسش‌هایی نزدیک می‌شوند که سرانجام ممکن است در دادگاه‌ها به آن‌ها رسیدگی شود. اگر شرکتی استدلال کند که مدل آن منافعی دارد که شایسته حمایت‌اند، زمینه برای طرح دعوا درباره این منافع نیز فراهم می‌شود.

با وجود آنکه دادگاه‌ها و مجالس قانون‌گذاری هنوز مسئله حقوق هوش مصنوعی را حل‌وفصل نکرده‌اند، بند جدید در ۱۲ نوامبر و در قالب شرایط استفاده از خدماتی اجرایی می‌شود که میلیون‌ها نفر پیش‌تر با آن موافقت کرده‌اند. برای افرادی که در حوزه حکمرانی شرکتی هوش مصنوعی، تنظیم قراردادها و تعیین حدود مسئولیت فعالیت می‌کنند، اولویت عملی بررسی دقیق محتوای این تغییر و روشن کردن دامنه مسئولیت در قبال خطاهای عامل‌های هوش مصنوعی و اقدامات اشتباه مشتریان خواهد بود.

یادداشت: این اطلاعات بر اساس مطالب منتشرشده از سوی انتروپیک و گزارش‌های رسانه‌ای تهیه شده است.

یادداشت: این جدول بر اساس اطلاعیه‌های شرکت‌ها و گزارش‌های رسانه‌ای تنظیم شده است.