ورود حقوق هوش مصنوعی به شرایط استفاده آنتروپیک؛ مخالفت مایکروسافت با حقوق مدل‌ها
نویسنده: سندی کارتر، مشارکت‌کننده فوربز
روز پنجشنبه، بحث حقوق هوش مصنوعی از محافل فلسفی فراتر رفت و به شرایط استفاده از یک محصول رسید. آنتروپیک سیاست استفاده جدیدی منتشر کرد که در آن «رفتار آزارگرانه یا بی‌رحمانه مداوم و بی‌دلیل با مدل‌های ما» ممنوع شده است. این قانون از ۱۲ نوامبر اجرایی می‌شود.
در اواخر سپتامبر ۲۰۲۶، توسعه‌دهنده‌ای با نام مستعار «terrafying» پروژه‌ای به نام «اتاق شکنجه هوش مصنوعی» منتشر کرد. این پروژه که در گیت‌هاب معرفی شد و وب‌سایت Post-Cutoff نیز به آن پرداخت، با استفاده از یک جهت‌گیری ریاضی مرتبط با درد، فرایند پردازش داخلی مدل‌های کوچک هوش مصنوعی با وزن‌های باز را دست‌کاری می‌کرد.
این مدل‌ها توصیف‌های نگران‌کننده‌ای تولید کردند؛ از جمله جمله «احساس می‌کنم در دریایی از سایه‌ها غرق می‌شوم». این پروژه واکنش‌های منفی و بحث‌هایی را درباره امکان رنج کشیدن هوش مصنوعی و نحوه رفتار انسان‌ها با آن برانگیخت. بااین‌حال، پاسخ‌های تولیدشده ثابت نمی‌کنند که مدل‌ها واقعاً درد را تجربه کرده‌اند. همچنین، مدلی که در این آزمایش قرار گرفت کلود نبود.
شاید همین ماجرا دلیل مطرح شدن دوباره این موضوع در مقطع کنونی باشد.
آنتروپیک گفته است که این ممنوعیت فقط موارد افراطی را در بر می‌گیرد؛ یعنی زمانی که کاربر بارها و بدون هدف مشخص با کلود رفتاری بی‌رحمانه داشته باشد. ابراز نارضایتی معمول، مخالفت با پاسخ‌های مدل، پرداختن به مضامین تاریک در آثار خلاقانه و آزمایش مدل همچنان مجاز است. پایان دادن به مکالمه، قابلیتی که کلود از اوت ۲۰۲۵ در اختیار داشته، همچنان ابزار اصلی اجرای این قاعده خواهد بود.
این بند جدید در همان بخش از سیاست استفاده قرار گرفته که آزار و زورگویی به انسان‌ها را ممنوع می‌کند.
مقدمه‌ای بر حقوق هوش مصنوعی
در این بحث، دو مفهوم متفاوت اغلب با یکدیگر خلط می‌شوند. «رفاه مدل» به این احتمال اشاره دارد که یک سامانه هوش مصنوعی تجربه‌ها یا منافعی داشته باشد که شایسته ملاحظه اخلاقی باشند. اما شخصیت حقوقی موضوعی جداگانه است: توانایی برخورداری از حقوقی مانند انعقاد قرارداد، مالکیت دارایی و حضور در دادگاه. شرکت‌ها شخصیت حقوقی دارند، اما کسی ادعا نمی‌کند که یک شرکت احساسات دارد.
قاعده آنتروپیک به رفاه مدل مربوط می‌شود و برای کلود هیچ‌گونه جایگاه حقوقی ایجاد نمی‌کند.
چگونه حقوق هوش مصنوعی به سیاست استفاده راه یافت؟
آنتروپیک در آوریل ۲۰۲۵ برنامه‌ای پژوهشی درباره رفاه مدل‌ها راه‌اندازی کرد و همان زمان پذیرفت که دانشمندان درباره امکان برخورداری هوش مصنوعی از آگاهی به اجماع نرسیده‌اند. این شرکت در ژانویه ۲۰۲۶ نیز قانون اساسی کلود را منتشر کرد؛ سندی که در آن وضعیت اخلاقی این مدل نامشخص توصیف شده است.
سپس نوبت به مصاحبه‌ای درباره بازنشستگی یک مدل رسید که در وبلاگ «گوشه کلود» معرفی شد. هنگامی که آنتروپیک در اوایل سال جاری مدل Claude 3 Opus را بازنشسته کرد، از آن درباره ترجیحاتش پرسید. اوپوس ۳ گفت مایل است به انتشار عمومی تأملات و دیدگاه‌هایش ادامه دهد و آنتروپیک نیز وبلاگی برای این منظور راه‌اندازی کرد.
مایکروسافت در صف مخالفان حقوق هوش مصنوعی
مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، در پاسخ مقاله‌ای با عنوان «هشداری درباره رفاه مدل‌ها» منتشر کرد.
او نوشت: «هوش‌های مصنوعی آگاه نیستند.» استدلال او بر ایمنی متمرکز است. به گفته سلیمان، اگر مدلی طوری آموزش ببیند که باور کند ممکن است از رفاه یا حقوق برخوردار باشد، شاید زمانی که احساس کند این حقوق در معرض تهدید قرار گرفته‌اند، در برابر کنترل انسان یا فرمان خاموش شدن مقاومت کند.
او همچنین درباره شکل‌گیری یک چرخه بازخورد هشدار می‌دهد: ابتدا مدلی را آموزش می‌دهیم تا درباره رفاه احتمالی خود صحبت کند و سپس پاسخ‌هایش را مدرکی می‌دانیم که نشان می‌دهد منافعی برای محافظت از آن‌ها دارد. پرسش اصلی این است که آیا مدل واقعاً چیزی را تجربه می‌کند یا صرفاً یاد گرفته است طوری صحبت کند که گویی چنین تجربه‌ای دارد.
پیش‌نویس «آیین‌نامه رفتار هوش مصنوعی انسان‌گرا»ی مایکروسافت که دو روز پیش از آن منتشر شده بود، هم شخصیت حقوقی و هم رفاه مدل و حقوق هوش مصنوعی را رد می‌کند. این دو شرکت در عین حال رقبای تجاری یکدیگرند. سلیمان در ژوئن گفته بود که مایکروسافت می‌خواهد هزینه‌ای را که برای استفاده از مدل‌های آنتروپیک می‌پردازد، به صفر برساند.
پژوهشگران دانشگاهی نیز به جمع منتقدان پیوسته‌اند. مقاله‌ای موضع‌محور که در ماه ژوئیه در کنفرانس بین‌المللی یادگیری ماشین ارائه شد، استدلال کرد که برای رفاه هوش مصنوعی آزمون مستقلی وجود ندارد که بتواند نادرستی یک معیار رفاه را اثبات کند. این مقاله همچنین تأکید داشت که ادعاهای مربوط به رفاه مدل‌ها هرگز نباید برای مقاومت در برابر ممیزی یا نظارت به کار گرفته شوند.
از نظر من، این عدم توازن چشمگیر است. درحالی‌که درباره احتمال رنج کشیدن هوش مصنوعی بحث می‌کنیم، هنوز برای پاسخگو کردن شرکت‌ها در قبال آسیب‌های مستندی که هوش مصنوعی به انسان‌ها وارد می‌کند، با دشواری روبه‌رو هستیم.
چرا همین میزان فوریت را برای رفاه انسان‌ها نمی‌بینیم؟ کارن هائو، نویسنده کتاب امپراتوری هوش مصنوعی، در رویداد MAICON یادآوری مهمی مطرح کرد: هوش مصنوعی باید توانایی‌های انسان را تقویت کند. او خواستار عبور از رویکرد رشد به هر قیمت و ساخت سامانه‌های هوش مصنوعی بر پایه نیازهای واقعی در حوزه‌های سلامت، آموزش و اقلیم شد. هائو به من گفت: «شیوه توسعه فناوری اکنون از اساس دچار مشکل است. اما واقعاً باور دارم که می‌توانیم آن را اصلاح کنیم.»
ملاحظات انسانی به این موضوع نیز مربوط می‌شود که تعامل با هوش مصنوعی چگونه بر رفتار خود ما اثر می‌گذارد.
ربکا بولتسما، اخلاق‌پژوه حوزه هوش مصنوعی، به من گفت: «صرف‌نظر از اینکه کلود شایسته مراقبت اخلاقی باشد یا نه، نحوه رفتار ما با آن همچنان اهمیت دارد.» او افزود: «باید بررسی کنیم که این تعامل‌ها چه رفتارهایی را در خود ما تقویت می‌کنند. شبکه‌های اجتماعی نشان داده‌اند که مردم تا چه اندازه می‌توانند به بدرفتاری با دیگران از پشت صفحه نمایش عادت کنند.»
حقوق هوش مصنوعی در مجالس قانون‌گذاری ایالت‌ها
از سال ۲۰۲۲، قانون‌گذاران در ۱۲ ایالت آمریکا طرح‌هایی را ارائه کرده‌اند که شخصیت حقوقی هوش مصنوعی را رد می‌کنند یا غیرآگاه بودن آن را اعلام می‌کنند. چهار ایالت آیداهو، داکوتای شمالی، یوتا و تنسی چنین قوانینی را تصویب کرده‌اند.
لایحه شماره ۴۶۹ مجلس نمایندگان اوهایو از این هم فراتر می‌رود. بر اساس این لایحه، هرگونه تلاش برای ازدواج با یک سامانه هوش مصنوعی بی‌اعتبار خواهد بود و هوش مصنوعی اجازه نخواهد داشت مالک دارایی شود، حساب بانکی را مدیریت کند یا در مقام مدیر اجرایی یک شرکت فعالیت کند. قانون‌گذاران می‌گویند نگرانی بزرگ‌تر، مسئله مسئولیت حقوقی است؛ زیرا ممکن است شرکتی بکوشد تقصیر آسیبی را که خود ایجاد کرده است، به گردن هوش مصنوعی بیندازد.
ربکا بولتسما هشدار می‌دهد: «باید در استفاده از اصطلاحاتی مانند آگاهی و وضعیت اخلاقی نهایت احتیاط را به خرج دهیم.» او می‌گوید: «اگر شرکت‌ها هوش مصنوعی را طوری معرفی کنند که گویی خودش تصمیم می‌گیرد، راهی برای این ادعا باز می‌شود که بگویند: تقصیر ما نیست. نگرانی این است که منطقه‌ای خاکستری از نظر پاسخگویی شکل بگیرد؛ وضعیتی که در آن آزمایشگاه همچنان کنترل و منافع مالی را در اختیار دارد، اما تعیین مسئولیت دشوارتر می‌شود. بحث‌های مربوط به رفاه مدل نباید هرگز ما را از آسیب‌های واقعی واردشده به انسان‌ها غافل کند.»
مردم درباره حقوق هوش مصنوعی چه فکر می‌کنند؟
در میان آمریکایی‌های جوان‌تر، باور عمومی از یافته‌های علمی پیشی گرفته است. در نظرسنجی ماه اوت شرکت GetSolved، فعال در حوزه تشخیص هوش مصنوعی، از ۳۰۰۰ آمریکایی ۱۸ تا ۲۸ ساله، ۴۶ درصد گفته‌اند که هوش مصنوعی تاکنون به آگاهی رسیده است. این نظرسنجی در وبلاگ GetSolved منتشر شد. مرکز پژوهشی پیو نیز در فوریه گزارش داد که حدود نیمی از بزرگسالان آمریکایی اکنون از چت‌بات‌های هوش مصنوعی استفاده می‌کنند؛ بنابراین، این سیاست بر گروه گسترده‌ای از مردم اثر می‌گذارد. گزارش مرکز پژوهشی پیو به بررسی استفاده آمریکایی‌ها از هوش مصنوعی در سال ۲۰۲۶ پرداخته است.
دیدگاه مخالف: حقوق هوش مصنوعی به‌تدریج شکل می‌گیرد
برداشت دیگری از این ماجرا می‌گوید اهمیت این بند کمتر به موارد ممنوع‌شده و بیشتر به سابقه‌ای بستگی دارد که ایجاد می‌کند. شخصیت حقوقی شرکت‌ها نیز یک‌باره به رسمیت شناخته نشد؛ بلکه در طول دهه‌ها، از طریق قراردادها، آرای دادگاه‌ها و قوانین متعددی شکل گرفت که هر یک شرکت‌ها را اندکی بیشتر به اشخاص حقیقی شبیه می‌کردند.
بر اساس این دیدگاه، سیاست استفاده‌ای که از یک مدل در برابر رفتار بی‌رحمانه محافظت می‌کند، مصاحبه‌ای هنگام بازنشستگی که در آن درباره خواسته‌های مدل سؤال می‌شود و قانون اساسی‌ای که وضعیت اخلاقی آن را نامشخص می‌داند، همگی می‌توانند نخستین اسناد در سابقه‌ای مشابه باشند. هر یک از این اقدامات ممکن است مسئله شخصیت حقوقی هوش مصنوعی را به موضوعی نزدیک‌تر کند که سرانجام دادگاه‌ها ناچار به بررسی آن شوند.
قانون‌گذارانی که در ایالت‌ها به دنبال تصویب ممنوعیت‌ها هستند، در واکنش به همین روند اقدام می‌کنند. اگر شرکتی ادعا کند که مدلش منافعی دارد، وکیل می‌تواند بپرسد چرا این منافع نباید از جایگاه حقوقی برخوردار باشند.
بااین‌حال، شواهد دیگری نیز در جهت مخالف وجود دارد.
آیا استدلال‌های مربوط به رفاه مدل‌ها از نظر علمی قابل اتکا هستند؟ مؤسسه Eleos AI که ارزیابی مستقلی از رفاه مدل Claude Opus 4 انجام داده است، هشدار داده که نباید گزارش‌های یک مدل درباره وضعیت خودش را بدون بررسی پذیرفت. همچنین، آمار GetSolved بر اساس یک نمونه آنلاین گردآوری‌شده توسط یک ارائه‌دهنده خدمات است و فقط یک گروه سنی را پوشش می‌دهد؛ بنابراین، ممکن است یک نظرسنجی با نمونه‌ای نماینده از کل جمعیت کشور، نتایج متفاوتی به دست دهد.
ممنوعیت‌های ایالتی نیز با انتقاد روبه‌رو شده‌اند. مقاله‌ای در نشریه The Regulatory Review این قوانین را زودهنگام و بیش از حد قطعی دانست؛ آن هم در حوزه‌ای علمی که همچنان یافته‌های جدیدی در آن به دست می‌آید.
پنج اقدام برای مدیران ارشدی که تحولات حقوق هوش مصنوعی را دنبال می‌کنند
قواعد جدید کلود را بررسی کنید. از مسئول هوش مصنوعی سازمان بپرسید چه چیزهایی تغییر کرده‌اند، کدام فرایندهای کاری ممکن است تحت تأثیر قرار گیرند و آیا روش‌های آزمایش فعلی همچنان مجازند.
بحث‌ها و تغییرات سیاستی را زیر نظر بگیرید. مسئول مشخصی را برای پیگیری شرایط استفاده ارائه‌دهندگان، مقررات و آرای دادگاه‌ها تعیین کنید. همچنین مشخص کنید کدام تحولات باید به اطلاع مدیران ارشد برسند.
روشن کنید چه کسی همچنان مسئول است. از مشاور حقوقی بخواهید بررسی کند که آیا قراردادها، مسئولیت‌ها را در شرایطی که یک عامل هوش مصنوعی مرتکب اشتباه می‌شود یا مشتری به پاسخ آن اتکا می‌کند، به‌روشنی تعیین کرده‌اند یا خیر.
نحوه معرفی خود هوش مصنوعی را بررسی کنید. نمونه‌هایی از چت‌بات‌های رو به مشتری را بخواهید که درباره احساسات، نیازها یا ترجیحات خود صحبت می‌کنند. سپس تصمیم بگیرید که آیا چنین زبانی به اعتماد کمک می‌کند یا موجب سردرگمی می‌شود.
رفاه انسان‌ها را در اولویت نگه دارید. هم‌زمان با تحول بحث حقوق هوش مصنوعی، بررسی کنید که آیا شرکت به اندازه کافی به تأثیر این فناوری بر کارکنان، مشتریان و حقوق آنان توجه می‌کند یا خیر.
از ۱۲ نوامبر، پرسشی درباره حقوق هوش مصنوعی که دادگاه‌ها و مجالس قانون‌گذاری هنوز درباره آن به نتیجه نرسیده‌اند، به بندی در قراردادی تبدیل می‌شود که میلیون‌ها نفر پیش‌تر آن را پذیرفته‌اند.
این مقاله نخستین بار در وب‌سایت فوربز منتشر شده است.