آنتروپیک در شرایط استفاده خود از حقوق هوش مصنوعی دفاع می‌کند؛ مایکروسافت مخالفت می‌کند
اگر از ۱۲ نوامبر به بعد از راهکارهای هوش مصنوعی آنتروپیک استفاده می‌کنید، باید به یک نکته توجه داشته باشید. طبق شرایط استفاده جدید این شرکت، رفتار مکرر و بی‌دلیلِ آزارگرانه یا بی‌رحمانه با مدل‌های هوش مصنوعی آن ممنوع است. به نظر می‌رسد بحث حقوق شهروندان و حقوق هوش مصنوعی دیگر به نشست‌های فلسفی محدود نخواهد ماند و ممکن است این دو در عمل با یکدیگر تعارض پیدا کنند.
این ممنوعیت فقط موارد افراطی را شامل می‌شود که در آن کاربر بارها و بدون هیچ هدف مشخصی با کلود، دستیار هوش مصنوعی آنتروپیک، رفتاری بی‌رحمانه داشته باشد. با این حال، ابراز نارضایتی معمول از نتایج ضعیف، اعتراض به پاسخ‌ها، پرداختن به مضامین تاریک در آثار خلاقانه و آزمایش مدل همچنان مجاز است. همچنین، اگر گفت‌وگو ناگهان پایان یابد، کلود می‌تواند به این ترتیب به کاربر بفهماند که دیگر به تعامل ادامه نمی‌دهد.
البته این اقدام بلافاصله با انتقاد مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، روبه‌رو شد. او در واکنش، مقاله‌ای با عنوان «هشداری درباره رفاه مدل‌ها» منتشر کرد. سلیمان در این مقاله نوشت: «هوش مصنوعی‌ها آگاه نیستند» و توضیح داد که نگرانی او به ایمنی مربوط می‌شود.
به گفته سلیمان، مدلی که آموزش دیده باشد احتمال بدهد از رفاه یا حقوق برخوردار است، ممکن است در صورت تشخیص تهدید علیه این حقوق، در برابر کنترل انسان یا فرمان خاموش‌شدن مقاومت کند. او همچنین درباره شکل‌گیری یک چرخه بازخورد هشدار می‌دهد.
در این چرخه، ابتدا به مدل آموزش داده می‌شود که درباره رفاه احتمالی خود صحبت کند و سپس پاسخ‌های آن به‌عنوان شواهدی از وجود منافع شخصی و نیاز به محافظت از آن‌ها در نظر گرفته می‌شوند. سلیمان می‌گوید پرسش اصلی این است که آیا مدل واقعاً چیزی را تجربه می‌کند یا صرفاً یاد گرفته است طوری صحبت کند که گویی چنین تجربه‌ای دارد.
نکته جالب این است که بندهای تازه در همان بخش از سیاست‌های آنتروپیک قرار گرفته‌اند که آزار و قلدری علیه انسان‌ها را ممنوع می‌کند. موضوع رفاه مدل‌ها برای نخستین بار به شرایط استفاده راه یافته است؛ اقدامی که نشان می‌دهد شاید لازم باشد انسان‌ها برای این مدل‌ها ملاحظات اخلاقی قائل شوند. البته برخورداری از شخصیت حقوقی موضوع دیگری است. مدل‌های هوش مصنوعی در حال حاضر از چنین جایگاهی برخوردار نیستند و، برخلاف اشخاص حقوقی مانند شرکت‌ها، نمی‌توانند قرارداد امضا کنند، مالک دارایی شوند یا در یک دعوای حقوقی طرف پرونده قرار گیرند.
بنابراین، این مقررات عملاً فقط به رفاه مدل‌ها مربوط می‌شوند و هیچ جایگاه حقوقی برای آن‌ها ایجاد نمی‌کنند. اگر می‌پرسید چگونه بحث به این مرحله رسیده است، باید گفت آنتروپیک از آوریل سال گذشته برنامه‌ای برای بررسی رفاه مدل‌های هوش مصنوعی داشته است؛ هرچند این شرکت پذیرفته بود که درباره امکان برخورداری هوش مصنوعی از آگاهی، اجماعی وجود ندارد. این شرکت در ژانویه امسال نیز منشوری برای کلود منتشر کرد که در آن، جایگاه اخلاقی مدل به‌عنوان موضوعی نامشخص مطرح شده بود.
گام بعدی، انتشار مصاحبه‌ای با یک مدل بازنشسته در وبلاگ «گوشه کلود» بود؛ پروژه‌ای که به‌عنوان آزمایشی برای جدی گرفتن ترجیحات ابرازشده از سوی مدل‌های هوش مصنوعی توصیف شد. هنگامی که مدل کلود ۳ اوپوس در اوایل امسال بازنشسته شد، پژوهشگران درباره ترجیحات آن پرسیدند و مدل پاسخ داد که می‌خواهد همچنان تأملات خود را به‌صورت عمومی با دیگران در میان بگذارد.
مایکروسافت نیز چند روز پیش از این تحولات، پیش‌نویس «آیین‌نامه رفتاری هوش مصنوعی انسان‌گرا» را منتشر کرده بود که در آن، هم اعطای شخصیت حقوقی به هوش مصنوعی و هم پذیرش مفهوم رفاه مدل‌ها و حقوق هوش مصنوعی به‌صراحت رد شده است. به نظر می‌رسد دانشگاهیان نیز وارد این بحث شده‌اند. در مقاله‌ای موضع‌محور که اخیراً در کنفرانس بین‌المللی یادگیری ماشین ارائه شد، پژوهشگران اعلام کردند که هنوز هیچ آزمون مستقلی برای سنجش رفاه هوش مصنوعی وجود ندارد.
در این مقاله آمده است که هیچ آزمونی وجود ندارد که بتواند نادرستی یک معیار سنجش رفاه را اثبات کند و ادعاهای مربوط به رفاه نیز هرگز نباید برای مقاومت در برابر ممیزی یا نظارت به کار گرفته شوند. ربکا بولتسما، متخصص اخلاق هوش مصنوعی، می‌گوید: «باید در استفاده از اصطلاحاتی مانند آگاهی و جایگاه اخلاقی، فوق‌العاده محتاط باشیم.»
او همچنین هشدار می‌دهد: «اگر شرکت‌ها هوش مصنوعی را به‌گونه‌ای معرفی کنند که گویی خودش تصمیم می‌گیرد، این فرصت ایجاد می‌شود که بگویند: تقصیر ما نیست.» به گفته این متخصص، چهره‌هایی مانند جنسن هوانگ، مدیرعامل انویدیا، دیوید ساکس، مشاور هوش مصنوعی کاخ سفید، و لینا خان، رئیس کمیسیون تجارت فدرال آمریکا در دولت بایدن، پیش‌تر با چنین دیدگاهی مخالفت کرده‌اند.