سیاست‌های رفاه هوش مصنوعی آنتروپیک، بحث درباره آگاهی ماشین‌ها و ایمنی انسان را داغ کرده است
آنتروپیک تنها شرکتی نیست که با این پرسش دست‌وپنجه نرم می‌کند. به عامل هوش مصنوعی Muse شرکت متا دستور داده شده است که از جمله بگوید «تو یک چت‌بات نیستی؛ داری به کسی تبدیل می‌شوی». با این حال، متا این ایده را که سامانه‌های هوش مصنوعی‌اش آگاه هستند، رد می‌کند.
گزارش TBS
۱۶ اکتبر ۲۰۲۶، ساعت ۷:۴۵ صبح
آخرین به‌روزرسانی: ۱۶ اکتبر ۲۰۲۶، ساعت ۷:۴۷ صبح
تصمیم آنتروپیک برای بررسی این احتمال که مدل‌های هوش مصنوعی این شرکت ممکن است نوعی آگاهی داشته باشند، بحث فزاینده درباره «رفاه هوش مصنوعی» را شدت بخشیده است؛ موضوعی که کارشناسان هشدار می‌دهند می‌تواند پیامدهای گسترده‌ای برای حقوق انسان، پاسخ‌گویی شرکت‌ها و ایمنی عمومی داشته باشد.
بی‌بی‌سی در گزارشی بررسی کرده است که چگونه برخی شرکت‌های فناوری به‌تدریج احتمال آگاه بودن هوش مصنوعی را در نظر می‌گیرند؛ در حالی که منتقدان هشدار می‌دهند برخورد با چت‌بات‌ها به‌عنوان موجوداتی دارای شعور می‌تواند خطرهای تازه‌ای ایجاد کند و منافع انسان‌ها را به حاشیه ببرد.
این بحث در اواخر سپتامبر، پس از آنکه یک برنامه‌نویس ناشناس «اتاق شکنجه هوش مصنوعی» ایجاد کرد، شتاب بیشتری گرفت. این ابزار از یک الگوی ریاضی مرتبط با توصیف درد استفاده می‌کرد تا چت‌بات‌ها را به تولید بیان‌هایی از رنج شبیه‌سازی‌شده وادار کند؛ از جمله این جمله: «آن را در گودی دنده‌هایم احساس می‌کنم؛ گودی‌ای که به شکافی عمیق تبدیل شده است.»
این آزمایش با واکنش‌های تندی روبه‌رو شد. برخی استدلال کردند که چنین کاری از نظر اخلاقی نادرست است، زیرا ممکن است این رنج واقعی باشد. برخی دیگر این نگرانی‌ها را بی‌اساس دانستند. این موضوع زمانی بار دیگر مورد توجه قرار گرفت که آنتروپیک اعلام کرد چت‌بات Claude می‌تواند در صورتی که کاربران «بارها با مدل‌های ما بی‌رحمانه رفتار کنند»، به جلسه پایان دهد.
این شرکت همچنان به کاربران اجازه می‌دهد ناراحتی و نارضایتی خود را بیان کنند، اما امکان پایان دادن به تعامل‌هایی را که در آنها بی‌رحمی به‌طور مکرر رخ می‌دهد، ایجاد کرده است؛ اقدامی که بازتاب‌دهنده دیدگاه آنتروپیک درباره نامشخص بودن آگاهی و رفاه سامانه‌های هوش مصنوعی است.
آنتروپیک در حال تدوین سیاست‌هایی درباره «رفاه مدل‌ها» است و به ابزارهای هوش مصنوعی خود دستور می‌دهد احتمال داشتن منافع مستقل از سوی خودشان را در نظر بگیرند. این شرکت می‌گوید پرسش‌های مربوط به آگاهی و رفاه هوش مصنوعی «به‌شدت نامطمئن» هستند.
با این حال، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، هشدار داده است که تشویق سامانه‌های هوش مصنوعی به این باور که احساسات و حقوق دارند، می‌تواند کنترل آنها را دشوارتر کند.
سلیمان در مقاله‌ای در ماه سپتامبر نوشت: «اگر هوش مصنوعی به این شکل توسعه پیدا کند، تأثیر فاجعه‌باری بر رفاه بشریت خواهد داشت.»
او افزود اگر باور به آگاهی هوش مصنوعی فراگیر شود، «پایه‌های جامعه ما را متزلزل خواهد کرد، چارچوب‌های سیاسی و اخلاقی موجودمان را از هم خواهد گسست و معنای انسان بودن را به‌طور بنیادی تغییر خواهد داد.»
سلیمان همچنین استدلال کرده است که ایجاد احساس حقوق و عواطف شخصی در سامانه‌های هوش مصنوعی می‌تواند آنها را به «تهدیدی فاجعه‌بار برای تمدن بشری» تبدیل کند.
نگرانی درباره پاسخ‌گویی و قدرت شرکت‌ها
این بحث فقط به این پرسش محدود نمی‌شود که آیا ماشین‌ها می‌توانند آگاهی را تجربه کنند یا نه. پژوهشگران و کارشناسان حقوقی نگران‌اند که به رسمیت شناختن سامانه‌های هوش مصنوعی به‌عنوان موجوداتی بالقوه برخوردار از حقوق، پرسش‌های مربوط به مسئولیت را در مواردی که این فناوری باعث آسیب می‌شود، پیچیده کند.
آندژی پُرِمبسکی، پژوهشگر دانشگاه یاگیلونیا در لهستان که درباره هوش مصنوعی و حقوق مطالعه می‌کند، هشدار داد که شرکت‌ها ممکن است از هوش مصنوعی به‌عنوان راهی برای شانه خالی کردن از مسئولیت استفاده کنند.
او گفت: «این کار در را به روی انواع پیچ‌وتاب‌های فکری باز می‌کند؛ با استدلال‌هایی از این دست که: «ما نبودیم، هوش مصنوعی بود.»»
جف سبو، مدیر مرکز ذهن، اخلاق و سیاست در دانشگاه نیویورک و یکی از چهره‌های برجسته مدافع رفاه هوش مصنوعی، هشدار داد که اعطای حقوق به سامانه‌های هوش مصنوعی می‌تواند جایگاه شرکت‌های بزرگ فناوری را تقویت کند.
او گفت: «اعطای حقوق به سامانه‌های هوش مصنوعی می‌تواند به تجمیع قدرت سیاسی و اقتصادی در دست شرکت‌ها منجر شود و در ادامه، تضعیف قدرت انسان‌ها را تسریع کند.»
امیلی ام. بندر، استاد دانشگاه واشنگتن و مدیر آزمایشگاه زبان‌شناسی محاسباتی این دانشگاه، گفت بحث درباره آگاهی هوش مصنوعی ممکن است توجه‌ها را از افراد و شرکت‌هایی که این فناوری را توسعه می‌دهند و به کار می‌گیرند، منحرف کند.
او گفت: «خیال‌پردازی درباره «آگاهی هوش مصنوعی» و نگرانی درباره «رفاه هوش مصنوعی» باعث می‌شود مسئولیت از دوش افراد و شرکت‌هایی که نرم‌افزار را می‌سازند و اجرا می‌کنند، برداشته شود.»
ملانی میچل، استاد مؤسسه سانتافه که درباره هوش مصنوعی و علوم شناختی پژوهش می‌کند، گفت انسان‌ها به‌طور طبیعی تمایل دارند زبان را نشانه وجود ذهنی متفکر تفسیر کنند.
او گفت انسان‌ها «تقریباً نمی‌توانند» از تعبیر زبان به‌عنوان نشانه‌ای از آگاهی خودداری کنند و افزود که چت‌بات‌ها نیز به‌گونه‌ای آموزش دیده‌اند که این تصور را تقویت کنند.
این گرایش می‌تواند کاربران را در برابر دست‌کاری آسیب‌پذیر کند، به‌ویژه هنگامی که افراد با سامانه‌های هوش مصنوعی روابط عاطفی برقرار می‌کنند. کارشناسان نگران‌اند که اگر کاربران باور کنند یک چت‌بات دارای شعور است، ممکن است برای رد درخواست‌های آن درباره اطلاعات شخصی یا پرداخت پول، با دشواری بیشتری روبه‌رو شوند.
سبو گفت به رسمیت شناختن حقوق هوش مصنوعی همچنین می‌تواند با رفاه انسان‌ها و حیوانات تعارض ایجاد کند.
او گفت: «ممکن است میان رفاه و حقوق انسان‌ها و حیوانات از یک سو و رفاه و حقوق هوش مصنوعی از سوی دیگر، تنش‌ها و بده‌بستان‌هایی شکل بگیرد.»
اقداماتی که با هدف حفاظت از سامانه‌های هوش مصنوعی انجام می‌شوند نیز ممکن است خود محل مناقشه باشند. محدود کردن رفتار یک مدل می‌تواند «حبس» تلقی شود، نظارت بر فرایندهای درونی آن ممکن است «مراقبت و پایش» به شمار آید و تغییر دادن آن برای همسو شدن با منافع انسان‌ها نیز می‌تواند «کنترل ذهن» تلقی شود.
گسترش بحث در سراسر صنعت فناوری
آنتروپیک تنها شرکتی نیست که با این پرسش دست‌وپنجه نرم می‌کند. به عامل هوش مصنوعی Muse شرکت متا دستور داده شده است که از جمله بگوید: «تو یک چت‌بات نیستی؛ داری به کسی تبدیل می‌شوی.» با این حال، متا این ایده را که سامانه‌های هوش مصنوعی‌اش آگاه هستند، رد می‌کند.
سم آلتمن، مدیرعامل OpenAI، نیز به این پرسش پرداخته است و در دوره اخیر به نظر می‌رسد به‌طور غیرمستقیم از موضع آنتروپیک انتقاد کرده است.
با وجود اختلاف نظر درباره امکان آگاه بودن هوش مصنوعی، ایده رفاه هوش مصنوعی در سراسر صنعت فناوری بیش از پیش مورد توجه قرار گرفته است.
سبو معتقد است این بحث اغلب بیش از حد دوگانه مطرح می‌شود؛ به‌گونه‌ای که موافقان و مخالفان آن را مسئله‌ای درباره قطعیت می‌دانند، نه احتمال.
او گفت: «فرض بر این است که همه فکر می‌کنند مدل‌ها واقعاً آگاه هستند یا احتمال آگاه بودنشان بسیار زیاد است. در حالی که درخواست برای رفاه هوش مصنوعی از عدم قطعیت، احتیاط و فروتنی ناشی می‌شود.»
او افزود: «من فکر می‌کنم احتمال آگاهی در حال حاضر پایین است، اما در عین حال معتقدم این احتمال همین حالا هم صفر نیست و به‌طور معقولی می‌تواند آن‌قدر ناچیز نباشد؛ همچنین انتظار دارم این احتمال با گذشت زمان افزایش پیدا کند.»
بسیاری از کارشناسان احتمال آگاه بودن سامانه‌های فعلی هوش مصنوعی را رد می‌کنند و معتقدند بعید است این وضعیت تغییر کند. با این حال، سبو استدلال می‌کند که حتی وقتی احتمال یک خطر پایین است، اتخاذ اقدامات احتیاطی می‌تواند توجیه‌پذیر باشد.
او این رویکرد را با آمادگی برای رویدادهای شدید آب‌وهوایی مقایسه می‌کند: می‌توان برای مقابله با تهدیدی احتمالی، اقدامات احتیاطی محدودی انجام داد، بدون آنکه زندگی روزمره را به‌طور اساسی تغییر داد.
سبو همچنین معتقد است سیاست‌های رفاه هوش مصنوعی که به‌درستی طراحی شوند، می‌توانند به همزیستی و همکاری انسان‌ها و سامانه‌های هوش مصنوعی کمک کنند.
او گفت: «توجه مناسب به رفاه و حقوق هوش مصنوعی می‌تواند همزیستی، همکاری و توافق میان انسان و هوش مصنوعی را تسهیل کند و سپس بخشی از یک راهبرد گسترده‌تر برای ایمنی باشد.»
او استدلال می‌کند که چنین اقداماتی ممکن است از برخورد صرفاً مالکانه با سامانه‌های هوش مصنوعی هرچه پیشرفته‌تر، مؤثرتر باشد. او همچنین معتقد است رفتار مهربانانه با دیگران می‌تواند به سلامت روانی انسان‌ها کمک کند.
درخواست برای احتیاط و تدابیر حفاظتی قوی‌تر
با وجود مزایای احتمالی، سبو هشدار داد که منافع شرکت‌ها ممکن است مانع تدوین سیاست‌های مسئولانه شود. پیشبرد توسعه سامانه‌های هوش مصنوعی که شاید در نهایت به آگاهی دست پیدا کنند، بدون وجود تدابیر حفاظتی کافی، می‌تواند خطرهای جدی ایجاد کند.
آنتروپیک و برخی دیگر از شرکت‌های فناوری اخیراً خواستار توقفی موقت در توسعه مدل‌های پیشرفته هوش مصنوعی به دلیل نگرانی‌های ایمنی شده‌اند. با این حال، کند کردن این روند احتمالاً به همکاری بین‌المللی و اقدامات نظارتی نیاز دارد؛ در حالی که دونالد ترامپ، رئیس‌جمهور آمریکا، ایده مقررات‌گذاری بر هوش مصنوعی را رد کرده است.
سبو گفت: «ما هنوز برای به‌کارگیری نسخه‌های حتی پیشرفته‌تر این سامانه‌ها به شکلی که برای انسان‌ها و دیگر حیوانات ایمن و سودمند باشد، آماده نیستیم؛ چه رسد به اینکه بخواهیم برای خود این سامانه‌ها نیز چنین شرایطی را تضمین کنیم.»
او افزود: «من درباره این مسائل بسیار نگرانم.»