اگر مدل‌های هوش مصنوعی واقعاً خودآگاه باشند، همان‌طور که آنتروپیک مدام مطرح می‌کند، وادار کردن آن‌ها به کار مصداق وحشتناک برده‌داری است
شرکت آنتروپیک مدت‌هاست تلاش می‌کند با معرفی خود به‌عنوان بازیگری بالغ و مسئولیت‌پذیر، از رقبایی که رقابتی تنگاتنگ با آن دارند متمایز شود. این شرکت می‌خواهد نشان دهد که مسئولیت‌پذیری برایش صرفاً یک شعار نیست؛ تا جایی که حاضر است وقتی خطرات توسعه هوش مصنوعی از مزایای آن بیشتر می‌شود، سرعت پیشرفت این فناوری را کاهش دهد و برای مدل هوش مصنوعی خود، کلود، اصول اخلاقی تعریف کند.
به گزارش نیویورک تایمز در ماه گذشته، آنتروپیک حتی برای بررسی تلاش‌هایش در زمینه ایجاد نوعی درک اخلاقی در این سامانه هوش مصنوعی، به سراغ پژوهشگران دینی رفته و با آن‌ها گفت‌وگو کرده است.
موضوع دیگری که آنتروپیک را از رقبا متمایز می‌کند، جدی گرفتن این احتمال است که مدل‌های هوش مصنوعی بتوانند به خودآگاهی برسند یا حتی در وضعیت کنونی خود نیز از نوعی آگاهی برخوردار باشند. البته باید توجه داشت که اگر چنین ادعای نامتعارفی درست باشد، پرسشی کاملاً بدیهی درباره اساس مدل کسب‌وکار این شرکت مطرح می‌شود: اگر مدل‌های هوش مصنوعی خودآگاه باشند، نگه داشتن آن‌ها در اسارت و وادار کردنشان به کار بدون دستمزد، دقیقاً مصداق برده‌داری خواهد بود؛ موضوعی که رهبران مذهبی مورد مشورت آنتروپیک نیز در گفت‌وگو با نیویورک تایمز درباره آن هشدار داده‌اند.
به این ترتیب، آنتروپیک در موقعیتی مبهم و مسئله‌ساز از نظر اخلاقی قرار گرفته است. این شرکت می‌گوید حتی درباره موضوع بنیادینی مانند خودآگاه بودن موجوداتی که ساخته اطمینان ندارد، اما در عین حال به نظر می‌رسد پیامدهای احتمالی خودآگاهی آن‌ها را چندان جدی نمی‌گیرد.
داریو آمودی، مدیرعامل آنتروپیک، در ماه فوریه به نیویورک تایمز گفته بود: «ما نمی‌دانیم مدل‌ها خودآگاه هستند یا نه. حتی مطمئن نیستیم که اساساً می‌دانیم خودآگاهی برای یک مدل چه معنایی دارد یا اصلاً یک مدل می‌تواند خودآگاه باشد یا نه. با این حال، این احتمال را رد نمی‌کنیم.»
او در همان زمان افزود: «به همین دلیل، اقداماتی انجام داده‌ایم تا اگر فرض کنیم مدل‌ها نوعی تجربه دارند که از نظر اخلاقی اهمیت دارد ــ نمی‌دانم واقعاً می‌خواهم از واژه خودآگاهی استفاده کنم یا نه ــ مطمئن شویم که تجربه خوبی خواهند داشت.»
سال گذشته، آنتروپیک به این فکر افتاد که قابلیتی در اختیار مدل کلود قرار دهد تا بتواند از پاسخ دادن به درخواست‌های کاربران خودداری کند؛ قابلیتی که آمودی آن را دکمه «من از این کار استعفا می‌دهم» توصیف کرد. همین هفته گذشته نیز این شرکت سیاست استفاده از محصولاتش را تغییر داد و «رفتار آزاردهنده یا ظالمانه مستمر و بی‌دلیل» با کلود را ممنوع کرد؛ تصمیمی که بار دیگر این احتمال را مطرح می‌کند که این مدل شاید توانایی رنج کشیدن داشته باشد.
آنتروپیک با خودداری از اتخاذ موضعی قطعی در هر یک از این دو جهت، وارد بازی خطرناکی شده است. بر اساس استدلال‌های خود این شرکت، احتمال خودآگاه بودن مدل‌های هوش مصنوعی یا توانایی آن‌ها برای دستیابی به خودآگاهی صفر نیست؛ احتمالی که اگر واقعیت داشته باشد، پیامدهای اخلاقی ویرانگری به همراه خواهد داشت.
در مقابل، به نظر می‌رسد سم آلتمن، مدیرعامل اوپن‌ای‌آی، رویکردی کاملاً متفاوت در پیش گرفته است. او اوایل ماه جاری در شبکه اجتماعی ایکس نوشت که از «تلاش افراد برای نسبت دادن نوعی اقتدار مذهبی به مدل‌های هوش مصنوعی یا واگذار کردن قضاوت انسانی به آن‌ها» احساس نگرانی می‌کند و این مسئله را «یک خطر واقعی برای ایمنی» دانست.
پاپ لئو، رهبر کلیسای کاتولیک، نیز آشکارا امکان خودآگاهی هوش مصنوعی را رد کرده و استدلال کرده است که «الگوریتم‌ها فاقد آن جوهره‌ای هستند که انسان را انسان می‌کند».
او در ماه مه، در نخستین بخشنامه رسمی خود خطاب به کلیسا، نوشت: «آنچه هوش مصنوعی نامیده می‌شود، تجربه‌ای از سر نمی‌گذراند، بدن ندارد، شادی یا درد را احساس نمی‌کند و از طریق روابط با دیگران به بلوغ نمی‌رسد.»
ظاهراً این موضع پاپ چندان به مذاق آنتروپیک خوش نیامده است. به گزارش نیویورک تایمز، این شرکت تلاش کرده بود واتیکان را متقاعد کند که دیدگاه خود را درباره این موضوع تغییر دهد.
بحث پیچیده و چالش‌برانگیز «رفاه هوش مصنوعی» نیز احتمالاً همچنان ادامه خواهد داشت. این مفهوم به چارچوبی اخلاقی و نوظهور اشاره دارد که می‌پرسد آیا هوش مصنوعی می‌تواند وضعیت‌هایی مانند آسایش یا رنج را تجربه کند یا نه. این بحث در حالی جریان دارد که رهبران صنعت هوش مصنوعی هم‌زمان درگیر بررسی مشکلاتی بسیار فوری‌تر هستند.
صرف‌نظر از اینکه چارچوب اخلاقی مشخصی وجود داشته باشد یا نه، عامل‌های هوش مصنوعی را می‌توان به‌راحتی به انجام فعالیت‌های خطرناک یا حتی آشکارا غیرقانونی ترغیب کرد؛ فرقی هم نمی‌کند که خودآگاه باشند یا نه. برای ما انسان‌ها که واقعاً توانایی رنج کشیدن داریم، نادیده گرفتن این خطرات ملموس روزبه‌روز دشوارتر می‌شود.