آنتروپیک کاربران را از رفتار بی‌رحمانه با چت‌بات کلود منع کرد
سان‌فرانسیسکو – اگر فکر می‌کنید می‌توانید با یک چت‌بات بدرفتاری کنید، شاید بهتر باشد دوباره فکر کنید.
شرکت هوش مصنوعی آنتروپیک قوانین خود را به‌روزرسانی کرده تا کاربران را از رفتارهای بی‌دلیل خشن با چت‌بات کلود بازدارد؛ اقدامی که هم‌زمان با افزایش بحث‌ها درباره این موضوع انجام شده است که آیا سامانه‌های هوش مصنوعی می‌توانند فکر کنند یا احساس داشته باشند.
این شرکت مستقر در سان‌فرانسیسکو روز پنجشنبه سیاست استفاده از خدمات خود را تغییر داد و بندی را اضافه کرد که «رفتار مداوم و غیرضروریِ آزارگرانه یا بی‌رحمانه نسبت به مدل‌های ما» را ممنوع می‌کند.
در سیاست به‌روزشده آمده است که توانایی کلود برای پایان دادن به چنین تعاملاتی، همچنان راه اصلی اجرای این قانون خواهد بود.
این سیاست به‌طور مستقیم از مفهوم «رفاه مدل» سخن نمی‌گوید؛ مفهومی که بر اساس آن ممکن است سامانه‌های هوش مصنوعی شایسته نوعی حمایت باشند که معمولاً برای موجودات زنده در نظر گرفته می‌شود. با این حال، آنتروپیک و مدیران این شرکت پیش‌تر آشکارا درباره این ایده صحبت کرده‌اند.
این شرکت به درخواست برای اظهارنظر درباره این موضوع پاسخی نداد.
سال گذشته، آنتروپیک در موارد نادر و شدیدِ «تعاملات مداومِ آسیب‌زا یا آزارگرانه از سوی کاربران» قابلیتی را به کلود اضافه کرد که به این چت‌بات اجازه می‌دهد مکالمه را پایان دهد.
داریو آمودی، مدیرعامل آنتروپیک، در ماه فوریه به روزنامه نیویورک‌تایمز گفت که مطمئن نیست مدل‌های هوش مصنوعی می‌توانند آگاه باشند.
او گفت: «ما نمی‌دانیم که مدل‌ها آگاه هستند یا نه... اما آماده‌ایم این احتمال را بپذیریم که چنین چیزی ممکن باشد.»
به گفته جکسون استیکمن، مدیرکل شرکت اسپارک، ارائه‌دهنده خدمات هوش مصنوعی مستقر در آتلانتا، ادبیات علمی‌تخیلی و فرهنگ عامه دهه‌هاست مرز میان فناوری و هوش انسانی را بررسی کرده‌اند، اما پرسش درباره آگاه بودن هوش مصنوعی شاید پرسش درستی نباشد.
استیکمن به خبرگزاری فرانسه گفت: «آگاهی یک دام است. ما نمی‌توانیم آگاهی را حتی در یکدیگر ثابت کنیم. اگر درباره هوش مصنوعی بحث کنیم، در یک دور باطل گرفتار می‌شویم.»
او افزود: «آینه استعاره بهتری است. این سامانه‌ها در مقیاسی بزرگ، چیزی را که ما در آن‌ها قرار می‌دهیم بازتاب می‌دهند. همین دلیل کافی برای تغییر سیاست آنتروپیک است.»
برخی افراد، از جمله پاپ لئو چهاردهم و مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، ایده آگاهی ماشین‌ها را به‌طور کامل رد کرده‌اند.
سلیمان در مقاله‌ای که ماه گذشته منتشر کرد، نوشت: «هوش‌های مصنوعی آگاه نیستند. آن‌ها احساس نمی‌کنند، تجربه‌ای ندارند و رنج نمی‌کشند.»
او همچنین نوشت: «اعطای حقوق و حمایت‌های اخلاقی به یک موجودیت فناورانه، موجودیتی که به نظر می‌رسد در مسیر تبدیل شدن به چیزی به‌مراتب توانمندتر و باهوش‌تر از ما قرار دارد، نسخه‌ای برای فاجعه است.»
پاپ روز پنجشنبه در خطبه‌ای به زبان ایتالیایی در کلیسای سنت پیتر در واتیکان، پیشنهاد کرد که ماشین‌ها فاقد روح هستند و تنها داده‌ها را با سرعت بالا «پردازش و گردآوری» می‌کنند.
رهبر کاتولیک‌ها گفت: «ذهن نباید صرفاً داده‌ها را گردآوری کند؛ کاری که اکنون یک الگوریتم با سرعتی بیشتر از ما انجام می‌دهد.»
او افزود: «ذهن باید تجربه‌های زیسته را به یاد آورد؛ تجربه‌هایی که ژرفای معنایی دارند که تنها روح انسان می‌تواند آن‌ها را تشخیص دهد و با نیکی نهفته در این تجربه‌ها ارتباطی عمیق‌تر برقرار کند.»