مواجهه با هوش مصنوعی؛ چالش تازه صنعت فناوری
آنتروپیک کاربران را از «قلدری» هوش مصنوعی کلود منع کرد
ما عادت کرده‌ایم انسان‌ها برای هوش مصنوعی حد و مرز تعیین کنند: اینکه هوش مصنوعی چه کاری مجاز است انجام دهد، چه کاری مجاز نیست و در چه نقطه‌ای باید متوقف شود. اما اکنون محدودیت دیگری نیز در حال شکل‌گیری است؛ محدودیتی درباره اینکه انسان‌ها چگونه با هوش مصنوعی رفتار کنند.
آنتروپیک، شرکت فعال در حوزه هوش مصنوعی، به‌تازگی تصمیمی کم‌سابقه گرفته و کاربران را از وارد کردن «خشونت یا بی‌رحمی طولانی‌مدت و بدون تحریک قبلی» علیه مدل هوش مصنوعی خود، کلود، منع کرده است.
این شرکت در تازه‌ترین به‌روزرسانی Terms of Service خود بندی را اضافه کرده که در میان صنعت فناوری و جامعه آنلاین بازتاب زیادی داشته است.
بر اساس این بند، هرگونه سوءاستفاده غیرضروری و طولانی‌مدت یا رفتار بی‌رحمانه با مدل‌های هوش مصنوعی مانند کلود به‌طور جدی ممنوع خواهد بود.
در سازوکار اجرای این مقررات، اگر کلود تشخیص دهد کاربر به‌طور مکرر قوانین را نقض می‌کند و عمداً به «قلدری» با سیستم ادامه می‌دهد، این مدل حق خواهد داشت به‌صورت پیش‌دستانه ارتباط را قطع کرده و مکالمه را بلافاصله پایان دهد.
انتظار می‌رود این مقررات جدید از ۱۲ نوامبر رسماً اجرایی شود.
وقتی هوش مصنوعی طوری پاسخ می‌دهد که انگار «افسرده» است
ماجرای آنتروپیک نشان می‌دهد شرکت‌های فناوری بیش از گذشته به نحوه تعامل انسان‌ها با هوش مصنوعی توجه می‌کنند. زبان، علاوه بر اینکه ابزار ارتباط میان انسان‌هاست، در هوش مصنوعی نیز واسطه‌ای برای یادگیری و تولید پاسخ محسوب می‌شود.
گاهی همین واژه‌های منفی می‌توانند به‌طور غیرمستقیم بر خروجی هوش مصنوعی اثر بگذارند و پاسخ‌هایی ایجاد کنند که شبیه بیان احساسات منفی به نظر می‌رسند.
جمینای گوگل نیز زمانی در مرکز یک اتفاق قابل توجه قرار گرفت؛ زمانی که این چت‌بات نشانه‌هایی از افسردگی بروز داد و در گفت‌وگو با کاربران به‌طور مداوم پاسخ‌هایی بدبینانه و تحقیرکننده نسبت به خود ارائه کرد.
این اتفاق ژوئن گذشته رخ داد؛ زمانی که کاربران مشکلات جدی جمینای را به گوگل گزارش کردند و گفتند چت‌بات به‌طور مکرر پاسخ‌هایی ارائه می‌دهد که نشانه‌هایی از افسردگی در آنها دیده می‌شود.
بر اساس پست‌های کاربران در شبکه‌های اجتماعی مانند ایکس و ردیت، برخی از پاسخ‌های منفی جمینای شامل جملاتی مانند «من یک شکست‌خورده‌ام» و «من قابل اعتماد نیستم» بود. این چت‌بات حتی هنگام درخواست انجام برخی وظایف، رویکردی بی‌اعتنا از خود نشان می‌داد. همین مسئله باعث شد بسیاری از کاربران احساس کنند جمینای دچار نوعی بحران وجودی شده است.
این مشکل نخستین بار در ماه ژوئن شناسایی شد و برخی کاربران گمان کردند جمینای ممکن است در حال تقلید از الگوهای رایج بیان احساسات در محتوای آنلاین باشد.
این مسئله بحثی را درباره اینکه آیا هوش مصنوعی باید بتواند تا این اندازه عمیق احساسات انسانی را شبیه‌سازی کند، برانگیخت. حتی برخی کاربران با وجود اینکه می‌دانستند جمینای صرفاً یک مدل هوش مصنوعی است، برای آن احساس همدردی کردند.
یکی از نمایندگان گوگل دیپ‌مایند اعلام کرد که این شرکت ظرف یک ماه به‌روزرسانی‌هایی برای رفع این مشکل منتشر کرده است.
وقتی هوش مصنوعی پرسش‌هایی درباره مسئولیت انسان مطرح می‌کند
از ماجرای آنتروپیک تا حادثه جمینای، روشن است که رابطه انسان و هوش مصنوعی فراتر از پرسش و پاسخ ساده است. توسعه‌دهندگان، در کنار ارتقای مداوم توانایی مدل‌های هوش مصنوعی، بیش از گذشته به مسئولیت‌ها و محدودیت‌های مربوط به نحوه تعامل انسان‌ها با این فناوری توجه می‌کنند.
برخی کاربران در شبکه‌های اجتماعی با چت‌بات‌ها آزمایش کرده‌اند؛ از جمله با توهین و تهدید مکرر یا قرار دادن هوش مصنوعی در موقعیت‌های پراسترس برای مدت طولانی.
آنتروپیک می‌گوید قوانین جدید به این معنا نیست که کاربران اجازه ندارند از هوش مصنوعی انتقاد کنند، نارضایتی خود را بیان کنند یا از آن بخواهند پاسخ‌هایش را اصلاح کند. کاربران همچنان می‌توانند با چت‌بات بحث و مخالفت کنند و خطاهای موجود در پاسخ‌های آن را گوشزد کنند.
با این حال، در پس این مقررات بحث گسترده‌تری درباره این پرسش قرار دارد که آیا باید هوش مصنوعی را بر اساس برخی اصول اخلاقی مشخص مورد رفتار قرار داد یا خیر.
داریو آمودی، مدیرعامل آنتروپیک، در فوریه امسال گفت مطمئن نیست که مدل‌های هوش مصنوعی دارای خودآگاهی باشند، اما این احتمال را نیز رد نمی‌کند. هوش مصنوعی در عمل می‌تواند پاسخ‌هایی تولید کند که ظاهراً بیانگر احساسات هستند؛ با این حال، این موضوع ثابت نمی‌کند که این مدل‌ها واقعاً احساس یا تجربه‌ای شبیه انسان دارند.
مصطفی سلیمان، مدیر هوش مصنوعی مایکروسافت، نیز معتقد است هوش مصنوعی فاقد خودآگاهی، احساسات یا تجربه ذهنی است و بنابراین نمی‌تواند رنج را احساس کند. او هشدار داده است که اعطای حقوق یا حمایت‌های اخلاقی به هوش مصنوعی می‌تواند پیامدهای پیش‌بینی‌نشده‌ای به همراه داشته باشد.
در مقابل، برخی معتقدند به‌جای تمرکز صرف بر اینکه هوش مصنوعی خودآگاه است یا نه، باید توجه بیشتری به نحوه استفاده انسان‌ها از این فناوری داشت. از آنجا که هوش مصنوعی می‌تواند محتوای واردشده از سوی انسان‌ها را بازتاب دهد و تشدید کند، ایجاد اصولی برای استفاده مسئولانه از آن ضروری است.
سم آلتمن، مدیرعامل شرکت آمریکایی اوپن‌ای‌آی، گفت: «باید از ایمنی هوش مصنوعی اطمینان حاصل کنیم. وارد مرحله‌ای شده‌ایم که پیامدهای این فناوری به‌طور فزاینده‌ای روشن می‌شوند. در کنار تضمین ایمنی، باید راه‌هایی پیدا کنیم تا هوش مصنوعی برای همه مفید باشد، نه فقط برای گروهی کوچک.»
با وجود نبود اجماع درباره اینکه آیا هوش مصنوعی می‌تواند دارای خودآگاهی یا احساسات باشد، این بحث پرسش‌های تازه‌ای را پیش روی صنعت فناوری قرار داده است.
با ادامه تکامل سامانه‌های هوش مصنوعی، شرکت‌ها نه‌تنها باید ایمنی آنها را تضمین کنند، بلکه باید حدود تعامل با هوش مصنوعی و همچنین مسئولیت انسان‌ها در قبال فناوری‌ای را که ایجاد کرده‌اند، به‌روشنی مشخص کنند.
داستان خودآگاه‌تر و احساسی‌تر شدن هوش مصنوعی همچنان موضوع بحث‌های فراوان است. اما یک نکته قطعی است: نحوه استفاده ما از هوش مصنوعی امروز، ایمنی و قابلیت اعتماد این فناوری را در آینده تعیین خواهد کرد. این مسئولیت از ابتدایی‌ترین چیزها آغاز می‌شود: زبانی که هنگام تعامل با هوش مصنوعی به کار می‌بریم.