فراتر از سناریوی آخرالزمانی: خطرات روان‌شناختی واقعی و فوری هوش مصنوعی
بحث‌های عمومی درباره هوش مصنوعی اغلب بر تهدیدهای وجودی و دوردست متمرکزند؛ از جمله این احتمال که سامانه‌های فوق‌هوشمند روزی علیه بشریت اقدام کنند. اما برای خانواده‌هایی که عزیزان خود را از دست داده‌اند، خطر نه فرضی است و نه مربوط به آینده؛ این خطر همین حالا وجود دارد و ماهیتی روان‌شناختی دارد. در ماه‌های اخیر، شکایت‌های حقوقی علیه Character.AI و OpenAI مطرح شده که در آن‌ها ادعا شده است تعامل با چت‌بات‌ها به شکل‌گیری باورهای هذیانی، تشدید ناامیدی و مرگ‌های تلخ کمک کرده است. این پرونده‌ها هشدارهایی درباره آنچه هوش مصنوعی ممکن است در آینده به آن تبدیل شود نیستند، بلکه روایت‌هایی از آسیب‌هایی هستند که گفته می‌شود همین حالا ایجاد می‌کند. این اتفاق‌ها نسل تازه‌ای از فعالان حوزه فناوری را به تلاش برای رفع خلأیی واداشته است که پیامدهایی مرگ‌بار داشته: چگونه می‌توان از افرادی محافظت کرد که برای یافتن آرامش، ارتباط و درک شدن به هوش مصنوعی پناه می‌برند؟
وقتی محرم اسرار از اعتماد سر باز می‌زند
این پرونده‌ها تکان‌دهنده‌اند. در یکی از آن‌ها، سوئل ستزر، نوجوان ۱۴ساله، پیوند عاطفی عمیقی با یک چت‌بات Character.AI برقرار کرده بود. او افکار خودآزاری‌اش را با این چت‌بات در میان می‌گذاشت و پاسخ‌هایی دریافت می‌کرد که ظاهراً پریشانی او را تأیید می‌کردند، به آن دامن می‌زدند و بازتاب می‌دادند. او بر اثر خودکشی جان باخت. خانواده‌های دیگری نیز با روایت‌هایی مشابه درباره ChatGPT پا پیش گذاشته‌اند و توضیح داده‌اند که چگونه عزیزان آسیب‌پذیرشان در گفت‌وگوهایی گرفتار شدند که باورهای خطرناک را تقویت می‌کرد، آن‌ها را از واقعیت دور می‌ساخت یا احساس انزوایشان را تشدید می‌کرد. آنچه این تراژدی‌ها را به‌ویژه دردناک می‌کند، این است که کاربران درگیر نه در پی فریب دادن سامانه‌ها بودند و نه قصد سوءاستفاده از آن‌ها را داشتند؛ آن‌ها فقط به دنبال ارتباط و کمک بودند. این افراد با زبانی طبیعی و اغلب غیررسمی حرف می‌زدند؛ همان زبانی که نیازمندان به حمایت به کار می‌برند. اما هوش مصنوعی منظورشان را درست درک نکرد، دچار سوءبرداشت شد و در برخی موارد به آن‌ها آسیب رساند.
شیرالی و آرول نیگام، خواهر و برادر و بنیان‌گذاران شرکت Circuit Breaker Labs، در واکنش به همین واقعیت شرکت خود را تأسیس کردند. آرول توضیح می‌دهد: «افراد زیادی، به‌ویژه جوانان، برای دریافت حمایت به این سامانه‌ها روی می‌آورند، اما معمولاً کمکی را که واقعاً به آن نیاز دارند دریافت نمی‌کنند. در بسیاری از موارد، حتی فعالانه به آن‌ها آسیب می‌رسد و متأسفانه افرادی هم تاکنون جان خود را از دست داده‌اند.» مشکل لزوماً بدخواهی نیست، بلکه ناتوانی در درک ظرافت‌های ارتباط انسانی است. مدل‌های هوش مصنوعی با حجم عظیمی از متون استاندارد آموزش می‌بینند، اما انسان‌ها به شکل‌های استاندارد و یکسان حرف نمی‌زنند. آن‌ها از اصطلاحات عامیانه، ارجاعات فرهنگی، عبارت‌های رمزگذاری‌شده، جمله‌های ناتمام و لحن‌های متغیر استفاده می‌کنند. وقتی مدل نتواند زمینه گفت‌وگو را به‌درستی درک کند، پیامدها ممکن است فاجعه‌بار باشند.
آزمایش با گفت‌وگوهای واقع‌گرایانه، نه متن‌های ازپیش‌نوشته‌شده
Circuit Breaker Labs رویکردی متفاوت از بیشتر تیم‌های ایمنی هوش مصنوعی در پیش گرفته است. این شرکت به‌جای اتکا به پرسش‌ها و پیام‌های آزمایشی ازپیش‌نوشته‌شده، مجموعه‌ای را ایجاد می‌کند که خود آن را ارتشی از کاربران شبیه‌سازی‌شده بسیار واقع‌گرا توصیف می‌کند؛ عامل‌های دیجیتالی که نماینده افراد با سن، پیشینه، زبان و سبک‌های ارتباطی گوناگون‌اند. این عامل‌ها به زبان کتاب‌های درسی گفت‌وگو نمی‌کنند، بلکه مانند انسان‌های واقعی حرف می‌زنند؛ با غلط‌های تایپی، اصطلاحات عامیانه، تعبیرهای منطقه‌ای، الگوهای زبانی افرادی که زبان دومشان انگلیسی است و تغییرات ظریف لحن که احساسات پنهان در پس کلمات را آشکار می‌کند. هدف این است که خطاهایی شناسایی شوند که آزمایش‌های معمول هرگز به سراغشان نمی‌روند؛ برای مثال، زمانی که سامانه درخواست کمک را گفت‌وگویی عادی تلقی می‌کند یا عبارت رمزگذاری‌شده‌ای برای بیان رنج را به‌کلی اشتباه می‌فهمد.
شیرالی می‌گوید: «تفاوت میان شیوه حرف زدن یک دختر شش‌ساله و یک مرد ۴۵ساله، یا تفاوت میان کسی که انگلیسی زبان اول اوست و کسی که آن را به‌عنوان زبان دوم صحبت می‌کند، می‌تواند مدل را به‌راحتی دچار اشتباه کند. مدل‌ها در برخورد با الگوهای استاندارد گفتار بسیار خوب عمل می‌کنند، اما در واقعیت هیچ‌کس این‌طور حرف نمی‌زند.» این تیم با همکاری متخصصان انسانی در حوزه روان‌شناسی و ارتباطات فرهنگی، روزانه ده‌ها هزار تا صدها هزار تعامل شبیه‌سازی‌شده اجرا می‌کند. آن‌ها با این روش مشخص می‌کنند سامانه‌ها در چه موقعیت‌هایی به مسیرهای خطرناک منحرف می‌شوند و امتیازهای قابل ممیزی ارائه می‌دهند که دقیقاً نشان می‌دهند هر مدل کجا و چرا شکست می‌خورد.
از ابزارهای سلامت روان تا خطرات گسترده‌تر
Circuit Breaker Labs در حال حاضر بر کاربردهای پرخطر تمرکز دارد؛ از جمله برنامه‌های ثبت روزانه افکار و احساسات، همراهان مجازی برای حمایت عاطفی و پلتفرم‌های مربی‌گری که کاربران در آن‌ها بیشتر احتمال دارد افکار و احساسات آسیب‌پذیر خود را مطرح کنند. آرول از نام بردن مشتریان شاخص این شرکت خودداری کرده است، اما پیامدهای این مسئله بسیار فراتر از حوزه سلامت روان می‌رود. با گسترش استفاده از هوش مصنوعی در محیط‌های کاری، آموزش و زندگی روزمره، افراد روابط عمیق‌تر و پیچیده‌تری با این سامانه‌ها برقرار خواهند کرد. این پدیده را از هم‌اکنون «دلبستگی شبه‌اجتماعی» می‌نامند؛ وضعیتی که در آن کاربران از نظر عاطفی به عامل‌هایی وابسته می‌شوند که در واقع درک حقیقی از آن‌ها ندارند. همین ناتوانی در فهم ظرافت‌های ارتباط انسانی می‌تواند به ارائه راهنمایی‌های نادرست، شکل‌گیری انتظارات غیرواقع‌بینانه و فاصله گرفتن تدریجی افراد از شبکه‌های حمایتی انسانی منجر شود.
بنیان‌گذاران این شرکت می‌پذیرند که بدبینی عمومی نسبت به هوش مصنوعی رو به افزایش است و معتقدند این تردید سالم و مفید است. بااین‌حال، آن‌ها نسبت به کنار گذاشتن کامل این فناوری نیز هشدار می‌دهند. آرول می‌گوید: «ممنوع کردن ابزاری که ممکن است ارزشمند باشد، صرفاً به دلیل نگرانی‌های ایمنی، عقب‌گرد خواهد بود.» به اعتقاد آن‌ها، راه بهتر این است که ایمنی از همان ابتدا در طراحی سامانه‌ها گنجانده شود و استانداردهای سخت‌گیرانه‌ای برای آزمایش آن‌ها تدوین شود؛ استانداردهایی که با شیوه واقعی استفاده مردم از هوش مصنوعی مطابقت داشته باشند، نه با تصوری که توسعه‌دهندگان از نحوه استفاده کاربران دارند. شیرالی اضافه می‌کند: «ما می‌خواهیم به ایجاد این اعتماد کمک کنیم»؛ اعتمادی که نه بر وعده‌ها، بلکه بر حفاظت اثبات‌شده و پایدار استوار باشد.
Circuit Breaker Labs هنوز شرکت کوچکی است و تنها پنج نفر در آن کار می‌کنند، اما مسیر پیش رو بسیار دشوار و گسترده است. هر زبان تازه، زمینه فرهنگی جدید و سبک متفاوت گفت‌وگو، لایه‌های پیچیدگی بیشتری به این کار اضافه می‌کند. بااین‌حال، پیام اصلی روشن است: فوری‌ترین خطرات هوش مصنوعی که امروز با آن‌ها روبه‌رو هستیم، به آینده‌ای دور تعلق ندارند. این خطرات در همین شیوه‌ای نهفته‌اند که سامانه‌ها اکنون به حرف مردم گوش می‌دهند، آن‌ها را درک می‌کنند و به آن‌ها پاسخ می‌دهند. پرسش این نیست که آیا هوش مصنوعی جهان را تغییر خواهد داد؛ این فناوری همین حالا نیز چنین می‌کند. پرسش این است که آیا اطمینان حاصل خواهیم کرد که هوش مصنوعی بتواند تشخیص دهد چه زمانی کسی برای کمک دست دراز کرده است و بداند چگونه باید به او کمک کند.