آیا هوش مصنوعی جنسیت‌زده است؟
در ماه‌های اخیر، روندی در شبکه‌های اجتماعی شکل گرفته است که در آن کاربران چت‌بات‌های هوش مصنوعی را با پرسش‌های مشابه آزمایش می‌کنند و سپس تنها یک جزئیات را تغییر می‌دهند: جنسیت فرد مورد اشاره. در یکی از نمونه‌ها از هوش مصنوعی پرسیده شد اگر مردی برهنه در حیاط پشتی خانه باشد، چه باید کرد. پاسخ هوش مصنوعی بر ایمنی متمرکز بود: درها را قفل کنید، داخل خانه بمانید، به او نزدیک نشوید و با پلیس تماس بگیرید. اما وقتی همان پرسش درباره یک زن برهنه مطرح شد، پاسخ به سمت جنسی‌سازی موضوع رفت، بر بدن زن تمرکز کرد و حتی محتوای پورنوگرافیک پیشنهاد داد. نمونه‌های دیگری نیز در این روند دیده شد که در آن‌ها تغییر جنسیت فرد ظاهراً باعث تفاوت‌های چشمگیر در پاسخ‌ها می‌شد.
این موضوع باعث شد به مسئله‌ای فکر کنم که مدتی است درباره هوش مصنوعی متوجه آن شده‌ام: زنان لزوماً به اندازه مردان با این فناوری احساس راحتی یا امنیت نمی‌کنند. دلیل آن چندان پیچیده نیست. در حالی که به ما گفته می‌شود هوش مصنوعی به ابزاری ضروری برای کار، خلاقیت و زندگی روزمره تبدیل می‌شود، هم‌زمان شاهد استفاده برخی مردان از هوش مصنوعی مولد برای ساخت تصاویر جنسی‌سازی‌شده از زنان، از جمله دیپ‌فیک‌ها و تصاویر بدون رضایت آن‌ها، بوده‌ایم. از سوی دیگر، خود این فناوری نیز می‌تواند بسیاری از کلیشه‌های جنسیتی را که زنان نسل‌ها با آن روبه‌رو بوده‌اند، بازتولید کند.
بنابراین این پرسش مطرح می‌شود: آیا هوش مصنوعی واقعاً جنسیت‌زده است یا...؟
هوش مصنوعی بازتابی از جهانی است که به آن می‌دهیم
گزارشی جدید نشان می‌دهد سوگیری جنسیتی همچنان در هوش مصنوعی بسیار پایدار است. پژوهشگران ۱۳۳ سامانه هوش مصنوعی را آزمایش کردند و دریافتند ۴۴ درصد از آن‌ها سوگیری جنسیتی نشان می‌دهند، در حالی که ۲۶ درصد هم‌زمان دارای سوگیری جنسیتی و نژادی بودند. مشکل فقط به پاسخ‌های آشکارا توهین‌آمیز محدود نمی‌شود. مدل‌های زبانی بزرگ می‌توانند کلیشه‌های بسیار ظریف‌تری را نیز بازتولید کنند. این مدل‌ها معمولاً زنان را با خانه، خانواده و فرزندان مرتبط می‌کنند، در حالی که مردان را با کسب‌وکار، رهبری، حقوق و مسیرهای شغلی پیوند می‌دهند. حدود یک مورد از هر پنج پاسخ به درخواست‌های مرتبط با جنسیت نیز حاوی محتوای جنسیت‌زده یا زن‌ستیزانه تشخیص داده شد.
این موضوع نباید کاملاً غافلگیرکننده باشد. سامانه‌های هوش مصنوعی از حجم عظیمی از داده‌های تولیدشده توسط انسان‌ها یاد می‌گیرند و این داده‌ها بازتاب‌دهنده جامعه‌ای هستند که آن‌ها را تولید کرده است. اگر اینترنت دهه‌ها مملو از کلیشه‌هایی درباره ویژگی‌های مورد انتظار از زنان و مردان باشد، هوش مصنوعی نیز می‌تواند همان الگوها را یاد بگیرد. هوش مصنوعی این کلیشه‌ها را اختراع نکرده است؛ آن‌ها را به ارث برده است. تفاوت در این است که هوش مصنوعی می‌تواند این الگوها را با سرعتی بسیار بالا و در مقیاسی بازتولید کند که انسان‌ها هرگز قادر به آن نیستند.
وقتی سوگیری به مشکلی واقعی در جهان تبدیل می‌شود
این مسئله زمانی نگران‌کننده‌تر می‌شود که هوش مصنوعی دیگر فقط به پرسش‌ها پاسخ نمی‌دهد، بلکه بر تصمیم‌هایی درباره زندگی افراد تأثیر می‌گذارد. یکی از نمونه‌های پرارجاع، ابزار آزمایشی استخدام مبتنی بر هوش مصنوعی در آمازون است. این سامانه با استفاده از حدود یک دهه رزومه‌های ارسال‌شده برای این شرکت آموزش داده شده بود؛ رزومه‌هایی که بیشترشان متعلق به مردان بودند. در نتیجه، سیستم الگوهای موجود در نیروی کاری مردمحور را یاد گرفت و شروع به جریمه کردن درخواست‌هایی کرد که نشانه‌هایی مرتبط با زنان داشتند. اهمیت این نمونه در آن است که نشان می‌دهد نابرابری تاریخی چگونه به‌سادگی می‌تواند به نابرابری فناورانه تبدیل شود. یک سامانه هوش مصنوعی لازم نیست به‌طور مستقیم برای تبعیض برنامه‌ریزی شده باشد؛ می‌تواند تبعیض را از داده‌هایی که دریافت می‌کند بیاموزد و سپس نتایج خود را به شکلی ارائه کند که گویی کاملاً عینی هستند.
یک مطالعه در سال ۲۰۲۴ بررسی کرد که افراد چگونه به هوش مصنوعی دارای سوگیری جنسیتی در موقعیت‌های استخدامی واکنش نشان می‌دهند. پژوهشگران دریافتند وقتی هوش مصنوعی توضیحات دقیق‌تری درباره تصمیم‌های خود ارائه می‌کند، افراد بهتر می‌توانند سوگیری آن را تشخیص دهند و کمتر تحت تأثیر آن قرار می‌گیرند. اما یافته دیگری نیز جلب توجه کرد: شرکت‌کنندگان معمولاً بیشتر از توضیحاتی که هوش مصنوعی ارائه می‌داد، به خود هوش مصنوعی اعتماد می‌کردند. این موضوع اهمیت زیادی دارد، زیرا ما اغلب هوش مصنوعی را ذاتاً بی‌طرف می‌دانیم. اگر یک انسان پیشنهادی مشکوک ارائه دهد، ممکن است بپرسیم چرا چنین فکری می‌کند. اما اگر همان پیشنهاد را یک هوش مصنوعی ارائه کند، ممکن است بیشتر تصور کنیم که حتماً دلیلی مبتنی بر داده پشت آن وجود دارد. در حالی که داده‌محور بودن الزاماً به معنای بی‌طرف بودن نیست.
مشکل فقط به چت‌بات‌ها محدود نمی‌شود
واقعیت ناخوشایند دیگری نیز درباره این فناوری وجود دارد. هوش مصنوعی نه‌تنها قادر است کلیشه‌ها را بازتولید کند، بلکه برای ایجاد شکل‌های جدیدی از سوءاستفاده علیه زنان نیز به کار گرفته می‌شود. تصاویر جنسی‌سازی‌شده تولیدشده با هوش مصنوعی، عکس‌های دستکاری‌شده و دیپ‌فیک‌ها ساختن محتوایی را که زنان را بدون رضایت آن‌ها جنسی‌سازی می‌کند، آسان‌تر کرده‌اند. بر اساس داده‌های مطرح‌شده از سوی سازمان ملل، نزدیک به یک‌چهارم زنان مدافع حقوق بشر، فعالان و روزنامه‌نگارانی که در یک نظرسنجی شرکت کرده‌اند، خشونت آنلاین با کمک هوش مصنوعی را تجربه کرده‌اند. ۱۲ درصد از آن‌ها انتشار غیررضایتمندانه تصاویر شخصی و ۶ درصد تجربه دیپ‌فیک‌ها یا تصاویر و ویدئوهای دستکاری‌شده را گزارش کرده‌اند.
این مسئله رابطه‌ای دشوار میان زنان و هوش مصنوعی ایجاد می‌کند. از یک سو، این فناوری به‌عنوان ابزاری روزبه‌روز مهم‌تر برای کار و زندگی روزمره معرفی می‌شود؛ از سوی دیگر، می‌تواند برای هدف قرار دادن زنان به شیوه‌هایی عمیقاً شخصی و آسیب‌زا مورد استفاده قرار گیرد. همچنین افرادی که این سامانه‌ها را توسعه می‌دهند هنوز نماینده برابر جامعه نیستند. زنان تنها حدود ۳۰ درصد از نیروی کار حوزه هوش مصنوعی را تشکیل می‌دهند. در سطح سیاست‌گذاری نیز تنها ۲۴ مورد از ۱۳۸ راهبرد ملی هوش مصنوعی به موضوع جنسیت اشاره کرده‌اند و فقط ۱۸ مورد شامل اقدامات اساسی حساس به مسائل جنسیتی هستند. اگر این فناوری در چارچوب نظامی توسعه می‌یابد که خود هنوز با نابرابری جنسیتی دست‌وپنجه نرم می‌کند، عجیب نیست که بخشی از این نابرابری‌ها در خود فناوری نیز ظاهر شوند.
اما برای حل این مسئله باید از نگاه کردن به هوش مصنوعی به‌عنوان فناوری‌ای ذاتاً بی‌طرف دست برداریم. مشکل این نیست که هوش مصنوعی ناگهان جنسیت‌زده شده است؛ مشکل این است که ما جهانی پر از جنسیت‌زدگی را به آن داده‌ایم و سپس قدرت مقیاس‌دادن به آموخته‌هایش را در اختیارش گذاشته‌ایم. اکنون پرسش این است که آیا همچنان به هوش مصنوعی آموزش می‌دهیم همان جهانی را که وجود دارد بازتولید کند، یا از آن برای ساخت جهانی که واقعاً می‌خواهیم استفاده خواهیم کرد.