هست یا نیست؟ چگونه هوش مصنوعی مولد چشمه ادبیات را برای همه مسموم می‌کند
واهینی وارا، نویسنده‌ای که سال‌ها تأثیر هوش مصنوعی بر نویسندگی را بررسی کرده است، آخر هفته در مقاله‌ای در The Atlantic ادعا کرد که برنده جایزه کین از هوش مصنوعی برای نوشتن داستان خود استفاده کرده است. سیمباراشه استین کوندیززا، نویسنده زیمبابوه‌ای، جایزه کین ۲۰۲۶ را برای داستان «مبارز آبی» دریافت کرد؛ داستانی که سال گذشته در The Shallow Tales Review منتشر شده بود.
این سومین بار در سال جاری است که یک جایزه مهم ادبی با اتهام‌های مربوط به هوش مصنوعی روبه‌رو می‌شود؛ جایزه کشورهای مشترک‌المنافع و جایزه گنکور نیز با بحث‌هایی درباره استفاده از ابزارهای غیرانسانی برای تولید متن مواجه شده‌اند.
وارا پس از آن به این نتیجه رسید که داستان «مبارز آبی»، همراه با همه برندگان پیشین جایزه کین و دیگر نوشته‌های کوندیززا، با استفاده از برنامه تشخیص هوش مصنوعی «Pangram» بررسی شد؛ ابزاری که «تقریباً کل داستان را تولیدشده توسط هوش مصنوعی تشخیص داد». تیم جایزه کین به این ادعاها واکنش نشان داده و در حال بررسی موضوع است، اما اعلام کرده این بررسی را با رویکردی انسانی و بدون استفاده از ابزارهای نرم‌افزاری انجام خواهد داد. الا واکاتاما، رئیس هیئت امنای جایزه کین، به وارا گفت:
«موضع من، به‌عنوان فردی که مسئولیت رهبری این جایزه را بر عهده دارد، این است که اگر چنین اتهامی مطرح شود، می‌خواهم مدرکی ببینم که از یک ماشین نیامده باشد.» او گفت قصد دارد با «همدلی» و با پیش‌فرض صداقت با کوندیززا صحبت کند. واکاتاما نیز زیمبابوه‌ای است. او گفت: «به‌عنوان یک آفریقایی، نخستین واکنش من این است که اگر از شما بپرسم، آیا حقیقت را می‌گویید؟ و شما بگویید بله، من حرف شما را باور می‌کنم؛ به‌خصوص چون اتهام‌زنندگان از میان مردم خود ما نیستند.»
این‌که چنین اتهامی علیه یک نویسنده آفریقایی و درباره جایزه‌ای که ادبیات آفریقا را گرامی می‌دارد مطرح شده، توجه دیگران را نیز جلب کرده و با انتقاد روبه‌رو شده است. جایزه کین «مهم‌ترین جایزه بین‌المللی ادبی برای داستان کوتاه یک نویسنده آفریقایی» محسوب می‌شود و هدفش تجلیل از نویسندگان در آفریقا و میان جوامع مهاجر آفریقایی است.
این به معنای آن نیست که وارا با نیت بد عمل کرده است، اما سابقه ناخوشایندی وجود دارد که افراد فرصت‌طلب از چنین اتهام‌هایی علیه نویسندگان رنگین‌پوست استفاده کرده‌اند. نمونه‌ای از این وضعیت اکنون در فرانسه در حال رخ دادن است؛ جایی که تلیسون اورلین، رمان‌نویس کانادایی متولد هائیتی، به استفاده از هوش مصنوعی در رمان جدیدش متهم شده است.
اورلین این اتهام‌ها را قاطعانه رد کرده است، اما جنجال به‌سرعت از سوی جریان راست افراطی برای بی‌اعتبار کردن این نویسنده غیرسفیدپوست مورد بهره‌برداری قرار گرفت. فارغ از درست یا نادرست بودن اتهام‌ها، این ماجرا از هم‌اکنون تأثیر گذاشته است: نام اورلین از فهرست اولیه جایزه گنکور حذف شد و او در میانه تور معرفی کتابش فرانسه را ترک کرد. البته این جنجال باعث افزایش فروش کتاب او نیز شد که شاید تنها جنبه مثبت ماجرا باشد.
حتی اگر بتوان نکته جالبی در این فناوری و کاربردهای آن پیدا کرد، مشکل ناخوشایند این است که بسیاری از طرفداران پرشور هوش مصنوعی افراد ثروتمند و قدرتمندی هستند که علاقه‌ای به مصالحه ندارند.
مشکل دیگر این است که ابزارهای تشخیص هوش مصنوعی هنوز چندان قابل اعتماد نیستند؛ موضوعی که وارا نیز در مقاله خود به آن پرداخته و برای دفاع از اعتبار Pangram به چندین پژوهش استناد کرده است. با این حال، نشان داده شده که این ابزارها در مورد نوشته‌هایی خارج از فرهنگ غالب سفیدپوست و غربی، عملکرد بسیار نامطمئنی دارند. برای نمونه، پژوهشی از دانشگاه استنفورد نشان داد این ابزارها در تشخیص نوشته‌های انگلیسی‌زبانان غیر بومی عملکرد ضعیفی دارند:
در حالی که این ابزارها در ارزیابی مقاله‌های نوشته‌شده توسط دانش‌آموزان پایه هشتم متولد آمریکا «تقریباً بی‌نقص» عمل کردند، بیش از نیمی از مقاله‌های آزمون تافل (۶۱.۲۲ درصد) که توسط دانشجویان غیر بومی انگلیسی نوشته شده بود را به اشتباه تولیدشده توسط هوش مصنوعی تشخیص دادند.
وضعیت حتی بدتر است. طبق این پژوهش، هر هفت ابزار تشخیص هوش مصنوعی به‌طور هم‌زمان ۱۸ مورد از ۹۱ مقاله تافل (۱۹ درصد) را تولیدشده توسط هوش مصنوعی اعلام کردند و ۸۹ مورد از ۹۱ مقاله (۹۷ درصد) دست‌کم توسط یکی از این ابزارها علامت‌گذاری شد.
مدت‌هاست مشخص شده که هوش مصنوعی دارای نقاط کور نژادی و فرهنگی است. سال‌هاست کارشناسان درباره نرم‌افزارهای تشخیص چهره، که در میان نیروهای پلیس و ارتش محبوب هستند، هشدار می‌دهند؛ برای مثال، این فناوری‌ها در تشخیص چهره‌های با پوست تیره ناتوان بوده‌اند.
به همین دلیل، بررسی جایزه کین درباره ادعاهای مطرح‌شده علیه کوندیززا با «رویکردی انسان‌محور انجام خواهد شد تا نویسندگان در طول این فرایند حمایت و مراقبت دریافت کنند». به نظر من این تصمیم درستی است. فراتر از موضوع اعتبار جایزه، این سازمان تمرکز خود را بر جامعه نویسندگان و اعتبار آنان حفظ می‌کند. آن‌ها نقش خود را بخشی کلیدی از «زیست‌بومی می‌دانند که نوشتن و انتشار آثار نویسندگان آفریقایی را اعتبار می‌بخشد و حمایت می‌کند».
مخدوش شدن فضای فرهنگی توسط هوش مصنوعی یکی از بزرگ‌ترین نگرانی‌های من درباره این صنعت و حامیان آن است. حضور همه‌جانبه این فناوری باعث شده درباره منشأ هر متنی تردید ایجاد شود و من نگرانم که فرسایش اعتماد، تأثیری نامتناسب بر نویسندگان با پیشینه‌های کمتر برخوردار داشته باشد. وارا با توپه فولارین، برنده پیشین جایزه کین، صحبت کرده است؛ او گفت: «نویسندگان زیادی از جنوب جهانی احساس فشار شدیدی دارند تا مطابق انتظارات بنویسند تا آثارشان برای غرب قابل درک باشد، و بدیهی است که چت‌بات‌ها به همین موضوع تکیه کرده‌اند.»
تمام این تردیدها فرصتی برای افراد فرصت‌طلب ایجاد می‌کند؛ مانند نژادپرستان فرانسوی که علیه تلیسون اورلین موضع گرفته‌اند و روایت‌های زیان‌بار خود را پیش می‌برند. اما عکس این موضوع نیز درست است. طرفداران سرسخت هوش مصنوعی می‌توانند به داستان‌هایی که با کمک هوش مصنوعی برنده جایزه شده‌اند اشاره کنند و آن را دلیلی بدانند که متن تولیدشده توسط ماشین به اندازه هر اثر انسانی ارزشمند است.
این همان دوگانگی‌ای است که وارا با آن درگیر بوده است. او پیش‌تر با هوش مصنوعی کار کرده و نوشته‌های تولیدشده با هوش مصنوعی منتشر کرده است؛ از جمله مقاله‌ای پربازدید در Believer با عنوان «ارواح» که در آن از ChatGPT برای تولید متنی درباره خواهر درگذشته‌اش استفاده کرد، موضوعی که نوشتن درباره آن برایش دشوار بود.
من این را کاربرد قانع‌کننده‌ای برای نرم‌افزارهای مولد نمی‌دانم؛ مقاله‌هایی مانند کار وارا به متن‌های تولیدشده توسط هوش مصنوعی مشروعیت می‌بخشند و برای نویسندگانی که به اندازه او دقیق یا توانمند نیستند، راه را هموار می‌کنند. این اتفاق همین حالا نیز در حال رخ دادن است؛ همان‌طور که وارا خودش در مقاله‌ای در Wired با عنوان «اعترافات یک نویسنده ویروسی هوش مصنوعی» درباره پیامدهای «ارواح» نوشت:
«فکر می‌کردم باید احساس غرور کنم و تا حدی هم چنین احساسی داشتم. اما نگران بودم که «ارواح» به‌عنوان موضع‌گیری نهایی من تعبیر شود و مردم از آن برای دفاع از ادبیات تولیدشده توسط هوش مصنوعی استفاده کنند. و خیلی زود همین اتفاق افتاد. یک نویسنده در مطلبی با تیتر «به جای ترس از هوش مصنوعی، نویسندگان باید یاد بگیرند با آن همکاری کنند» به آن استناد کرد. استادان آن را در کلاس‌های نویسندگی تدریس کردند و سپس از دانشجویان خواستند همکاری‌های خود با هوش مصنوعی را تولید کنند. یک فیلمساز و یک سرمایه‌گذار خطرپذیر نیز با من تماس گرفتند تا بدانند هنرمندان چگونه می‌توانند از هوش مصنوعی استفاده کنند.»
خواندن این مقاله ارزشمند است، زیرا وارا هم درباره تجربه شخصی خود و هم درباره روندهای بزرگ‌تر هوش مصنوعی و ادبیات نکات جالبی مطرح می‌کند. وارا نویسنده خوبی است و کنجکاوی او درباره این فناوری با ذهنی باز قابل احترام است، اما از نظر من این نگاه ساده‌انگارانه است. میانه‌روهای هوش مصنوعی که به دنبال یافتن راهی بین دو طرف هستند، درباره شدت و بی‌مهاری رفتار جریان حامی هوش مصنوعی صادق نیستند.
من روزبه‌روز علاقه کمتری به یافتن نقطه میانی برای این فناوری دارم. طرفداران افراطی هوش مصنوعی خسته‌کننده و عجیب هستند؛ کافی است به فردی اشاره کنیم که با عنوان «وقتی در حوزه هوش مصنوعی کار می‌کنی، والد بودن فرق می‌کند» مطرح شد و راهی برای فرار از وقت گذراندن با فرزند خودش پیدا کرد. چه فایده‌ای دارد با کسانی وارد گفت‌وگو شویم که تا این حد مسیر اصلی را گم کرده‌اند؟
حتی اگر بتوان نکته جالبی در این فناوری و کاربردهایش یافت، مشکل بزرگ این است که بسیاری از حامیان هوش مصنوعی افراد ثروتمند و قدرتمندی هستند که علاقه‌ای به مصالحه ندارند. شرکت‌های بزرگ فناوری نه برای رضایت می‌پرسند و نه برای دریافت نظر؛ بنابراین هر استفاده‌ای از هوش مصنوعی نه یک انتخاب، بلکه نوعی تسلیم شدن است.
با وجود احترامی که برای کنجکاوی فکری وارا قائلم، فکر می‌کنم تنها واکنش مسئولانه در برابر صنعتی که بدون تأمل به پیش می‌تازد، این است که تا جای ممکن افراد بیشتری برای کشیدن ترمز آن تلاش کنند.