یادداشت کارشناسی: چرا بسیاری از ابزارهای هوش مصنوعی به گورستان هوش مصنوعی میپیوندند؟

در شرایطی که دولتها و شرکتهای فناوری با سرعت در حال رقابت برای توسعه هوش مصنوعی هستند، پرسشی اساسیتر مطرح شده است: چه کسانی باید در شکلدهی به این فناوری نقش داشته باشند و چه کسانی از مزایای آن بهرهمند شوند؟ هرقدر هم یک فناوری پیشرفته و چشمگیر باشد، ابزارهای هوش مصنوعی تا زمانی که مردم باور نکنند برای آنها و با مشارکت خودشان ساخته شدهاند، برای جلب اعتماد و پذیرش عمومی با مشکل روبهرو خواهند بود.
شرکت پژوهشی گارتنر دریافت که تا پایان سال ۲۰۲۵، دستکم ۵۰ درصد از پروژههای هوش مصنوعی مولد پس از عبور از مرحله اثبات مفهوم کنار گذاشته شده بودند. همچنین، مطالعهای در سال ۲۰۲۴ نشان داد نرخ شکست پروژههای هوش مصنوعی از ۸۰ درصد بیشتر است؛ رقمی که دو برابر نرخ شکست پروژههای فناوری فاقد مؤلفه هوش مصنوعی محسوب میشود.
وقتی پای هوش مصنوعی و نظامهای قضایی به میان میآید، اهمیت این مسئله دوچندان میشود. شرکت DoNotPay که محصول خود را «نخستین وکیل رباتیک جهان» معرفی میکرد، با پرداخت ۱۹۳ هزار دلار برای حلوفصل اتهاماتی موافقت کرد که کمیسیون تجارت فدرال آمریکا درباره ادعاهای این شرکت در مورد قابلیتهای محصولش مطرح کرده بود؛ ادعاهایی که به اندازه کافی آزمایش نشده بودند.
پژوهشگران دانشگاه استنفورد نیز دریافتند ابزارهای پژوهشی هوش مصنوعی در حوزه حقوق، از جمله Lexis+ AI متعلق به شرکت LexisNexis و Ask Practical Law AI متعلق به تامسون رویترز، در ۱۷ تا ۳۳ درصد موارد دچار توهم هوش مصنوعی میشوند. در دادگاه، جایی که یک اشتباه ممکن است آزادی فردی را به خطر بیندازد، ابزاری با چنین میزان خطایی نمیتواند صرفاً با تکیه بر ادعاهای فنی یا افزایش بهرهوری اعتماد کاربران را جلب کند.
برزیل که یکی از بلندپروازانهترین برنامههای هوش مصنوعی قضایی جهان را در اختیار دارد، دریافته است که اشتیاق به استفاده از فناوری لزوماً به پذیرش عملی آن منجر نمیشود. بر اساس آمار شورای ملی دادگستری این کشور، دادگاههای برزیل ۱۷۸ طرح هوش مصنوعی را به کار گرفتهاند؛ بااینحال، ۶۵ درصد از پروژههای هوش مصنوعی قضایی تا سال ۲۰۲۳ متوقف شده بودند. این آمار پرسشهای مهمی درباره نحوه پشتیبانی، هماهنگی و تداوم پروژههای هوش مصنوعی مطرح میکند. مشارکت دادن افرادی که قرار است از این ابزارها استفاده کنند، از همان مراحل ابتدایی، یکی از راههای مهم اطمینان از پاسخگویی آنها به نیازهای واقعی، جلب اعتماد و ماندگاری در بلندمدت است.
فناوری تحمیلشده از بیرون، بهندرت در مواجهه با واقعیت دوام میآورد
تجربه افغانستان درسهای مهمی درباره پیامدهای تحمیل ابزارهای فناورانه به جوامع، بدون مشارکت دادن آنها در فرایند طراحی، در اختیار ما قرار میدهد. پس از دو دهه و صرف ۱۴۵ میلیارد دلار برای بازسازی این کشور، یک تحقیق دولت آمریکا به این نتیجه رسید که این دولت در تطبیق تلاشهای خود با شرایط افغانستان و ارزیابی توانایی نهادهای این کشور برای حفظ و ادامه آنها با مشکل روبهرو بوده است.
پروژههای دیجیتال نیز سرنوشتی مشابه داشتند. در سال ۲۰۱۹، شرکت DAI که پیمانکار آژانس توسعه بینالمللی آمریکا (USAID) بود، سفارش ساخت یک اپلیکیشن برای گزارشدهی شهروندان به شهرداری کابل را صادر کرد. این شرکت بهجای طراحی برنامه با مشارکت ساکنان کابل، تصمیم گرفت برای صرفهجویی در زمان و هزینه، یک اپلیکیشن ساختهشده برای شهری کوچک در گواتمالا را با شرایط کابل تطبیق دهد. این اپلیکیشن در اکتبر ۲۰۲۰ راهاندازی شد، اما از همان ابتدا عملاً بدون استفاده باقی ماند.
سارا واحدی، متخصص فناوری در مؤسسه فناوری و عدالت آکسفورد، میگوید: «فناوری مدنی تنها زمانی میتواند پایدار بماند که مردم هنگام استفاده از آن برای تعامل با دولت خود احساس امنیت و اطمینان کنند. چنین اعتمادی از طریق طراحی و توسعه مشترک با مشارکت جامعه شکل میگیرد. این مسئله با حرکت دولتها بهسوی استفاده از هوش مصنوعی اهمیت بیشتری پیدا میکند. برای طی کردن این مسیر هیچ راه میانبری وجود ندارد.»
حتی هوش مصنوعی پیشرفته نیز ممکن است در آستانه ورود به یک درمانگاه با مشکل مواجه شود. گوگل هلث سامانهای مبتنی بر یادگیری عمیق توسعه داده بود که میتوانست بیماری چشمی ناشی از دیابت را از روی تصاویر شبکیه چشم با دقتی بیش از ۹۰ درصد تشخیص دهد. اما هنگامی که پژوهشگران گوگل این سامانه را در ۱۱ درمانگاه در سراسر تایلند آزمایش کردند، با مشکلات عملیاتی، از جمله نور نامناسب، روبهرو شدند؛ مشکلاتی که باعث میشد سامانه تصاویری را که در شرایط دیگر قادر به خواندنشان بود، رد کند. این مدل در محیط آزمایشگاهی عملکرد خوبی داشت، اما در طراحی آن پرستارانی که قرار بود از سامانه استفاده کنند، مشارکتی نداشتند.
وقتی جوامع ابزار را میسازند، برای ادامه فعالیت آن نیز تلاش میکنند
نمونهای متفاوت از شمال دور نیوزیلند به دست میآید. ایستگاه رادیویی قبیلهای Te Hiku Media از اعضای جامعه محلی دعوت کرد تا در ساخت یک سامانه تشخیص گفتار برای زبان مائوری مشارکت کنند. تنها طی ۱۰ روز، حدود ۲۵۰۰ نفر در مجموع ۳۱۰ ساعت داده صوتی همراه با متن متناظر آن را در اختیار این پروژه قرار دادند. این سامانه اکنون در تشخیص زبان مائوری به دقت ۹۲ درصد رسیده است و تحت مجوز Kaitiakitanga منتشر میشود؛ مجوزی که استفاده از دادهها را صرفاً به مواردی محدود میکند که به نفع مردم مائوری باشد. Te Hiku همچنین درخواست شرکتهایی را که به دنبال دسترسی به دادههای زبانی بودند، رد کرده است. در این تجربه، ابتدا مشارکت جامعه شکل گرفت و سپس برتری فنی حاصل شد؛ ترتیب اتفاقات دقیقاً همان چیزی بود که باید میبود.
حامیان مالی و فعالان صنعت نیز بهتدریج به اهمیت این رویکرد توجه نشان میدهند. بنیاد گیتس اعلام کرده است: «ابزارهای هوش مصنوعی زمانی بیشترین اثربخشی را دارند که افرادی که قرار است از خدمات آنها بهرهمند شوند، در شکلدهی به آنها مشارکت داشته باشند.» همچنین، مدیر آزمایشگاه هوش مصنوعی برای اهداف خیرخواهانه مایکروسافت گفته است هوش مصنوعی میتواند دسترسی به عدالت را گسترش دهد، مشروط بر آنکه «با مشارکت جوامعی که قرار است به آنها خدمت کند و برای همان جوامع ساخته شود». افزایش توجه به این دیدگاه، گامی امیدوارکننده برای تبدیل طراحی و توسعه مشارکتی به بخشی تثبیتشده از فرایند تأمین مالی و توسعه پروژههای هوش مصنوعی است.
ما در مؤسسه فناوری و عدالت آکسفورد در حال ساخت ابزارهایی با مشارکت زنان و کودکان، نیروهای امدادی، روزنامهنگاران و قضات و برای پاسخگویی به نیازهای آنها هستیم. همچنین، قصد داریم یک برنامه آموزشی ویژه مدیران ارشد با عنوان «رهبری هوش مصنوعی از طریق طراحی و توسعه مشارکتی» راهاندازی کنیم.
بر اساس تجربه ما، طراحی و توسعه مشارکتی سه دستاورد مهم دارد. نخست، مشخص میکند آیا مشکلی که حامی مالی قصد حل آن را دارد، همان مشکلی است که مردم در زندگی واقعی با آن مواجهاند یا خیر. دوم، اعتمادی ایجاد میکند که باعث میشود ابزار موردنظر از چیزی که به مردم گفته میشود باید از آن استفاده کنند، به ابزاری تبدیل شود که خودشان انتخاب میکنند. سوم، به پایداری کمک میکند؛ زیرا مردم در ادامه فعالیت سامانه احساس مسئولیت و تعلق خاطر دارند و حتی پس از پایان کمکهزینه مالی و رفتن مشاوران نیز برای حفظ آن تلاش میکنند.
در مالاوی، نشستهای طراحی و توسعه مشترک ما این فرصت را فراهم کرده است تا نیروهای امدادی، از جمله پرستاران، معلمان، منشیهای قضایی و مدیران پناهگاهها، در انتخاب قابلیتهای ابزاری مشارکت کنند که هدف آن تسهیل دسترسی به اطلاعات حقوقی درباره ازدواج کودکان و خشونت جنسی است. یکی از شرکتکنندگان گفت از آنجا که در طراحی صدای گرم و اطمینانبخش این ابزار مشارکت داشته است، «احساس میکند نسبت به آن حس مالکیت دارد».
مشارکت و شنیدن دیدگاههای مردم باید از همان ابتدای کار آغاز شود. نشستهای طراحی مشترک باید در بودجهها و زمانبندی پروژهها پیشبینی شوند و شاخصهای کلیدی عملکرد نیز باید مشخص کنند که آیا مردم همچنان از ابزار ساختهشده استفاده میکنند یا خیر. ابزارهای هوش مصنوعیای که جوامع هیچ نقشی در شکلگیری آنها نداشتهاند، همچنان راهی گورستان هوش مصنوعی خواهند شد؛ هرقدر هم که مهندسی بهکاررفته در ساخت آنها پیشرفته باشد.
مفاهیم کلیدی
حکمرانی هوش مصنوعی | هوش مصنوعی عاملمحور مصرفکننده | اخلاق هوش مصنوعی مولد
ارائهشده از سوی دانشگاه آکسفورد
استناد: یادداشت کارشناسی: چرا بسیاری از ابزارهای هوش مصنوعی به گورستان هوش مصنوعی میپیوندند؟ (۱۹ نوامبر ۲۰۲۶)، بازیابیشده در ۱۹ نوامبر ۲۰۲۶ از وبسایت Tech Xplore.
