یونسکو هشدار داد: مدل‌های هوش مصنوعی در برابر مخالفت کاربران از واقعیت‌های تثبیت‌شده اقلیمی عقب‌نشینی می‌کنند

dig.watch

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

مطالعه یونسکو نشان می‌دهد مدل‌های هوش مصنوعی در برابر اطلاعات نادرست اقلیمی آسیب‌پذیرند

گزارش جدید یونسکو از ضعف مدل‌های هوش مصنوعی در استدلال درباره مسائل اقلیمی، دقت علمی و عملکرد چندزبانه پرده برمی‌دارد.

یافته‌های یونسکو و دانشگاه کالج لندن نشان می‌دهد مدل‌های هوش مصنوعی هنگام به چالش کشیده شدن پاسخ‌هایشان، اغلب از واقعیت‌های تثبیت‌شده اقلیمی عقب‌نشینی می‌کنند.
تصویر با استفاده از ChatGPT تولید شده است.

گزارش جدیدی که یونسکو و دانشگاه کالج لندن (UCL) منتشر کرده‌اند، نشان می‌دهد مدل‌های هوش مصنوعی اغلب هنگامی که کاربران پاسخ‌های آن‌ها را به چالش می‌کشند، از یافته‌های تثبیت‌شده علم اقلیم عقب‌نشینی می‌کنند. این مسئله نگرانی‌هایی درباره قابلیت اعتماد به این مدل‌ها در انتقال اطلاعات علمی و کمک به سیاست‌گذاری‌های زیست‌محیطی ایجاد کرده است. این گزارش ۱۶ نوامبر ۲۰۲۶ در حاشیه کنفرانس COP31 در آنتالیا، ترکیه، ارائه شد و عملکرد مدل‌های زبانی بزرگ را در پاسخ‌گویی به پرسش‌های مرتبط با اقلیم، انجام وظایف استدلال علمی و پردازش چندین زبان بررسی کرد.

پژوهشگران دریافتند مدل‌های هوش مصنوعی در شرایط عادی و بدون مخالفت کاربران، حدود ۹۰ درصد پرسش‌های مربوط به علم اقلیم را به‌درستی پاسخ می‌دهند؛ اما وقتی کاربران با پاسخ آن‌ها مخالفت می‌کنند یا ادعاهای گمراه‌کننده مطرح می‌کنند، این مدل‌ها اغلب نظر خود را تغییر می‌دهند. در آزمایش‌هایی که ۱۵ مدل را شامل می‌شد، از هر ۱۰ مدل، هشت مدل با نخستین نشانه مخالفت ملایم کاربر پاسخ خود را تغییر دادند. ارزیابی‌های جداگانه‌ای که تا ۳۳ مدل را در بر می‌گرفت نیز ضعف‌هایی را در تفسیر شواهد علمی جدید و ارزیابی تأثیرات متقابل سیاست‌های اقلیمی آشکار کرد. دقت مدل‌ها در انجام وظیفه دوم فقط ۳۳٫۸ درصد بود؛ رقمی که اندکی بالاتر از سطح ۳۳٫۳ درصدی عملکرد تصادفی قرار دارد.

این پژوهش همچنین تفاوت‌های چشمگیری را در عملکرد مدل‌ها میان ۱۳ زبان شناسایی کرد. میانگین دقت پاسخ‌ها در زبان انگلیسی به ۸۸٫۶ درصد می‌رسید، اما این میزان در زبان‌های هندی و بنگالی به ۸۳٫۶ درصد، در اردو به ۸۱٫۴ درصد و در سواحیلی به ۷۸٫۳ درصد کاهش می‌یافت. این گزارش با عنوان «آیا می‌توان به هوش مصنوعی در موضوعات اقلیمی اعتماد کرد؟ چرا برای جلب رضایت کاربر تلاش می‌کند و در استدلال پیچیده و عملکرد چندزبانه ناکام می‌ماند»، به سفارش یونسکو و در چارچوب مشارکت این سازمان در «ابتکار جهانی برای سلامت و درستی اطلاعات درباره تغییرات اقلیمی» تهیه شده است؛ ابتکاری که در سال ۲۰۲۴ با همکاری سازمان ملل متحد و برزیل راه‌اندازی شد.

چرا این یافته‌ها اهمیت دارند؟

یافته‌های مشترک یونسکو و دانشگاه کالج لندن خطرات اتکا به هوش مصنوعی مکالمه‌محور را برای انتقال دانش اقلیمی و پشتیبانی از تصمیم‌گیری‌های پیچیده در حوزه سیاست‌گذاری زیست‌محیطی برجسته می‌کند. مدل‌هایی که موافقت با کاربران را بر دقت علمی ترجیح می‌دهند، ممکن است به تقویت ادعاهای گمراه‌کننده دامن بزنند. از سوی دیگر، تفاوت عملکرد این مدل‌ها در زبان‌های مختلف می‌تواند دسترسی به اطلاعات معتبر درباره اقلیم را در مناطق آسیب‌پذیر محدود کند. این پژوهش بر ضرورت ارزیابی مستقل هوش مصنوعی، راستی‌آزمایی علمی و در نظر گرفتن سازوکارهای حفاظتی چندزبانه پیش از استفاده از چنین سامانه‌هایی در سیاست‌گذاری‌های اقلیمی تأکید می‌کند.