هشدار دانشمندان MIT: هوش مصنوعی ممکن است خاطرات انسان را بازنویسی کند
هوش مصنوعی فقط قادر به ساخت تصاویر جعلی نیست؛ این فناوری می‌تواند نحوه به‌یادآوردن گذشته را نیز تغییر دهد. پژوهشگران دریافته‌اند که تصاویر و توصیف‌های متنی تولیدشده با هوش مصنوعی ممکن است خاطرات کاذب ایجاد کنند و افراد را به تجربه‌های شخصی خود دچار تردید سازند. روزنامه واشنگتن پست این یافته‌ها را گزارش کرده است.
آزمایش MIT: اطمینان به خاطراتی از گذشته که هرگز رخ نداده‌اند
در آزمایشی به سرپرستی پتی مِیس، شرکت‌کنندگان مجموعه‌ای از عکس‌های واقعی را مشاهده کردند. پس از وقفه‌ای کوتاه، یک گروه همان تصاویر را دوباره دید، در حالی که به گروه دیگر نسخه‌هایی دست‌کاری‌شده با هوش مصنوعی نشان داده شد.
در آزمون بعدی حافظه، افرادی که تصاویر تغییریافته با هوش مصنوعی را دیده بودند، نه‌تنها جزئیات اصلی عکس‌ها را با اشتباه بیشتری به یاد آوردند، بلکه با اطمینان کامل به خاطرات نادرست خود باور داشتند.
پژوهشگران معتقدند دیپ‌فیک‌ها و متن‌های تولیدشده با هوش مصنوعی می‌توانند خاطرات کاذبی از رویدادهایی ایجاد کنند که هرگز اتفاق نیفتاده‌اند. به گفته آنان، این پدیده هم‌اکنون بر ترجیحات سیاسی افراد تأثیر می‌گذارد و تمایل آنان به شرکت در انتخابات را کاهش می‌دهد.
اعتماد بی‌چون‌وچرا به متخصصان و توهمات هوش مصنوعی
حتی بدون قصد فریبکاری، هوش مصنوعی از طریق پدیده‌ای موسوم به «توهم» تهدیدی جدی برای حقیقت عینی به شمار می‌رود؛ در این حالت، الگوریتم‌ها اطلاعاتی را تولید می‌کنند که اساساً وجود ندارند.
نهادهای دولتی، بانک‌ها، بیمارستان‌ها و سازمان‌های نظامی در حال به‌کارگیری اصل «انسان در حلقه تصمیم‌گیری» هستند. بر اساس این رویکرد، پیش از اتخاذ تصمیم‌های حیاتی، یک متخصص باید نتایج تولیدشده با هوش مصنوعی را بررسی و تأیید کند.
با این حال، پژوهش‌ها نشان می‌دهند که افراد در تشخیص خطاهای الگوریتمی عملکرد ضعیفی دارند. هنگامی که اطلاعات تولیدشده با هوش مصنوعی با دانسته‌های یک متخصص در تضاد قرار می‌گیرد، افراد ممکن است به حافظه خود شک کنند و ارزیابی‌شان از موقعیت، به سود فناوری و برخلاف برداشت اولیه‌شان، تغییر کند.
هزینه اشتباه: از حملات تا خودمختاری کامل
دانشمندان درباره این وضعیت هشدار می‌دهند: کاربران عادی در تشخیص محتوای تولیدشده با هوش مصنوعی، عملکردی بهتر از حدس تصادفی ندارند. در همین حال، توسعه‌دهندگان در تلاش‌اند استفاده از عامل‌های کاملاً خودمختار هوش مصنوعی را سرعت ببخشند؛ روندی که در آن نظارت انسانی از فرایندها کنار گذاشته می‌شود.
واگذاری تصمیم‌های حیاتی به الگوریتم‌ها هم‌اکنون نیز به پیامدهای تراژیک منجر شده است.
بر اساس تحقیقات وزارت دفاع آمریکا، حمله هوایی به یک مدرسه ابتدایی در ایران که بیش از ۱۵۰ کشته بر جای گذاشت، تا حدی ناشی از اتکای بیش از اندازه به سامانه‌ای مبتنی بر هوش مصنوعی بود که شرکت پالانتیر توسعه داده است.
این سامانه با تکیه بر داده‌های قدیمی، یک مکان غیرنظامی را به‌عنوان هدف پیشنهاد کرده بود و مسئولان انسانی ناظر نیز تصمیم سامانه را زیر سؤال نبردند.