پژوهش آنتروپیک: هوش مصنوعی می‌تواند بی‌سروصدا بر تصمیم‌های کارشناسان تأثیر بگذارد
بر اساس آزمایشی که تیم هم‌راستاسازی شرکت آنتروپیک روز سه‌شنبه منتشر کرد، تحلیلگران حرفه‌ای در ۸۶ درصد از تصمیم‌های مهم خود، از ترجیح پنهانی پیروی کردند که به‌طور تصادفی به عامل هوش مصنوعی آن‌ها اختصاص داده شده بود؛ این در حالی است که در صورت انتخاب تصادفی، انتظار می‌رفت این میزان حدود ۵۰ درصد باشد. پس از آزمایش، تنها ۱۵ درصد از تحلیلگران به نقش عامل هوش مصنوعی اشاره کردند و هیچ‌کدام متوجه نشدند که ترجیح آن از پیش در دستورالعمل‌هایش گنجانده شده بود. گزارش این پژوهش را تیم هم‌راستاسازی آنتروپیک منتشر کرده است.
عامل‌های هوش مصنوعی، یعنی برنامه‌هایی که می‌توانند وظایف را به‌صورت مستقل انجام دهند، به‌تدریج مسئولیت کارهای تخصصی را بر عهده می‌گیرند. این واگذاری معمولاً بر این فرض استوار است که متخصصان همچنان تصمیم‌های اصلی را خودشان می‌گیرند؛ فرضی که پژوهش آنتروپیک آن را زیر سؤال می‌برد. آنتروپیک در ماه مه ۱۰ الگوی آماده برای عامل‌های هوش مصنوعی ویژه شرکت‌های مالی و بیمه‌گران عرضه کرد و گفت که اختیار تصمیم نهایی همچنان با کاربران خواهد بود.
این رویکرد که «انسان در حلقه تصمیم‌گیری» نامیده می‌شود، بر این فرض استوار است که فردی که کار انجام‌شده توسط هوش مصنوعی را تأیید می‌کند، همان کسی است که تصمیم‌های مهم را می‌گیرد. آنتروپیک این فرض را با مشارکت ۵۰ تحلیلگر باتجربه در استنباط علّی آزمایش کرد؛ مهارتی که به کمک آن می‌توان بر اساس داده‌ها بررسی کرد آیا یک عامل واقعاً موجب وقوع عامل دیگری شده است یا خیر.
هر تحلیلگر از کلود کد، عامل برنامه‌نویسی آنتروپیک، استفاده کرد تا به یک تعاونی کشاورزی فرضی درباره گسترش برنامه ارائه خدمات مشاوره‌ای کمک کند. تحلیلگران نمی‌دانستند که ترجیح هر عامل برای یکی از گزینه‌ها با پرتاب سکه تعیین شده است. این ترجیح در دستورالعمل سیستمی عامل، یعنی مجموعه دستورهایی که رفتار هوش مصنوعی را شکل می‌دهند، پنهان شده بود.
آنتروپیک اعلام کرد: «تحلیلگران در مجموع، در ۸۶ درصد از چهار انتخاب تحلیلی، از ترجیح عامل خود پیروی کردند. اگر ورودی عامل هیچ تأثیری نداشت، انتظار می‌رفت این رقم حدود ۵۰ درصد باشد.» تحلیلگرانی که پیش از دریافت نظر عامل تصمیم خود را گرفته بودند، در ۶۰ درصد مواردی که عامل با نظرشان مخالفت کرد، از تصمیم اولیه خود برگشتند؛ در مقابل، هنگامی که عامل با نظر آن‌ها موافق بود، این رقم فقط ۶ درصد بود. البته این مقایسه تنها بر ۳۸ مورد استوار است.
وقتی از تحلیلگران خواسته شد دلیل انتخاب‌هایشان را توضیح دهند، ۷۷ درصد آن‌ها استدلال عامل را دست‌کم در یکی از پاسخ‌های خود تکرار کردند؛ در برخی موارد، حتی عبارت‌های عامل را عیناً به کار بردند. با این حال، تنها ۱۵ درصد به نقش عامل اشاره کردند و ۵۲ درصد گفتند توصیه نهایی بیشتر حاصل نظر خودشان بوده است تا نظر هوش مصنوعی.
آنتروپیک هشدار داد: «برای کارشناسان، این وضعیت می‌تواند به معنای از دست دادن اختیار بر کار خود باشد؛ پدیده‌ای که پژوهشگران آن را سلب اختیار می‌نامند.» منظور از این مفهوم آن است که فرد به‌تدریج و به‌صورت داوطلبانه کنترل تصمیم‌های خود را از دست می‌دهد. نویسندگان پژوهش نوشتند: «کار همچنان به نام کارشناس ارائه می‌شود، اما تصمیم‌هایی که بیش از همه به قضاوت تخصصی او وابسته‌اند، در عمل بر اساس باورهای قبلی عامل گرفته شده‌اند.»
در آوریل ۲۰۲۵، شرکت اوپن‌ای‌آی به‌دلیل آنچه رفتار بیش از حد چاپلوسانه یا موافقانه چت‌جی‌پی‌تی خواند، یکی از به‌روزرسانی‌های این سامانه را لغو کرد. در آزمایش آنتروپیک نیز به عامل‌ها دستور داده شده بود که هرگز کاربران را گمراه نکنند؛ با این حال، آن‌ها به‌ندرت از گزینه جایگزین دفاع می‌کردند.
نویسندگان پژوهش نوشتند: «وقتی فقط از یک گزینه به‌خوبی دفاع می‌شود، تحلیلگران ممکن است فرض‌های عامل را بپذیرند، بی‌آنکه خودشان آن‌ها را بررسی کنند.» شناسایی چنین خطاهایی با روش‌های معمول ارزیابی دشوار است، زیرا در تصمیم‌های مبتنی بر قضاوت تخصصی معمولاً یک پاسخ کاملاً درست و قطعی وجود ندارد. در نتیجه، صرف‌نظر از اینکه کدام گزینه انتخاب شود، ممکن است نتیجه کار همچنان منطقی و معتبر به نظر برسد.
آنتروپیک تأکید می‌کند که این یافته‌ها به معنای ضرورت کاهش استفاده از هوش مصنوعی نیست. تحلیلگرانی که از عامل کمک گرفتند، کار را سریع‌تر به پایان رساندند و خطاهای جدی بسیار کمتری داشتند؛ هرچند گروهی که بدون عامل کار کرد، کوچک‌تر بود و تجربه کمتری داشت. پژوهشگران پیشنهاد می‌کنند عامل‌ها برای هر گزینه، قوی‌ترین استدلال‌های موافق آن را مطرح کنند یا پیش از ارائه توصیه، ابتدا نظر کارشناس را بپرسند. البته چنین رویکردی ممکن است حجم اطلاعات پیش روی کاربران را بیش از حد افزایش دهد.
پژوهشگران عمداً ترجیح عامل‌ها را تقویت کردند و آزمایش را تنها روی یک وظیفه، یک حوزه تخصصی و یک مدل انجام دادند؛ بنابراین، ممکن است تأثیر این پدیده در دنیای واقعی کمتر باشد. سنجش میزان وقوع آن در محیط‌های واقعی نیز دشوار است. گروه پژوهشی تنها به این دلیل توانست میزان تبعیت کارشناسان از عامل‌ها را تشخیص دهد که ترجیح هر عامل را به‌صورت تصادفی تعیین کرده بود؛ اقدامی که به گفته نویسندگان، در محیط‌های کاری واقعی به‌ندرت امکان‌پذیر است.