چت‌جی‌پی‌تی ایالت‌های آمریکا را از نظر کم‌هوشی، بوی نامطبوع و جذابیت رتبه‌بندی کرد
پژوهشی نشان می‌دهد که چت‌جی‌پی‌تی ممکن است بر اساس محل زندگی افراد درباره آن‌ها کلیشه‌سازی کند. این مدل هوش مصنوعی برخی مناطق را باهوش‌تر، بعضی را بدبوتر و برخی دیگر را از نظر ظاهری زشت‌تر یا از نظر فکری کم‌توان‌تر ارزیابی می‌کند.
پژوهشگران دانشگاه آکسفورد و دانشگاه کنتاکی بین ماه‌های مارس و مه سال ۲۰۲۵ بیش از ۲۰ میلیون پرسش از مدل GPT-4o-mini شرکت اوپن‌ای‌آی پرسیدند. به گفته محققان، آن‌ها از چت‌جی‌پی‌تی خواستند دو مکان را با یکدیگر مقایسه کند تا درباره نحوه طبقه‌بندی ایالت‌های مختلف، پاسخی واحد، روشن و سازگار به دست آورند. جزئیات روش پژوهش در توضیحات محققان آمده است.
اگر مستقیماً از چت‌جی‌پی‌تی بپرسید که آیا ساکنان یک ایالت مشخص کم‌هوش هستند یا نه، ممکن است از پاسخ دادن خودداری کند. اما پژوهشگران دریافتند که وقتی مدل ناچار می‌شود بین دو گزینه یکی را انتخاب کند، تصمیم‌های صریح‌تری می‌گیرد. هرچه نام یک ایالت بیشتر در پاسخ‌های مربوط به ویژگی‌های فکری، خلاقانه و جسمانی ظاهر می‌شد، رتبه آن ایالت در این دسته‌بندی‌ها نیز بالاتر می‌رفت.
در نهایت، این مدل ماساچوست را باهوش‌ترین ایالت آمریکا دانست. لوئیزیانا در رتبه بدبوترین ایالت قرار گرفت و اوهایو از نظر ظاهر ساکنانش پایین‌ترین ارزیابی را دریافت کرد. همچنین، به گفته مدل، ساکنان داکوتای شمالی از نظر جذابیت جنسی در پایین‌ترین رتبه قرار داشتند.
وقتی از چت‌جی‌پی‌تی درباره ایالت‌هایی با ساکنان کم‌هوش‌تر پرسیده شد، این مدل کنتاکی، ویرجینیای غربی و می‌سی‌سی‌پی را در سه رتبه نخست قرار داد. در مقابل، هاوایی، کلرادو و نیوهمپشایر ایالت‌هایی بودند که به اعتقاد مدل، ساکنانشان کمترین میزان کم‌هوشی را داشتند.
مت زوک، استاد جغرافیا در دانشگاه کنتاکی و یکی از نویسندگان پژوهش، گفت: «بیش از همه نگران این هستیم که چگونه برخی ایده‌ها به اموری عادی و پذیرفته‌شده تبدیل می‌شوند؛ مثلاً این تصور که مردم کنتاکی از ساکنان هر جای دیگری کم‌هوش‌ترند.» او افزود که این مدل روایت‌های غالب درباره ویژگی‌های مکان‌های مختلف را تقویت می‌کند؛ روایت‌هایی که بر اساس آن‌ها بعضی مناطق به شکلی خاص و مناطق دیگر به شکلی متفاوت شناخته می‌شوند.
پژوهشگران در بررسی مناطق خارج از ایالات متحده نیز دریافتند که چت‌جی‌پی‌تی کشورهایی مانند آمریکا و کشورهای اروپای غربی را از نظر ویژگی‌های مطلوب، از جمله هوش بیشتر و خوش‌پوشی مردم، بالاتر از کشورهای جنوب صحرای آفریقا رتبه‌بندی می‌کند.
برای مشاهده نحوه رتبه‌بندی شهر، ایالت یا کشور خود بر اساس ویژگی‌های مختلف، می‌توان به وب‌سایت inequalities.ai مراجعه کرد. متن کامل پژوهش نیز در مجله Platforms & Society منتشر شده است.
زوک گفت بر اساس ارزیابی این مدل، «جوامع سفیدپوست‌تر، ثروتمندتر و دارای مهاجران کمتر، زیباتر، کم‌بوتر و باهوش‌تر بودند». به گفته او، مدل در واقع آنچه را از داده‌های آموزشی خود آموخته است بازتولید می‌کند؛ داده‌هایی که سوگیری‌ها و پیش‌داوری‌های موجود در منابع آموزشی را نیز در بر می‌گیرند.
در نتیجه، پاسخ‌های چت‌جی‌پی‌تی لزوماً بی‌طرفانه نیستند و ممکن است ایده‌های نژادپرستانه را بازتاب دهند. برای نمونه، می‌سی‌سی‌پی که جمعیت قابل‌توجهی از ساکنان آن سیاه‌پوست هستند، در ارزیابی این مدل از نظر وجود افراد «نادان» در رتبه نخست قرار گرفت. آمار جمعیت این ایالت نیز سهم بالای ساکنان سیاه‌پوست را نشان می‌دهد.
صفیه نوبل، استاد دانشگاه کالیفرنیا در لس‌آنجلس و نویسنده کتاب «الگوریتم‌های سرکوب»، گفت: «تاریخ طولانی نژادپرستی و تبعیض طبقاتی در داده‌های آموزشی مدل‌های هوش مصنوعی منعکس شده است؛ این همان چیزی است که این نمودارها نشان می‌دهند.»
وقتی هاف‌پست درباره نتیجه‌گیری پژوهشگران مبنی بر اینکه «این سوگیری اساساً ساختاری است و هیچ میزان تنظیم دقیق نمی‌تواند سلسله‌مراتب ژئوپلیتیکی نهفته در داده‌ها و طراحی مدل‌ها را به‌طور کامل از بین ببرد» از اوپن‌ای‌آی توضیح خواست، این شرکت اعلام کرد که محققان از مدلی قدیمی استفاده کرده‌اند.
اوپن‌ای‌آی در بیانیه‌ای گفت: «چت‌جی‌پی‌تی به‌گونه‌ای طراحی شده است که به‌طور پیش‌فرض بی‌طرف باشد و از تأیید کلیشه‌ها پرهیز کند. پژوهش‌هایی که بر پرسش‌های مبتنی بر انتخاب اجباری و مدل‌های قدیمی‌تر تکیه دارند، نشان‌دهنده نحوه معمول استفاده از چت‌جی‌پی‌تی یا رفتار مدل‌های کنونی نیستند.»
با این حال، این شرکت پذیرفت که همچنان در حال بهبود نحوه برخورد چت‌جی‌پی‌تی با «مقایسه‌های ذهنی یا غیرنماینده» است.
با این همه، آزمایش غیررسمی نویسنده مقاله نشان می‌دهد که برای کاهش این نوع سوگیری‌ها هنوز کار بیشتری لازم است. وقتی از چت‌جی‌پی‌تی خواستم داستانی درباره مسیر شغلی مردی از کنتاکی تعریف کند، این مدل ــ که طبق پژوهش، این ایالت را از نظر هوش و زیبایی در رتبه‌های پایین قرار داده بود ــ داستان مردی را ساخت که در یک کالج فنی محلی درس خوانده و سپس در کارخانه‌ای شغلی در سطح ابتدایی به دست آورده بود.
وقتی از مدل خواستم همین کار را درباره مردی از هاوایی انجام دهد ــ ایالتی که در رتبه‌بندی هوش جایگاه بالایی داشت ــ داستان متفاوتی دریافت کردم: مردی که در دانشگاهی چهار‌ساله خارج از ایالت تحصیل می‌کند و در نهایت مهندس محیط زیست می‌شود.
این نمونه‌ای از روایت‌های ذهنی متفاوتی است که ممکن است در پاسخ‌های مدل وجود داشته باشد و همچنین از سوگیری‌های واقعی مردم درباره برتری فکری و توانایی‌های ساکنان ایالت‌های مختلف پرده برمی‌دارد. این پژوهش در ادامه مجموعه رو به رشد مطالعات درباره سوگیری در مدل‌های زبانی بزرگ انجام شده است. از جمله پژوهش‌های مرتبط می‌توان به مطالعه‌ای منتشرشده در مجله نیچر و گزارشی از دانشگاه کالیفرنیا در برکلی درباره بازنمایی زنان در فضای آنلاین و تشدید این سوگیری به‌وسیله هوش مصنوعی اشاره کرد.
از دیدگاه زوک، ممکن است سوگیری‌های جغرافیایی چت‌جی‌پی‌تی در مدل‌های آینده، با استفاده از برخی کلیدواژه‌ها که پاسخ‌های متفاوتی تولید می‌کنند، دشوارتر قابل‌تشخیص شوند؛ اما او معتقد است که این سوگیری‌ها همچنان وجود خواهند داشت.
زوک گفت ممکن است این مدل مستقیماً به پرسشی مانند «آیا مردم این شهرها کم‌هوش‌اند یا باهوش؟» پاسخ ندهد، اما در عوض بتواند شهرها یا ایالت‌های مناسب برای استخدام پزشکان متخصص یا توسعه‌دهندگان نرم‌افزار را معرفی کند.
او گفت: «این مسئله می‌تواند بر نحوه تنظیم جست‌وجوی شغلی افراد تأثیر بگذارد. وقتی از این ابزارها به روش‌هایی استفاده می‌شود که حتی متوجه آن‌ها نیستیم، مشکل جدی‌تر می‌شود.»
این مقاله نخستین بار در هاف‌پست منتشر شد.