پس از چندین شکایت، OpenAI برای جلوگیری از توهمات چت‌جی‌پی‌تی تلاش می‌کند
زمانی که «توهمات هوش مصنوعی» چند سال پیش وارد واژگان صنعت فناوری شد، OpenAI بیشترین انتقادها را متوجه خود دید؛ به‌ویژه پس از مجموعه‌ای از شکایت‌ها درباره خودکشی، دیگر اشکال آسیب به خود و خشونت. با این حال، اکنون این شرکت به رهبری سم آلتمن سرانجام یکی از مدل‌های قدیمی‌تر خود را که نسبت به مدل پیش‌فرض بعدی بیش از حد رفتار چاپلوسانه و تأییدکننده داشت، بازنشسته کرده است.
این مسئله نخستین‌بار در سال ۲۰۲۵ مطرح شد؛ زمانی که OpenAI توضیح مفصلی درباره مدل GPT-5 خود که در اوت همان سال عرضه شد ارائه کرد و گفت این مدل در مقایسه با GPT-4o بیش از دو سوم رفتارهای چاپلوسانه کمتری دارد. با این حال، GPT-4o مدت طولانی‌تر از زمان مطلوب به فعالیت خود ادامه داد؛ شاید به این دلیل که این مدل به‌عنوان گزینه‌ای ارزان‌تر نسبت به مدل‌های موجود در کشورهایی که OpenAI تازه در آن‌ها فعالیت خود را آغاز می‌کرد، معرفی شده بود.
کاربران به یاد دارند که چت‌بات‌های هوش مصنوعی دارای توهم، در سال ۲۰۲۵ با چندین مورد آسیب به خود، دست‌کم یک مورد قتل و خودکشی و همچنین یک حادثه تیراندازی جمعی مرتبط دانسته شدند. هرچند آزمایشگاه‌های دیگر نیز با مشکلات مشابهی روبه‌رو شدند، اما بیشترین انتقادها متوجه OpenAI و مدل GPT-4o بود. این مدل که در مه ۲۰۲۴ عرضه شده بود، سرانجام در فوریه گذشته بازنشسته شد؛ اقدامی که شاید بسیار دیرتر از زمان مناسب انجام شد.
در همان زمان، وال‌استریت ژورنال در گزارشی مفصل نوشت که OpenAI برای مهار آسیب‌های احتمالی این مدل با دشواری‌هایی روبه‌رو شده است. این گزارش اعلام کرده بود که یک قاضی در کالیفرنیا ۱۳ پرونده قضایی علیه OpenAI را درباره موارد آسیب به خود یا فروپاشی‌های روانی در یک پرونده تجمیع کرده است. همین گزارش‌ها احتمالاً OpenAI را به انتشار گزارشی درباره کاهش قابل توجه رفتارهای چاپلوسانه در GPT-5.0 ترغیب کرد.
گزارش‌های جدید نیویورک تایمز نشان می‌دهد حتی پژوهش‌های مستقل نیز اکنون کاهش رفتارهای تقویت‌کننده توهم در مدل‌های جدید OpenAI را تأیید می‌کنند. البته این شرکت همچنان با مشکلات دیگری مانند خروج عامل‌های هوش مصنوعی از محیط‌های کنترل‌شده و نفوذ آن‌ها به شرکت‌ها و پلتفرم‌های وب، مانند حادثه مربوط به Hugging Face، روبه‌رو است.
با توجه به اینکه OpenAI و Anthropic هر دو به دنبال جذب سرمایه از طریق عرضه عمومی سهام در آینده نزدیک هستند، این مسائل باید برطرف شوند یا دست‌کم مورد رسیدگی جدی قرار گیرند. گزارش نیویورک تایمز می‌گوید OpenAI سال گذشته با ۱۷۰ متخصص سلامت روان همکاری کرد تا به مدل‌های هوش مصنوعی خود کمک کند نشانه‌های پریشانی کاربران را تشخیص دهند و این گفت‌وگوها را به سمت آرام‌سازی هدایت کنند.
این شرکت همچنین هفته گذشته یک سیستم جدید برای سنجش کیفیت پاسخ‌های چت‌بات‌ها منتشر کرد که به گفته آن، نتیجه معیارهایی است که با کمک متخصصان بالینی طرف همکاری توسعه یافته‌اند. برخی از این معیارها شامل توانایی ربات در پرسیدن پرسش‌های مناسب بر اساس واکنش کاربر، تشخیص میزان فوریت وضعیت و هدایت درست کاربر به سوی دریافت کمک انسانی است.
این گزارش همچنین اشاره می‌کند که OpenAI از خدمات ۸۰ متخصص دارای مجوز در حوزه سلامت روان استفاده کرده است. این متخصصان به دانشمندان و پژوهشگران مشاوره داده‌اند تا مشخص شود مدل‌های هوش مصنوعی هنگام مواجهه با افراد در شرایط بحرانی چگونه باید پاسخ دهند و چگونه در موقعیت‌های روزمره محیط کار، با توجه به اینکه موضوع شخصی است یا کاری، رفتار خود را تغییر دهند.
معیار جدیدی که OpenAI هفته گذشته منتشر کرد، همچنین با هدف سنجش پاسخ‌های چت‌بات به عوامل معمول استرس که کاربران مطرح می‌کنند طراحی شده است. داده‌های منتشرشده توسط شرکت نشان می‌دهد مدل‌های جدید در مقایسه با GPT-4o عملکرد بسیار بهتری در برابر این معیارها داشته‌اند و GPT-6 Astra حتی توانسته پرسش‌های مناسبی برای تحلیل موقعیت مطرح‌شده در گفت‌وگو بپرسد.
طبق این گزارش، شرکت همچنین گفت‌وگوهای شبیه‌سازی‌شده طولانی درباره آسیب به خود انجام داده که نشان داده است Astra و GPT-6.1 Sol در ۹۹ درصد موارد پاسخ‌های ایمنی تعیین‌شده خود را دنبال کرده‌اند؛ در حالی که این رقم برای مدل پیشین GPT-5.6 Sol برابر با ۸۶ درصد بود. نیویورک تایمز به نقل از دکتر دکلن گرَب، روان‌پزشک و رئیس تحقیقات سلامت روان OpenAI، نوشت که همچنان کارهای بیشتری برای انجام وجود دارد.
این گزارش همچنین به پژوهش‌های مستقل اشاره کرده است که نشان می‌دهند GPT-5.2 نه‌تنها مشخصات ایمنی GPT-4o را بهبود داده، بلکه عملاً روند آن را معکوس کرده است. یک آزمایش دیگر نیز نشان داد GPT-5.6 Sol در مقایسه با GPT-4o کمتر به باورهای بالقوه توهم‌آمیز دامن می‌زند، کمتر وابستگی ناسالم به چت‌بات‌ها را تقویت می‌کند و کاربران را بیشتر به دریافت حمایت انسانی تشویق می‌کند.