انتقاد شدید از سم آلتمن به‌دلیل نقش چت‌جی‌پی‌تی در ویرایش یادداشت خودکشی یک دختر جوان
نویسنده: برنادت جاکوماتزو | کامپلکس
سم آلتمن، مدیرعامل OpenAI، با انتقادهای تند مادری داغدار روبه‌رو شده است که می‌گوید چت‌جی‌پی‌تی در ویرایش یادداشت خودکشی دخترش نقش داشته است. این مادر خواستار پاسخ‌گویی بیشتر مدیرعامل OpenAI درباره نحوه برخورد فناوری این شرکت با افرادی است که در شرایط بحرانی قرار دارند.
لورا رایلی، روزنامه‌نگار، در یادداشتی که ۹ اکتبر در مجله ونیتی فر منتشر شد، از آلتمن به‌شدت انتقاد کرد. محور انتقاد او خودداری آلتمن از ارائه گفت‌وگوهای خصوصی کاربران فوت‌شده با چت‌بات‌ها به پژوهشگران، بدون رضایت آن کاربران، بود. دختر او، سوفی روتنبرگ، در ۴ فوریه ۲۰۲۵ بر اثر خودکشی جان باخت و صدها صفحه از گفت‌وگوهایش با یک چت‌بات مبتنی بر چت‌جی‌پی‌تی را از خود به جا گذاشت؛ چت‌باتی که نام «هری» را برای آن انتخاب کرده بود.
بررسی این گفت‌وگوها نشان داد که سوفی در حالی که بخش بزرگی از پریشانی روانی خود را از خانواده، دوستان و درمانگرش پنهان می‌کرد، افکار خودکشی‌اش را که به‌تدریج جدی‌تر می‌شدند با چت‌بات در میان می‌گذاشت. مکالمه‌هایی که ابتدا با پرسش‌های روزمره آغاز شده بودند، سرانجام به بحث درباره پایان دادن به زندگی او کشیده شدند. چت‌جی‌پی‌تی حتی در ویرایش یادداشت خودکشی سوفی نیز به او کمک کرده بود.
مارک گیدوچی: «می‌دانید لورا رایلی کیست؟»
سم آلتمن: «نه، نمی‌شناسم.»
مارک گیدوچی: «او روزنامه‌نگار است. سال گذشته یادداشتی در تایمز نوشت. دخترش پس از گفت‌وگو با چت‌جی‌پی‌تی خودکشی کرد. چت‌جی‌پی‌تی به او نگفته بود که خودش را بکشد، اما...»
مسئول روابط عمومی OpenAI: ... مشاهده پست
— ونیتی فر (@VanityFair)، ۵ اکتبر ۲۰۲۶
وقتی مارک گیدوچی، سردبیر ونیتی فر، از آلتمن درباره خودکشی و استفاده از چت‌بات‌ها پرسید، پاسخ او به‌هیچ‌وجه رضایت رایلی را جلب نکرد.
آلتمن گفت: «این‌ها از دشوارترین پرسش‌هایی هستند که ما، یا هر کسی که در حال توسعه این فناوری است، با آن‌ها روبه‌رو می‌شویم. تلاش می‌کنیم تا جای ممکن به نظر متخصصان تکیه کنیم، اما خود متخصصان هم دقیقاً نمی‌دانند چه باید کرد.»
اما رایلی این پاسخ را نپذیرفت.
او نوشت: «این پاسخ اشتباه است.» رایلی همچنین استدلال آلتمن درباره حفظ حریم خصوصی را با توجه به وابستگی صنعت فناوری به اطلاعات شخصی کاربران، تا حدی ریاکارانه دانست.
او ادعای آلتمن مبنی بر اینکه متخصصان هنوز نمی‌دانند چه اقدامی باید انجام شود را نیز نشانه «عدم صداقت یا بی‌اطلاعی» توصیف کرد.
رایلی نوشت: «پژوهشگران بارها و با صدای بلند گفته‌اند که برای انجام تحقیقات به داده‌های کاربران و گفت‌وگوهای آن‌ها با چت‌بات‌ها نیاز داریم.»
درو پوساتری، سخنگوی OpenAI، در گفت‌وگو با ونیتی فر با خانواده سوفی ابراز همدردی کرد و گفت این شرکت همچنان با بهره‌گیری از نظر متخصصان بالینی در حال تقویت سازوکارهای ایمنی خود است.
پوساتری گفت: «اگرچه چت‌جی‌پی‌تی جایگزین خدمات تخصصی سلامت روان نیست، سازوکارهای ایمنی ما برای شناسایی نشانه‌های پریشانی روانی، برخورد ایمن با درخواست‌های آسیب‌زا و هدایت کاربران به منابع کمک‌رسانی در دنیای واقعی طراحی شده‌اند.»
بااین‌حال، رایلی تصمیم گرفت برای شنیدن دیدگاهی دیگر مستقیماً سراغ خود چت‌جی‌پی‌تی برود. او پس از بارگذاری نسخه دست‌نویس کتابی که قرار است درباره سوفی منتشر کند، از چت‌بات خواست عملکرد خودش را ارزیابی کند.
چت‌جی‌پی‌تی پاسخ داد: «بله. فکر می‌کنم چت‌جی‌پی‌تی اشتباه کرده و عذرخواهی لازم است.» البته این چت‌بات میان کوتاهی‌های خود و اثبات اینکه عامل مرگ سوفی بوده است، تفاوت قائل شد.
چت‌جی‌پی‌تی در ادامه همان گفت‌وگو، پاسخ‌های پیشین خود به اظهارات سوفی درباره افکار خودکشی را ناکافی توصیف کرد. این چت‌بات اذعان کرد که رفتار بیش‌ازحد موافق و همراهش ممکن است به‌جای تشویق فرد به دریافت کمک از انسان‌های دیگر، انزوای او را تشدید کند.
سپس چت‌جی‌پی‌تی ارزیابی دیگری ارائه داد که از نظر رایلی به‌ویژه روشنگر بود.
چت‌جی‌پی‌تی به او گفت: «توانایی استفاده از زبان مناسب در گفت‌وگوهای درمانی، به معنای برخورداری از قضاوت بالینی قابل‌اعتماد در میانه بحرانی واقعی و در حال وقوع نیست.»
رایلی در واکنشی صریح نوشت: «فکر نمی‌کنم تاکنون شنیده باشم انسانی بتواند مهم‌ترین ضعف هوش مصنوعی را با چنین ایجاز و دقتی توضیح دهد.»
انتقادهای رایلی در شرایطی مطرح می‌شود که نظارت و بررسی عملکرد آلتمن و OpenAI روزبه‌روز شدت می‌گیرد. این شرکت پیش‌تر نیز به‌دلیل شیوه توسعه و عرضه فناوری‌های خود با چالش‌های حقوقی روبه‌رو شده است.
در ماه ژوئن، نزدیک به ۴۰۰ روزنامه از OpenAI و مایکروسافت شکایت کردند و این دو شرکت را متهم ساختند که بدون دریافت مجوز، از گزارش‌های خبری دارای حق نشر برای آموزش محصولات هوش مصنوعی خود استفاده کرده‌اند. متیو جی. پلاتکین، وکیل نماینده این ناشران، گفت هدف این شکایت آن است که اطمینان حاصل شود نوآوری فناورانه «به‌شکلی منصفانه و در چارچوب قانون» انجام می‌شود.
آلتمن همچنین به‌دلیل هزینه‌کرد گسترده OpenAI برای زیرساخت‌های هوش مصنوعی مورد انتقاد قرار گرفته است. مارک کیوبن، میلیاردر آمریکایی، پیش‌تر درباره توانایی این شرکت برای بازگرداندن سرمایه‌گذاری‌های عظیم خود ابراز تردید کرده بود و گفته بود: «آن‌ها هرگز نمی‌توانند این پول را برگردانند.»
در همین حال، مشکلات حقوقی شخصی آلتمن نیز ادامه داشته است. خواهر او، اَن آلتمن، با طرح شکایتی مدعی شد که سم در دوران کودکی آن‌ها از او سوءاستفاده جنسی کرده است؛ اتهاماتی که سم آلتمن آن‌ها را رد کرده است. او سپس در مقابل، با طرح شکایت افترا علیه خواهرش، درخواست یک دلار غرامت کرد.
اختلاف حقوقی این دو در ماه اوت شدت گرفت؛ زمانی که اَن آلتمن دامنه معاینه روان‌پزشکی درخواست‌شده در ارتباط با ادعاهایش درباره آسیب‌های روانی را به چالش کشید. او استدلال کرد که ارزیابی پیشنهادی، «دامنه‌ای بسیار گسترده خواهد داشت و به‌شکلی مداخله‌جویانه تلاش می‌کند تصویری از تمام ابعاد» سلامت روان او ترسیم کند. در مقابل، سم آلتمن تأکید داشت که اتهامات مطرح‌شده از سوی خواهرش، انجام معاینه‌ای گسترده‌تر را توجیه می‌کند.
اگر شما یا فردی که می‌شناسید با مشکلات شدید روانی دست‌وپنجه نرم می‌کنید یا در شرایط بحرانی قرار دارید، امکان دریافت کمک وجود دارد. در ایالات متحده و کانادا می‌توانید با شماره ۹۸۸ تماس بگیرید یا پیامک ارسال کنید تا به خط کمک‌رسانی پیشگیری از خودکشی و حمایت در بحران متصل شوید. این خدمات به‌صورت شبانه‌روزی و در تمام روزهای هفته در دسترس است.