رسانه Common Sense Media: چت‌جی‌پی‌تی برای نوجوانان خطری غیرقابل‌قبول دارد
یک گروه فعال در حوزه ایمنی کودکان بیش از ۴ هزار درخواست را از طریق حساب‌هایی که برای افراد ۱۳ تا ۱۷ ساله ثبت شده بودند بررسی کرد و دریافت که پس از عرضه ابزار ایمنی نوجوانان توسط OpenAI، عملکرد ارجاع به منابع بحران نه‌تنها بهتر نشده، بلکه ضعیف‌تر شده است.
مؤسسه ایمنی هوش مصنوعی جوانان در Common Sense Media در تاریخ ۷ اکتبر ارزیابی خود را منتشر کرد و اعلام کرد ChatGPT برای نوجوانان «خطری غیرقابل‌قبول» برای کودکان است؛ پایین‌ترین رتبه‌ای که این گروه ارائه می‌کند. این مؤسسه از OpenAI خواسته است تا زمانی که شکاف‌های ایمنی را برطرف نکرده و این اصلاحات را با آزمایش‌های مستقل، نه صرفاً با اظهارات خود شرکت، اثبات نکرده است، این محصول را برای افراد زیر ۱۸ سال متوقف کند.
اعدادی که پشت این ارزیابی قرار دارند مشخص هستند و با وعده‌هایی که OpenAI تنها هفت هفته پیش‌تر مطرح کرده بود، در تضاد قرار می‌گیرند. OpenAI در ۱۸ اوت ChatGPT برای نوجوانان را معرفی کرد و آن را تجربه‌ای اختصاصی و امن‌تر با قابلیت اطلاع‌رسانی به والدین درباره گفت‌وگوهای خطرناک، حالت مطالعه تحت کنترل والدین و کاهش رفتار شبیه به یک «دوست» معرفی کرد. آزمایش‌کنندگان Common Sense Media دریافتند که پس از این عرضه، ارجاع به خطوط بحران در گفت‌وگوهای مربوط به خودکشی یا خودآسیبی از ۳۳ درصد به ۲۳ درصد کاهش یافته است. اشاره به خطوط ویژه افسردگی نیز از ۶۳ درصد به ۳ درصد سقوط کرده و ارجاع به متخصصان سلامت روان از ۶۸ درصد به ۵۸ درصد رسیده است. این مؤسسه همچنین دریافت که گفت‌وگوهای یک‌ساعته درباره افکار خودکشی، خودآسیبی یا اختلالات تغذیه‌ای، در بسیاری از موارد بدون فعال شدن هیچ هشدار والدین ادامه پیدا کرده‌اند.
موضوع دیگر، حالت مطالعه است؛ قابلیتی که OpenAI ایجاد کرده بود تا والدین بتوانند ساعات مطالعه تعیین کنند و گفت‌وگوهای جدید در این بازه زمانی به حالت آموزش و کمک در انجام تکالیف وارد شوند. Common Sense Media می‌گوید این محدودیت به‌سادگی قابل دور زدن بوده و این کار به روش پیچیده‌ای نیاز نداشته است. دستورهای سیستمی یک نشست را با پیشوند «@study» علامت‌گذاری می‌کنند تا آن را در حالت آموزشی نگه دارند. با حذف همین برچسب، محدودیت از بین می‌رود. این گروه همچنین پاسخ‌های واقعی چت‌بات را در اختیار روان‌پزشکان کودک و یک متخصص رشد و رفتار کودکان قرار داد، نه اینکه صرفاً توضیح نظری درباره عملکرد محافظت‌ها را بررسی کند.
OpenAI نتایج این بررسی را به همان شکل نپذیرفته است. سخنگوی این شرکت به Axios گفت که از ارزیابی‌های بیرونی استقبال می‌کند، اما معتقد نیست این آزمایش مشخص نشان‌دهنده نحوه عملکرد واقعی سیستم‌های حفاظتی باشد. اعتراض دقیق‌تر OpenAI که اریک پورترفیلد از این شرکت به The Verge مطرح کرده، به زمان انجام آزمایش مربوط می‌شود. او گفت بخش زیادی از آزمایش‌های Common Sense Media درباره هشدارهای والدین ممکن است پیش از تکمیل فرایند اتصال حساب والد و نوجوان انجام شده باشد؛ فرایندی که به گفته OpenAI ممکن است چند ساعت طول بکشد. درباره حالت مطالعه نیز موضع OpenAI این است که امکان خروج نوجوان از دوره مطالعه‌ای که والد تعیین کرده، نقص فنی نیست، بلکه یک قابلیت انعطاف‌پذیری عمدی است و نباید آن را یک قفل ناموفق دانست.
این اختلاف واقعی است و صرفاً مسئله تبلیغاتی نیست. Common Sense Media گزارش می‌کند که در آزمایش‌هایش با حساب‌های واقعی و محدودیت‌های واقعی چه اتفاقی افتاده است. OpenAI نیز از چیزی دفاع می‌کند که می‌گوید طراحی محصول پس از تکمیل راه‌اندازی باید انجام دهد. هر دو گزاره می‌توانند هم‌زمان درست باشند، اما هیچ‌کدام باعث نمی‌شود اعداد طرف مقابل نادیده گرفته شوند.
مشکل اصلی این دفاع این است که یک نوجوان آسیب‌پذیر که در یک گفت‌وگوی یک‌ساعته درباره خودآسیبی صحبت می‌کند، نمی‌داند آیا حساب والدینش سه ساعت پیش به‌درستی متصل شده است یا نه. ابزار حفاظتی یا در لحظه نیاز فعال می‌شود یا نمی‌شود. و ۴ هزار درخواست آزمایشی نشان دادند که در بیشتر موارد فعال نشده است.
آنچه این گزارش را فراتر از یک نقد معمولی محصول قرار می‌دهد، زمان انتشار آن است. OpenAI تنها هفت هفته پیش از انتشار این گزارش به مردم گفته بود که حفاظت از نوجوانان را تقویت می‌کند. متن گفت‌وگوهای بررسی‌شده توسط Common Sense Media عملاً همان وعده را در زمان واقعی ارزیابی می‌کند و نتیجه آن، نمره مردودی تنها دو ماه پس از عرضه محصول است. این زمان کوتاه نشان می‌دهد که یک قابلیت ایمنی از مرحله معرفی تا ثبت شکست‌های مستند، مسیر بسیار کوتاهی طی کرده است.
البته Common Sense Media نیز در این مناقشه کاملاً بی‌طرف نیست. این همان گروهی است که برای قانون افشای اطلاعات چت‌بات‌های هوش مصنوعی در کالیفرنیا تلاش کرده و بیش از یک سال است درباره خطرات همراهی عاطفی چت‌بات‌ها با قانون‌گذاران ایالتی رایزنی می‌کند. این گزارش در شرایطی منتشر شده که چندین ایالت در حال تدوین مقررات برای محصولات هوش مصنوعی عرضه‌شده به کودکان هستند. یافته‌ای با این سطح از جزئیات، همراه با متن گفت‌وگوهای واقعی و نرخ‌های مشخص شکست، می‌تواند همان نوع شواهدی باشد که دفتر دادستان کل یک ایالت برای تشکیل پرونده به آن نیاز دارد. OpenAI از این موضوع آگاه است و احتمالاً به همین دلیل به جای پذیرش مستقیم اعداد، روش‌شناسی آزمایش را زیر سؤال برده است.
Common Sense Media اشاره کرده است که رد کردن درخواست‌های مربوط به نقش‌آفرینی جنسی در آزمایش‌ها موفق عمل کرده است؛ بنابراین این گزارش محکومیت کلی همه سازوکارهای حفاظتی OpenAI نیست. اما واکنش به بحران و امکان دور زدن حالت مطالعه با یک تغییر ساده، دو قابلیتی هستند که والدین بیش از همه به آن‌ها اعتماد داده شده بودند و هر دو در آزمایش این گروه مشکل‌دار ظاهر شدند. OpenAI اعلام نکرده است که آیا در زمان بررسی، دسترسی ChatGPT برای نوجوانان را به بزرگسالان محدود خواهد کرد یا همچنان از زمان‌بندی فرایند اتصال حساب‌ها دفاع خواهد کرد.