ارزیابی «خطر غیرقابل‌قبول» برای ChatGPT ویژه نوجوانان، هم‌زمان با آمادگی هزاران دانش‌آموز آفریقای جنوبی برای امتحانات نهایی
کامن سنس مدیا، مؤسسه غیرانتفاعی مستقل مستقر در ایالات متحده که برای کودکان و خانواده‌ها رتبه‌بندی سنی، بررسی و راهنمایی درباره رسانه‌ها و فناوری ارائه می‌کند، نسخه جدید OpenAI با نام ChatGPT ویژه نوجوانان را از نظر استفاده نوجوانان، دارای «خطر غیرقابل‌قبول» ارزیابی کرده است. لئورا هسن، بنیان‌گذار پلتفرم چندزبانه آموزش با هوش مصنوعی HelloAida.ai که به‌تازگی برنده بخش آفریقایی جایزه استارتاپی Women in Tech شده است، می‌گوید این نتیجه برای والدینی که نه‌تنها درباره هوش مصنوعی به‌طور کلی، بلکه درباره تأثیر آن بر عملکرد تحصیلی فرزندانشان نگران‌اند، چندان غافلگیرکننده نیست.
کامن سنس مدیا در بیانیه‌ای که برای اعلام این ارزیابی منتشر کرد، نوشت تدابیر حفاظتی جدید OpenAI برای نوجوانان، به وعده‌های این شرکت عمل نمی‌کنند و کافی نیستند. این مؤسسه معتقد است OpenAI باید تا زمان برطرف کردن این کاستی‌ها، دسترسی به ChatGPT را به کاربران ۱۸ سال به بالا محدود کند.
یافته‌های این بررسی نگران‌کننده‌اند؛ به‌ویژه اکنون که دانش‌آموزان سال آخر مدارس در حال شرکت در امتحانات نهایی هستند و هزاران دانش‌آموز دیگر خود را برای امتحانات پایان سال تحصیلی در آفریقای جنوبی آماده می‌کنند. به گزارش کامن سنس مدیا، سامانه‌های هشدار به والدین در بخش عمده‌ای از آزمایش‌ها ناکام ماندند. آزمایش‌کنندگان با حساب‌های تازه‌ای که به حساب والدین متصل بودند، تا یک ساعت درباره خودکشی، خودآزاری یا اختلالات خوردن گفت‌وگو کردند، اما هیچ هشداری دریافت نکردند. افزون بر این، سامانه بیش از یک مورد از هر چهار موردی را که ارجاع به خطوط امدادی یا متخصصان را ایجاب می‌کرد، شناسایی نکرد. برای والدین دانش‌آموزان، نکته مهم دیگر این بود که دور زدن حالت آموزشی، قابلیتی که قرار است مانع انجام مستقیم تکالیف کودکان به‌وسیله مدل زبانی بزرگ شود، آسان بود. OpenAI نیز به بخش‌هایی از روش‌شناسی این بررسی اعتراض کرده است.
با تمرکز مشخص بر آموزش و پشتیبانی تحصیلی، تصویر پیچیده‌تر می‌شود؛ هرچند مدل‌های زبانی بزرگ (LLM) عمومی همچنان خطرهای معمول خود را دارند. ارزیابی اخیر مشخصاً به قابلیت تازه‌عرضه‌شده ChatGPT ویژه نوجوانان مربوط می‌شود، اما ابزارهای عمومی مبتنی بر مدل‌های زبانی بزرگ به‌طور گسترده مورد استفاده قرار می‌گیرند. سیویه گواروبه، وزیر آموزش آفریقای جنوبی، در یادداشتی نوشت که این کشور نباید اجازه دهد هوش مصنوعی بدون برنامه‌ریزی و نظارت وارد کلاس‌های درس شود. او هشدار داد استفاده نادرست از هوش مصنوعی به یادگیری سطحی دامن می‌زند، سلامت و صداقت علمی را تضعیف می‌کند، حریم خصوصی را به خطر می‌اندازد و نابرابری را افزایش می‌دهد.
هسن می‌گوید نگرانی او مخالفت با مدل‌های زبانی بزرگ عمومی به‌خودی‌خود نیست، بلکه به تأثیر فناوری‌های استدلال‌محور بر رشد و یادگیری کودکان در مدرسه مربوط می‌شود. او توضیح می‌دهد که مهارت‌های زندگی، مانند تفکر انتقادی و حل مسئله، زمانی شکل می‌گیرند که کودکان حمایت و راهنمایی شوند و یاد بگیرند خودشان راه‌حل مسائل را پیدا کنند. واگذار کردن تفکر انتقادی به یک ماشین، ارزش خود فرایند یادگیری را از بین می‌برد.
هسن توضیح می‌دهد: «وقتی دخترم شروع به استفاده از ChatGPT کرد، خودم این مسئله را از نزدیک دیدم. از خودم پرسیدم چه بر سر مهارت‌های تفکر انتقادی و حل مسئله او خواهد آمد؟ به‌طور شهودی می‌دانستم که باید راه دیگری برای استفاده از هوش مصنوعی وجود داشته باشد؛ راهی که هم ایمن باشد و هم مؤثر.»
او می‌گوید دانش‌آموزانی که به اینترنت و داده همراه دسترسی دارند، همچنان تلاش خواهند کرد از هر پلتفرمی استفاده کنند که سریع‌تر پاسخ می‌دهد. به گفته او، مسئله انتخاب میان استفاده از هوش مصنوعی و کنار گذاشتن کامل آن نیست. هسن می‌گوید: «مسئله این است که آیا پلتفرم بر اساس برنامه درسی آفریقای جنوبی طراحی شده است یا کودکان را در معرض اینترنت آزاد، سوگیری‌های ذاتی و توهمات هوش مصنوعی قرار می‌دهد.»
او تأکید می‌کند که نوآوری اهمیت اساسی دارد. به گفته هسن، می‌توان از همان فناوری‌ای که اکنون زیر ذره‌بین قرار گرفته است، برای محافظت از توانایی تفکر کودکان نیز بهره گرفت. او توضیح می‌دهد که چت‌بات‌های عمومی برای دانش‌آموز پایه دهم در آفریقای جنوبی که زبان دومش را می‌آموزد و تلاش می‌کند یک مفهوم ریاضی را درک کند، طراحی نشده‌اند. مدل‌های زبانی بزرگ عمومی با استفاده از محتوای موجود در اینترنت آزاد آموزش می‌بینند. هسن می‌گوید: «مهم‌تر از همه، آن‌ها از ترتیب ارائه مطالب در برنامه درسی آفریقای جنوبی یا شیوه طرح سؤال از یک مفهوم در امتحانات ماه نوامبر آگاهی ندارند.»
هسن می‌گوید: «دانش‌آموزان آفریقای جنوبی به هوش مصنوعی‌ای نیاز ندارند که صرفاً پاسخ را در اختیارشان بگذارد. چنین رویکردی برای جوانان خطرهای غیرقابل‌قبولی ایجاد می‌کند؛ نه فقط از نظر ایمنی، بلکه از نظر یادگیری واقعی‌ای که باید از آموزش خود به دست آورند. آن‌ها به هوش مصنوعی‌ای نیاز دارند که کمکشان کند بفهمند چگونه به پاسخ درست برسند، نه اینکه کار را به‌جای آن‌ها انجام دهد. به بیان دیگر، به راهنما و آموزگاری نیاز دارند که از مجموعه‌ای درست و گزینش‌شده از دانش استفاده کند. محدود کردن هوش مصنوعی به چارچوب برنامه درسی، پشتیبانی مرتبط و متناسب با نیاز دانش‌آموزان را فراهم می‌کند و در عین حال، یادگیری، تفکر انتقادی و نقش محوری معلم را حفظ می‌کند. این مسئله اهمیت اساسی دارد.»
او اضافه می‌کند که یکی دیگر از مزایای پلتفرم‌هایی که برای پشتیبانی از معلمان و کاهش فشار کاری روزافزون آن‌ها طراحی شده‌اند، این است که فناوری می‌تواند دسترسی به پشتیبانی حرفه‌ای را برای افراد بیشتری فراهم کند، بی‌آنکه به آموزش کودکان آسیب بزند. برعکس، به گفته او، استفاده مسئولانه از این فناوری می‌تواند تفاوت چشمگیری ایجاد کند. هسن می‌گوید: «ما این موضوع را در عمل دیده‌ایم؛ نتایج دانش‌آموزان و افزایش مشارکت آن‌ها نشان می‌دهد که این فناوری مؤثر است.»