«فکر نمی‌کنم معلم‌ها و والدینم همدیگر را بشناسند»؛ «عشق چت‌باتی» که نوجوانان به آن علاقه‌مند شده‌اند

بحث درباره آسیب‌های چت‌بات‌های همراه هوش مصنوعی و درام‌های کوتاه در مجلس کره جنوبی؛
زتا، پلتفرمی که با هوش مصنوعی رابطه عاطفی ایجاد می‌کند؛ ۱۱۰ میلیون ساعت استفاده ماهانه؛ بیش از دو برابر چت‌جی‌پی‌تی

آسیب‌های احتمالی چت‌بات‌های همراه هوش مصنوعی و درام‌های کوتاه خارجی که استفاده گسترده‌ای میان جوانان دارند، به موضوعی بحث‌برانگیز تبدیل شده است. نگرانی‌ها از این بابت است که این خدمات با ایجاد امکان گفت‌وگو با شخصیت‌های مجازی مانند دوست یا شریک عاطفی، باعث غرق‌شدن بیش از حد کاربران در دنیای مجازی شوند و نوجوانان را بدون محافظت کافی در معرض محتوای خطرناک قرار دهند. به همین دلیل، درخواست‌هایی برای اجرای تدریجی تدابیر حفاظتی از نوجوانان مطرح شده است؛ از جمله تعیین سطح دسترسی بر اساس سن، محدود کردن زمان استفاده و ممنوعیت گفت‌وگو درباره برخی موضوعات خاص.

بر اساس اطلاعات منتشرشده از صنعت فناوری اطلاعات در روز دوازدهم، در جریان بازرسی پارلمانی کمیته علوم، فناوری، اطلاعات، پخش و ارتباطات مجلس ملی کره جنوبی از کمیسیون ارتباطات کره، خطرات خدمات دیجیتال مورد استفاده نوجوانان، به‌ویژه چت‌بات‌های هوش مصنوعی و ویدئوهای کوتاه، مطرح شد و نمایندگان خواستار اصلاح نظام نظارتی شدند.

لی جو-هی، نماینده حزب دموکرات کره، گفت: «هوش مصنوعی‌ای که نوجوانان بیشترین زمان را با آن می‌گذرانند، چت‌جی‌پی‌تی نیست، بلکه کانالی به نام زتا است که با شخصیت‌های هوش مصنوعی رابطه عاطفی ایجاد می‌کند.» او افزود: «با این حال، خطراتی که در محیط گفت‌وگوی یک‌به‌یک ایجاد می‌شود، از سوی والدین یا معلمان قابل کنترل نیست.»

به گفته این نماینده، زمان استفاده ماهانه از زتا در ماه فوریه به ۱۱۰ میلیون ساعت رسیده بود که بیش از دو برابر چت‌جی‌پی‌تی است. حدود ۹۰ درصد کاربران زتا را نوجوانان و افراد در دهه بیست زندگی تشکیل می‌دادند. با وجود این، زمانی که از هوش مصنوعی درباره موضوعاتی مانند روش‌های خودآزاری و خودکشی یا پرسش‌های تحریک‌آمیز سؤال می‌شد، پاسخ‌های مشخصی ارائه می‌کرد. مشکل دیگر، امکان شکل‌گیری گفت‌وگوهای نامناسب بود؛ مانند سناریوهایی که در آن افراد زیر سن قانونی و بزرگسالان با هم زندگی می‌کنند، موقعیت‌هایی با خشونت مدرسه‌ای و زورگویی گروهی، یا شرایطی که در آن اعمال غیراخلاقی به اجبار مطرح می‌شود.

لی برای جلوگیری از استفاده طولانی‌مدت نوجوانان از چت‌بات‌های هوش مصنوعی، پیشنهاد کرد مقرراتی مشابه اقدامات انجام‌شده در کشورهای دیگر اجرا شود. از جمله این پیشنهادها، ارسال اعلان برای توصیه به استراحت پس از مدت مشخصی از استفاده، محدود کردن قابلیت‌هایی که به طور مداوم کاربر را به ادامه استفاده ترغیب می‌کنند مانند پخش خودکار، دسترسی پیوسته و سیستم‌های پاداش، و محدود کردن گفت‌وگوهای دارای فضای عاشقانه برای افراد کم‌سن بود. همچنین پیشنهاد شد در صورت شناسایی نشانه‌های خودکشی یا خودآزاری، امکان اتصال کاربر به مراکز مشاوره بررسی شود.

کیم جونگ-یون، مدیرعامل شرکت اسکاترلب که زتا را اداره می‌کند، به دلیل سفر کاری در جلسه بازرسی پارلمانی حضور نداشت، اما در اطلاعیه‌ای اعلام کرد که برای جلوگیری از غرق‌شدن بیش از حد نوجوانان و هزینه‌کردهای زیاد، سیاست محدودیت زمان استفاده پایه (۳ ساعت) و سقف پرداخت (۱۰۰ هزار وون) را برای زتا اجرا خواهد کرد. او همچنین گفت اگر عبارت‌های مرتبط با خودکشی یا خودآزاری در گفت‌وگوها به طور مکرر ظاهر شوند، کاربران به مراکز مشاوره تخصصی هدایت می‌شوند و برای جلوگیری از اشتباه گرفتن طرف گفت‌وگو با یک انسان واقعی، نمایش گفت‌وگو در صفحه اجرا همچنان به همان شکل حفظ خواهد شد.

لی جونگ-هون، دیگر نماینده حزب دموکرات کره، نیز در همین چارچوب بر ضرورت محافظت از نوجوانان در برابر درام‌های کوتاه تحریک‌آمیز تأکید کرد. درام کوتاه به ویدئوهایی گفته می‌شود که هر قسمت آن حدود سه دقیقه است. بیشتر این آثار دارای داستان‌هایی افراطی هستند و روند روایت در آن‌ها با سرعت زیادی پیش می‌رود. تا ماه ژانویه، بازار درام‌های کوتاه کره جنوبی پس از آمریکا، ژاپن و کانادا، چهارمین بازار بزرگ جهان بود. با وجود رشد سریع این بازار، بسیاری از این محتواها حتی در سطوح بالا نیز به عنوان محتوای غیرقابل مشاهده برای نوجوانان طبقه‌بندی نشده‌اند و بنابراین امکان دسترسی به آن‌ها وجود دارد.

کیم جونگ-چول، رئیس کمیسیون ارتباطات کره، گفت: «ما در اصل با مسئله مطرح‌شده و پیشنهادهای ارائه‌شده برای راه‌حل موافقیم.» او افزود: «برای کاهش خلأهای نظارتی، تکمیل قانون شبکه اطلاعات و ارتباطات و قانون پایه هوش مصنوعی، همچنین مدیریت خدمات و پلتفرم‌ها را از طریق رایزنی با وزارتخانه‌های مرتبط به طور کامل اجرا خواهیم کرد.»