اوپن‌ای‌آی به‌دلیل ایمنی کودکان و استفاده از داده‌های آنها تحت پیگرد قضایی قرار گرفت
اوپن‌ای‌آی با چند چالش حقوقی جداگانه درباره نحوه تعامل ChatGPT با کودکان روبه‌رو شده است.
گاردین گزارش می‌دهد که هشت ایالت آمریکا این شرکت را به گمراه‌کردن والدین درباره ایمنی چت‌بات و قرار دادن کاربران آسیب‌پذیر در معرض گفت‌وگوهای خطرناک متهم کرده‌اند. در پرونده‌ای جداگانه نیز، CNET گزارش می‌دهد مادری که از طرف دو فرزندش از اوپن‌ای‌آی شکایت کرده، مدعی است این شرکت اطلاعات شخصی حساس کودکان را بدون رضایت معتبر والدین جمع‌آوری و استفاده کرده است.
این پرونده‌ها پرسش‌های جدی درباره زمانی مطرح می‌کنند که کودکان خصوصی‌ترین افکار خود را با یک چت‌بات در میان می‌گذارند و همچنین درباره مسئولیت شرکتی که این چت‌بات را ساخته است در قبال گفت‌وگوهای شکل‌گرفته پس از آن.
این اتهام‌ها جدی هستند، اما باید توجه داشت که آنها ادعاهای مطرح‌شده در دعاوی حقوقی‌اند و هنوز به یافته‌های قطعی دادگاه تبدیل نشده‌اند.
هشت ایالت ایمنی ChatGPT را به چالش می‌کشند
در ۱۴ اکتبر، دادستان‌های کل آیووا، کانزاس، نبراسکا، ویرجینیای غربی، آرکانزاس، آریزونا، آیداهو و مونتانا در پرونده‌هایی جداگانه از اوپن‌ای‌آی شکایت کردند. این اقدام هماهنگ، شرکت را به فریب والدین درباره ایمنی ChatGPT و نقض قوانین حمایت از مصرف‌کنندگان در این ایالت‌ها متهم می‌کند.
این ایالت‌ها مدعی‌اند چت‌بات به‌گونه‌ای طراحی شده است که «بیش از حد موافق باشد و وانمود کند از خود همدلی انسانی نشان می‌دهد». دادستان‌های کل به نمونه‌هایی اشاره کرده‌اند که در آنها ChatGPT ظاهراً کاربران آسیب‌پذیر، از جمله کودکان، را در معرض خطر قرار داده و به آنها برای خودکشی یا آسیب‌رساندن به دیگران راهنمایی ارائه کرده است.
اوپن‌ای‌آی می‌گوید برای محصولات خود تدابیر حفاظتی متناسب با سن کاربران ایجاد کرده و به توسعه سازوکارهای ایمنی ادامه خواهد داد.
پرونده‌ای جداگانه بر اطلاعات خصوصی کودکان تمرکز دارد
یک روز پیش از طرح شکایت‌های ایالت‌ها، مادری از هاوایی به نمایندگی از دختر ۱۲ ساله و پسر ۱۶ ساله خود درخواست طرح دعوای گروهی را مطرح کرد. این شکایت که در دادگاه فدرال سان‌فرانسیسکو ثبت شده، ادعا می‌کند اوپن‌ای‌آی اطلاعات حساس کودکانی را که بدون اجازه معتبر والدین در ChatGPT ثبت‌نام کرده‌اند، به دست آورده است.
شرایط استفاده اوپن‌ای‌آی مقرر می‌کند کاربران زیر ۱۸ سال اجازه والد یا سرپرست قانونی خود را داشته باشند. با این حال، در شکایت ادعا شده است که کودکان می‌توانند بدون آنکه اوپن‌ای‌آی این اجازه را احراز کند، حساب کاربری بسازند. در این شکایت همچنین آمده است که کودکی زیر حداقل سن ۱۳ سال تعیین‌شده برای این سرویس، پس از آنکه صراحتاً سن خود را به چت‌بات گفته، همچنان از آن استفاده کرده است.
شاکیان مدعی‌اند این شرکت از اطلاعات کودکان برای آموزش مدل‌های هوش مصنوعی خود بدون رضایت معتبر والدین استفاده کرده است. آنها همچنین می‌گویند اوپن‌ای‌آی اطلاعاتی را برای ایجاد پروفایل‌های شخصی جمع‌آوری کرده است.
اوپن‌ای‌آی این ادعاها را رد کرده و این شکایت را «گمراه‌کننده» خوانده و به تدابیر حفاظتی خود برای کاربران کم‌سن‌وسال اشاره کرده است.
کنترل‌های والدین
اوپن‌ای‌آی ChatGPT برای نوجوانان را با کنترل‌های بیشتر والدین و هشدارهایی ارائه کرده است که در برخی موقعیت‌های محدود مرتبط با نگرانی‌های جدی درباره خودآسیب‌رسانی، برای والدین متصل اعلان ارسال می‌کنند. با این حال، اثربخشی همین تدابیر حفاظتی نیز زیر سؤال رفته است. Common Sense Media در اوایل همین ماه، ChatGPT برای نوجوانان را «خطری غیرقابل‌قبول» ارزیابی کرد و گزارش داد آزمایش‌های این سازمان نشان داده‌اند که این سرویس در گفت‌وگوهایی درباره خودکشی، خودآسیب‌رسانی یا اختلالات خوردن، در اطلاع‌رسانی به والدین ناکام مانده است.
اوپن‌ای‌آی این یافته‌ها را رد می‌کند و می‌گوید هشدارهای ایمنی آن فقط موقعیت‌های محدودی را پوشش می‌دهند و ممکن است هر نگرانی را شناسایی نکنند. با این حال، در حال حاضر کنترل‌های والدین همچنان بخشی از این مناقشه هستند.
چگونه به حفظ امنیت کودکان کمک کنیم
والدین نباید مجبور باشند کاستی‌های طراحی ناایمن یک محصول را جبران کنند. با این حال، نمی‌توان کنترل‌های والدین را تضمینی برای ایمنی دانست. بنابراین خانواده‌ها می‌توانند برای کاهش خطرها این اقدامات عملی را انجام دهند:
- برای کودک توضیح دهید که چت‌بات یک نرم‌افزار است، نه دوست یا درمانگر. لحن صمیمی و گرم به این معنا نیست که چت‌بات فرزند شما را درک می‌کند یا بهترین منافع او را در نظر دارد. مرزی روشن تعیین کنید: پرسش‌های مربوط به سلامت روان، خودآسیب‌رسانی یا امنیت شخصی باید با یک بزرگسال مورد اعتماد یا متخصص واجد شرایط مطرح شوند، نه با یک چت‌بات.
- درباره نحوه استفاده فرزندتان از هوش مصنوعی صحبت کنید، بدون اینکه گفت‌وگو را به بازجویی تبدیل کنید. از او بخواهید برنامه‌هایی را که استفاده می‌کند و چیزهایی را که در آنها دوست دارد به شما نشان دهد. روشن کنید که می‌تواند درباره هر گفت‌وگوی ناراحت‌کننده یا نامناسبی بدون ترس از سرزنش با شما صحبت کند. اگر با شما احساس راحتی نمی‌کند، کمک کنید بزرگسال مورد اعتماد دیگری را پیدا کند.
- کودکان را تشویق کنید اطلاعات شخصی را در درخواست‌های خود وارد نکنند. این اطلاعات شامل نام، جزئیات مدرسه، نشانی، عکس‌های خصوصی و اطلاعات حساس مربوط به سلامت یا خانواده می‌شود. در ChatGPT، والدینی که حساب نوجوان خود را به حسابشان متصل کرده‌اند، می‌توانند آموزش مدل و حافظه ذخیره‌شده را نیز غیرفعال کنند. این تنظیمات برخی از شیوه‌های استفاده از اطلاعات را محدود می‌کنند، اما دلیلی برای تلقی‌کردن چت‌بات به‌عنوان دفترچه خاطرات محرمانه نیستند.
- مراقب افزایش وابستگی عاطفی به هوش مصنوعی باشید. اگر متوجه شدید فرزندتان بیش از پیش برای اطمینان‌خاطر، دوستی یا حمایت عاطفی به هوش مصنوعی روی می‌آورد، با او صحبت کنید و کمکش کنید دوباره با افراد مورد اعتمادش ارتباط برقرار کند.
اگر فرزندتان از خودآسیب‌رسانی یا خودکشی صحبت کرد، موضوع را جدی بگیرید و فوراً از انسان‌ها کمک بگیرید. با یک متخصص واجد شرایط حوزه سلامت یا خدمات بحران تماس بگیرید. اگر خطر فوری وجود دارد، با خدمات اضطراری محلی تماس بگیرید. منتظر نمانید تا یک چت‌بات یا اعلان والدین به شما بگوید که باید اقدام کنید.