چگونه از کودکان در برابر سوءاستفاده از هوش مصنوعی محافظت کنیم؟
سوءاستفاده از هوش مصنوعی برای تولید تصاویر جنسی، به‌ویژه تصاویری که کودکان را هدف قرار می‌دهند، رو به افزایش است. این روند ضرورت تقویت تدابیر حفاظتی و نظارت دقیق‌تر والدین را بیش از پیش مطرح کرده است.
مدیها محمود، مدیر اجرایی انجمن محتوای چندرسانه‌ای مالزی (CMCF)، گفت ابزارهای هوش مصنوعی می‌توانند تصاویر افراد را به محتوای جنسی تبدیل کنند یا با استفاده از آن‌ها ویدئوهای دیپ‌فیک بسازند که افراد را در موقعیت‌های نامناسب نشان می‌دهند.
او اخیراً گفت: «این تصویر واقعی نیست؛ تصویری دست‌کاری‌شده یا ویدئویی دیپ‌فیک است که هوش مصنوعی آن را تغییر داده تا قربانی را در موقعیتی جنسی یا نامناسب نشان دهد.»
محمود افزود که افزایش استفاده کودکان از ابزارهای هوش مصنوعی نیز نگران‌کننده است، زیرا دسترسی بدون محدودیت به برنامه‌ها و وب‌سایت‌ها می‌تواند تولید محتوای غیرقانونی را آسان‌تر کند.
او گفت: «یکی از آشکارترین مشکلات، گسترش برنامه‌ها، وب‌سایت‌ها و ابزارهای متن‌باز بدون محدودیت است که می‌توان از آن‌ها برای اهداف مخرب استفاده کرد. تعداد این ابزارها بسیار زیاد است.»
به گفته او، دسترسی آسان به این برنامه‌ها، نظارت بر نحوه استفاده از پلتفرم‌های هوش مصنوعی و کنترل آن‌ها را دشوار کرده است.
محمود گفت: «نمی‌توان همیشه بر این پلتفرم‌های تولید محتوا با هوش مصنوعی نظارت کامل داشت یا آن‌ها را به‌طور کامل کنترل کرد. نگران‌کننده‌تر از همه این است که هر کسی با یک دستگاه متصل به اینترنت می‌تواند به آن‌ها دسترسی داشته باشد، بدون آنکه بررسی شود کاربر بزرگسال است یا کودک.»
او افزود: «دسترسی افراد زیر سن قانونی و دیگر گروه‌های آسیب‌پذیر همچنان تا حد زیادی بدون محدودیت است.»
محمود گفت توزیع محتوای جنسی مربوط به کودکان، حتی اگر فرد منتشرکننده خود کودک یا نوجوان باشد، طبق قانون جرائم جنسی علیه کودکان مصوب سال ۲۰۱۷ مالزی جرم محسوب می‌شود.
او تأکید کرد: «این نکته بسیار مهمی است که باید به والدین، سرپرستان، معلمان و همه کسانی که به‌طور منظم با کودکان در ارتباط هستند، گوشزد شود.»
محمود گفت مردم مالزی از هوش مصنوعی برای افزایش خلاقیت و بهره‌وری استقبال کرده‌اند، اما افراد سودجو نیز از این فناوری سوءاستفاده می‌کنند.
او گفت: «مانند هر خدمت یا برنامه دیگری، افراد بدخواه از این فناوری سوءاستفاده می‌کنند و آن را در مسیر اهداف خود به کار می‌گیرند.»
او افزود: «کاربردهای شگفت‌انگیزی از هوش مصنوعی در زمینه خلاقیت و بهره‌وری می‌بینیم، اما چون این فناوری در دسترس همگان قرار دارد، شاهد استفاده افراد بدخواه از آن برای اهداف مخرب نیز هستیم.»
محمود گفت قوانین موجود، از جمله قانون مجازات، قانون ارتباطات و چندرسانه‌ای مصوب سال ۱۹۹۸ و قانون ایمنی آنلاین مصوب سال ۲۰۲۶، می‌توانند برای رسیدگی به سوءاستفاده از هوش مصنوعی مورد استفاده قرار گیرند.
بااین‌حال، گردآوری شواهد دیجیتال همچنان یکی از چالش‌های نهادهای مسئول اجرای قانون است.
او از افرادی که قربانی دست‌کاری تصاویر با هوش مصنوعی شده‌اند و همچنین کسانی که از چنین مواردی اطلاع دارند، خواست موضوع را به پلیس و نهادهای مربوط گزارش دهند.
محمود تأکید کرد که حذف یا پاک شدن محتوای منتشرشده در اینترنت لزوماً به این معنا نیست که دیگر نمی‌توان شواهد مربوط به آن را بازیابی کرد.
او گفت: «مردم اغلب تصور می‌کنند وقتی پیوندی حذف می‌شود، دیگر هیچ کاری نمی‌توان انجام داد.»
او افزود: «اما در گفت‌وگو با نهادهای مجری قانون، از جمله پلیس و کمیسیون ارتباطات و چندرسانه‌ای مالزی (MCMC)، مشخص شده است که راهکارهای فنی برای بازیابی پیوندها و ردیابی شواهد دیجیتال و جرم‌شناختی وجود دارد.»
محمود گفت: «مردم نباید تصور کنند که امکان گزارش یک حادثه از بین رفته است. گزارش‌ها را می‌توان و باید ثبت کرد و اقدامات لازم انجام خواهد شد.»
او معتقد است پلتفرم‌های دیجیتال باید اصول «ایمنی از مرحله طراحی» (Safety by Design) و «ایمنی به‌صورت پیش‌فرض» (Safety by Default) را به کار بگیرند.
این اصول شامل محدود کردن برخی قابلیت‌های دست‌کاری تصاویر برای کاربران زیر سن قانونی و الزام به دریافت رضایت قابل‌تأیید پیش از تغییر تصاویر است.
محمود گفت پلتفرم‌های شبکه‌های اجتماعی برای رعایت چارچوب‌های نظارتی و الزامات صدور مجوز با کمیسیون ارتباطات و چندرسانه‌ای مالزی همکاری کرده‌اند، اما همکاری با ارائه‌دهندگان هوش مصنوعی مولد همچنان محدود است.
او گفت: «از دیدگاه انجمن محتوای چندرسانه‌ای مالزی، تاکنون همکاری معناداری در این زمینه شکل نگرفته است؛ دلیل اصلی نیز دشواری برقراری ارتباط با توسعه‌دهندگان و ارائه‌دهندگان مستقلی است که این ابزارهای هوش مصنوعی را عرضه می‌کنند.»
محمود تأکید کرد که مشکل اصلی، نبود قانون نیست.
او گفت: «در عوض، مشکل به آگاهی ناکافی والدین مربوط می‌شود؛ بسیاری از آن‌ها به‌درستی از آسیب‌های احتمالی که فرزندانشان ممکن است با آن روبه‌رو شوند، آگاه نیستند. مسئله در اصل به آگاهی‌رسانی و سواد دیجیتال مربوط است.»
او به کارزار «اینترنت امن» (Internet Selamat) کمیسیون ارتباطات و چندرسانه‌ای مالزی اشاره کرد که با هدف آگاه‌سازی والدین درباره خطرات فضای آنلاین، قابلیت‌های ایمنی پلتفرم‌ها و نحوه تنظیم این قابلیت‌ها اجرا می‌شود.
محمود گفت: «والدین باید تهدیدها را بشناسند، با قابلیت‌های ایمنی ارائه‌شده در پلتفرم‌ها آشنا شوند و بدانند چگونه آن‌ها را تنظیم کنند.»
او از والدین خواست بر استفاده فرزندانشان از برنامه‌های هوش مصنوعی نظارت داشته باشند؛ به‌ویژه زمانی که برای آن‌ها دستگاه‌های متصل به اینترنت یا دستگاه‌های مجهز به قابلیت ضبط تهیه می‌کنند.
او گفت: «چه والدین بخواهند و چه نخواهند، اگر دستگاه‌های متصل به اینترنت یا دستگاه‌های دارای قابلیت ضبط در اختیار فرزندانشان قرار می‌دهند، باید مطمئن شوند که استفاده از این دستگاه‌ها تحت نظارت است.»
محمود افزود موضع دولت مبنی بر ممنوعیت ایجاد حساب کاربری در شبکه‌های اجتماعی برای کودکان زیر ۱۶ سال باید به‌عنوان الگویی برای سایر خدمات آنلاین نیز در نظر گرفته شود.
او گفت پیشگیری از سوءاستفاده از هوش مصنوعی به مسئولیت مشترک نهادهای ناظر، دستگاه‌های مجری قانون، پلتفرم‌های دیجیتال، والدین و کل جامعه نیاز دارد.
محمود در پایان تأکید کرد: «همه باید به کودکان کمک کنیم تا خطرات جدی استفاده از هوش مصنوعی برای تولید تصاویر نامناسب از خودشان یا همسالانشان و به‌اشتراک‌گذاشتن این تصاویر را درک کنند.»