اپل با به‌روزرسانی دستورالعمل‌های بررسی اپلیکیشن‌ها، اپ‌های تولید تصاویر مستهجن با هوش مصنوعی را هدف گرفت
اخبار
نویسنده: مالکوم اوون
اپل بار دیگر دستورالعمل‌های بررسی اپلیکیشن‌ها را به‌روزرسانی کرده است تا با برنامه‌هایی مقابله کند که تصاویر بزرگسالان را بدون رضایت افراد تولید می‌کنند و با استفاده از روش‌های فریبنده مبتنی بر معرفی نادرست قابلیت‌ها، از فرایند بررسی اپل برای ورود به اپ استور عبور می‌کنند.
اپ استور اپل فرایند بررسی نسبتاً سخت‌گیرانه‌ای دارد و دستورالعمل‌های مشخصی نیز برای آن تدوین شده است؛ بااین‌حال، همه برنامه‌هایی که از این مرحله عبور می‌کنند، لزوماً به‌درستی تأیید نشده‌اند. برخی برنامه‌نویسان برای پنهان‌کردن ماهیت واقعی اپلیکیشن‌های خود از روش‌های فریبکارانه استفاده می‌کنند تا بتوانند برنامه‌هایی با قابلیت‌های مغایر با قوانین را وارد اپ استور کنند.
اپلیکیشن‌هایی که در مرحله بررسی خود را به شکلی متفاوت از عملکرد واقعی‌شان نشان می‌دهند، پدیده تازه‌ای نیستند. برنامه‌های کلاهبردار و مخرب پیش‌تر از این روش استفاده کرده‌اند و حتی در یک مورد، بانک‌های روسیه نیز چنین رویکردی داشته‌اند.
در تازه‌ترین اقدام برای مقابله با این مشکل، وب‌سایت توسعه‌دهندگان اپل توضیح داده است که چرا تغییراتی در دستورالعمل‌های بررسی اپلیکیشن‌ها اعمال شده است. اپل این تغییرات را در اطلاعیه‌ای که اواخر ۱۶ اکتبر منتشر شد، اقدامی علیه «تصاویر صمیمی بدون رضایت افراد و اپلیکیشن‌های فریبنده‌ای که ماهیت واقعی خود را پنهان می‌کنند» توصیف کرده است. متن اطلاعیه در وب‌سایت توسعه‌دهندگان اپل منتشر شده است.
اپ استور از مدت‌ها پیش انتشار اپلیکیشن‌های دارای محتوای مستهجن، از جمله برنامه‌های تولیدکننده تصاویر جنسی صریح، را ممنوع کرده است. این ممنوعیت شامل اپلیکیشن‌های موسوم به «برهنه‌سازی» نیز می‌شود؛ برنامه‌هایی که با استفاده از عکس‌های ارائه‌شده از سوی کاربران، تصاویر برهنه و صریحی از افراد واقعی تولید می‌کنند، بدون آنکه این افراد رضایت داده باشند.
در ماه ژوئیه، شهر سان‌فرانسیسکو به اپل دستور داد هشت اپلیکیشن هوش مصنوعی برای برهنه‌سازی را از اپ استور آیفون حذف کند.
اپلیکیشن‌هایی که محتوای تولیدشده توسط کاربران را میزبانی می‌کنند نیز موظف‌اند سازوکارهایی برای فیلترکردن مطالب نامناسب داشته باشند. این الزامات شامل فراهم‌کردن امکان گزارش چنین محتواهایی از سوی کاربران و قابلیت مسدودکردن حساب‌های کاربری است.
اپل در چارچوب تغییرات جدید تأکید کرده است که اپلیکیشن‌های دارای قابلیت‌های مخفی یا مستندنشد‌ه نیز اجازه حضور در اپ استور را ندارند. این ممنوعیت برنامه‌هایی را هم دربرمی‌گیرد که «در جریان بررسی، هدف واقعی خود را نادرست جلوه می‌دهند و تنها پس از تأییدشدن، قابلیت‌های آسیب‌زای خود را آشکار می‌کنند».
تغییرات دستورالعمل‌های بررسی اپ استور
بند ۱.۲: الزامات نظارت بر محتوا اکنون تصریح می‌کند که اپلیکیشن‌ها باید به‌صورت فعال از انتشار محتوای صمیمی تولیدشده بدون رضایت افراد جلوگیری کنند یا چنین محتوایی را حذف کنند. این الزام، تصاویر ساخته‌شده با ابزارهای هوش مصنوعی را نیز شامل می‌شود.
بند ۲.۵.۱۹: موضع اپل درباره ممنوعیت اپلیکیشن‌هایی که با معرفی گمراه‌کننده قابلیت‌های خود، فرایند بررسی اپ استور را دور می‌زنند، شفاف‌تر شده است.
اپل از مدت‌ها پیش مانع انتشار اپلیکیشن‌هایی شده است که قاچاق انسان یا بهره‌کشی از کودکان را تسهیل می‌کنند. بااین‌حال، بخش پنجم دستورالعمل‌ها اکنون این موضع را روشن‌تر بیان می‌کند: اپلیکیشن‌هایی که مشخص شود چنین فعالیت‌هایی را تسهیل می‌کنند، از اپ استور حذف خواهند شد و توزیع آن‌ها از طریق «روش‌های جایگزین» نیز مسدود می‌شود.