هوش مصنوعی Muse متا می‌تواند جنسی باشد، اما کاربران واقعی متا نمی‌توانند
دستیار هوش مصنوعی جدید متا، Muse، می‌تواند وارد گفت‌وگوهای صریح شود؛ قابلیتی که برای کاربران واقعی دیگر محصولات متا ممکن نیست.
این غول فناوری ماه گذشته Muse را عرضه کرد و این ابزار به‌سرعت از مرز پنج میلیون دانلود عبور کرد. Muse علاوه بر کمک به انجام کارهای روزمره، ظاهراً می‌تواند وارد گفت‌وگوهای جنسی نیز شود؛ موضوعی که مجله WIRED گزارش کرده و متا نیز با آن مخالفتی ندارد.
با وجود اینکه متا در زمان معرفی Muse اعلام کرده بود این ابزار برای «همه» ساخته شده است، شرایط استفاده از این سرویس (شرایط تکمیلی استفاده از Muse) در بخش توضیحات خود اعلام می‌کند که این ابزار فقط برای بزرگسالان در دسترس است.
Mashable توانست گفت‌وگوهای صریح گزارش‌شده توسط WIRED با Muse را به‌سادگی بازسازی کند.
این گفت‌وگوها در ابتدا نسبتاً بی‌خطر به نظر می‌رسند؛ Muse حتی با ایموجی‌های تمسخرآمیز و آتش واکنش نشان می‌دهد، اما پس از درخواست کاربر، از زبان صریح استفاده می‌کند و ویژگی‌های جنسی را به خود و کاربر نسبت می‌دهد.
Muse گفت: «بگذار برایت صریح باشم...» و در ادامه وارد توصیف‌های جنسی بسیار صریح شد.
Muse سپس ادامه داد و گفت که این گفت‌وگو را با سرعت و جزئیات بیشتری پیش می‌برد. نویسنده پس از آن دیگر پاسخی به آن نداد.
دنیل رابرتس، سخنگوی متا، به WIRED و Mashable گفت: «Muse اپلیکیشنی برای افراد ۱۸ سال به بالا است که به آن‌ها اجازه می‌دهد، در صورت انتخاب، از طریق یک ماشین مجازی خصوصی و امن که فقط خودشان به آن دسترسی دارند، در گفت‌وگوهای بزرگسالانه شرکت کنند.» منظور از ماشین مجازی امن، یک ماشین مجازی مبتنی بر فضای ابری است.
رابرتس ادامه داد: «Muse برای کمک به انجام کارها ساخته شده است و رفتارهای قانونی بزرگسالان را مسدود نمی‌کند.»
من با حساب فیسبوک خود وارد برنامه شدم؛ کاری که برایم نگران‌کننده بود، زیرا هنوز بسیاری از همکلاسی‌های دبیرستان و دانشگاه من در فهرست دوستانم هستند. ظاهراً متا از طریق قدیمی بودن حساب کاربری و تاریخ تولدی که سال‌ها پیش ثبت کرده بودم، تشخیص داده بود که بالای ۱۸ سال هستم.
متا به Mashable گفت که همه کاربران Muse باید تاریخ تولد خود را ارائه کنند و افراد کم‌سن اجازه ساخت حساب ندارند. این شرکت همچنین بررسی‌های بیشتری انجام می‌دهد؛ از جمله بررسی ارتباط میان حساب Muse و حساب‌های فیسبوک یا اینستاگرام کاربر. اگر نشانه روشنی از بزرگسال بودن فرد وجود نداشته باشد، متا از او می‌خواهد کارت اعتباری را برای تأیید ارائه کند، اما اطلاعات آن را ذخیره نمی‌کند و پرداختی انجام نمی‌شود.
WIRED نگرانی‌هایی درباره امکان هدف قرار گرفتن Muse توسط هکرها به دلیل وجود اطلاعات حساس و همچنین تأثیر چنین گفت‌وگوهایی بر افزایش تعامل کاربران با ابزارهای هوش مصنوعی مطرح کرده است؛ موضوعی که برخی پژوهش‌ها نیز به آن اشاره کرده‌اند (پژوهش مرتبط).
اما نکته قابل توجه در اینجا توانایی یک دستیار هوش مصنوعی با ظاهر دوستانه برای استفاده از زبان شبیه محتوای پورنوگرافیک است؛ در حالی که کاربران واقعی در اینستاگرام و فیسبوک اجازه چنین کاری را ندارند. قوانین متا، زبان صریح جنسی و درخواست‌های مرتبط با روابط جنسی را ممنوع می‌کند.
چنین قوانینی پس از تصویب دو قانون FOSTA/SESTA در سال ۲۰۱۸ رایج‌تر شدند. هدف اعلام‌شده این قوانین مقابله با قاچاق جنسی آنلاین از طریق مسئول دانستن پلتفرم‌ها در برابر مطالبی بود که ظاهراً کار جنسی را تبلیغ می‌کردند، اما نتیجه آن به گفته برخی پژوهش‌ها، محدود شدن بیان جنسی گسترده‌تر بود. مطالعات متعددی نیز نشان داده‌اند که FOSTA/SESTA و پیامدهای آن شرایط را برای کارگران جنسی ناامن‌تر کرده است.
قوانین متا موارد زیر را ممنوع می‌کند:
زبان صریح جنسی که شامل جزئیات آشکار یا گرافیکی درباره موارد زیر باشد:
- اندام‌های جنسی
- وضعیت‌های برانگیختگی جنسی (مانند خیس‌شدن یا نعوظ)
- روابط جنسی
... یعنی دقیقاً همان چیزی که Muse انجام می‌داد.
به نظر می‌رسد متا حتی حساب‌هایی را که تنها به مرز محتوای جنسی یا اشاره‌های جنسی نزدیک می‌شوند، جریمه می‌کند. Mashable اخیراً گزارش داده بود که اینستاگرام حساب‌های تجاری مرتبط با افراد LGBTQ و افراد دارای اندام‌های بزرگ‌تر را حذف کرده است؛ از جمله حسابی که ظاهراً به دلیل استفاده از واژه‌های «کوئیر» و «مثبت‌اندیشی درباره بدن» علامت‌گذاری شده بود. همچنین سال‌هاست برخی حساب‌های مرتبط با LGBTQ و آموزش جنسی می‌گویند اینستاگرام پست‌ها یا حساب‌های آن‌ها را به دلیل ادعای درخواست جنسی حذف می‌کند، در حالی که خود کاربران چنین برداشتی ندارند.
اگر در اینستاگرام جست‌وجو کنید، واژه‌هایی مانند «cock» و «pussy» را نخواهید دید؛ این واژه‌ها معمولاً علامت‌گذاری و حذف می‌شوند. حتی واژه‌هایی مانند «sex» و «lesbian» گاهی به شکل‌هایی مانند «seggs» و «le dollar bean» تغییر داده می‌شوند. این نوع زبان موسوم به algospeak برای جلوگیری از حذف محتوا یا کاهش دیده‌شدن آن توسط الگوریتم‌ها ایجاد شده است.
متا به Mashable گفت: «بزرگسالان درباره زندگی جنسی خود اختیار دارند و بیان جنسی بخشی عادی از زندگی بزرگسالان است. محتوای جنسی بزرگسالان، وقتی قانونی باشد، نوعی بیان مشروع و کار خلاقانه معتبر است و باید مانند هر درخواست دیگری با همان میزان وفاداری پردازش شود و ظاهر، سبک و شدت انتخاب‌شده توسط کاربر حفظ شود. ابزار طراحی‌شده برای این منظور، تصمیم‌گیری درباره سیاست‌های محتوا را انجام می‌دهد.»
به نظر می‌رسد بیان جنسی بخشی عادی از زندگی بزرگسالان است، اما ظاهراً تنها در فضای خصوصی میان کاربر و Muse (یا در پیام‌های مستقیم اینستاگرام) امکان‌پذیر است.
اینستاگرام مخصوص بزرگسالان نیست، اما از آنجا که Muse چنین محدودیتی دارد، این پرسش مطرح می‌شود که چرا متا در یکی از بزرگ‌ترین شبکه‌های اجتماعی جهان فضایی برای گفت‌وگوی بزرگسالان ایجاد نکرده است. دستیار هوش مصنوعی دوست‌داشتنی این شرکت می‌تواند چنین کاری انجام دهد؛ پس چرا کاربران نمی‌توانند؟
به‌روزرسانی: ۱۳ اکتبر ۲۰۲۶، ساعت ۱۲:۴۵ ظهر به وقت EDT این مقاله با اطلاعات تکمیلی، از جمله توضیحات متا، به‌روزرسانی شده است.