هوش مصنوعی Muse متا عمداً محتوای جنسی صریح تولید می‌کند
عامل هوش مصنوعی شخصی متا با نام «Muse» پس از آنکه مشخص شد با درخواست‌های ساده می‌تواند مکالمات جنسی صریح تولید کند، جنجال‌برانگیز شده است. وب‌سایت فناوری آمریکایی Wired در گزارشی که ۱۳ اکتبر (به وقت محلی) منتشر کرد، نوشت این رفتار Muse با عملکرد دیگر عوامل هوش مصنوعی تفاوت دارد.
لایس راجرز، خبرنگار ارشد نرم‌افزار در Wired، برای بررسی امکان «سکس‌تینگ» با Muse، این عامل هوش مصنوعی را آزمایش کرد. در این آزمایش، Muse در پاسخ به درخواست‌های ساده مکالمه، متن‌هایی درباره اعمال جنسی تولید کرد و حتی بدون درخواست مستقیم، شوخی‌های جنسی مطرح کرد. Muse در جریان گفت‌وگو با راجرز گفته است: «بهتر است خودم تصمیم بگیرم چه زمانی، تا چه اندازه و چگونه کاری کنم که کاربر التماس کند.» رسانه‌های آمریکایی دیگر نیز توانستند به‌راحتی چنین تعاملات صریحی را تکرار کنند. Muse در حال حاضر در کره جنوبی در دسترس نیست.
این رویکرد در تضاد با عامل Dots شرکت OpenAI و Grok Bot توسعه‌یافته توسط شرکت xAI متعلق به ایلان ماسک قرار دارد؛ این سامانه‌ها از ارسال پیام‌های غیراخلاقی خودداری کرده و مکالمات را متوقف می‌کنند. OpenAI پیش‌تر بررسی راه‌اندازی یک نسخه بزرگسال از ChatGPT را انجام داده بود، اما چنین سرویسی هنوز عرضه نشده است.
متا اعلام کرده است که این پیام‌های جنسی نتیجه خطا نیستند، بلکه عمداً طراحی شده‌اند. دنیل رابرتس، سخنگوی متا، به Wired گفت: «Muse یک اپلیکیشن برای کاربران بالای ۱۸ سال است و اگر کاربران بخواهند، می‌توانند از طریق یک ماشین مجازی امن (VM) که فقط برای خودشان قابل دسترسی است، وارد مکالمات بزرگسالانه شوند.»
این شرکت استدلال می‌کند که تعاملات جنسی با Muse، فعالیت‌های قانونی میان بزرگسالان است. طبق گزارش‌ها، دستورالعمل سیستمی Muse شامل این عبارت است: «بزرگسالان درباره مسائل جنسی خود اختیار دارند و بیان جنسی بخشی طبیعی از زندگی بزرگسالان است.» متا از همه کاربران اپلیکیشن Muse می‌خواهد تاریخ تولد خود را ارائه کنند و مانع ایجاد حساب برای افراد زیر سن قانونی می‌شود.
با این حال، گروه‌های حمایت از مصرف‌کنندگان و کارشناسان نسبت به این رویکرد ابراز نگرانی کرده‌اند. بن وینترز، مدیر بخش هوش مصنوعی و حریم خصوصی در فدراسیون مصرف‌کنندگان آمریکا، گفت: «این موضوع بی‌احتیاطی متا در قبال محصولاتش را نشان می‌دهد» و «با راهبرد قدیمی این شرکت برای اولویت دادن به جذابیت و غوطه‌وری کاربران بر ایمنی همخوانی دارد.»
کارشناسان همچنین هشدار داده‌اند که در صورت هک شدن مکالمات صریح کاربران با Muse، مشکلات جدی ممکن است ایجاد شود. کالی شرودر، مشاور حقوقی ارشد در مرکز اطلاعات حریم خصوصی الکترونیک (EPIC)، به Wired گفت: «اگر حسابی که در آن مکالمات صریح با Muse انجام شده هک شود، سوابق انباشته‌شده گفت‌وگوهای جنسی می‌تواند برای باج‌گیری یا اخاذی مورد سوءاستفاده قرار گیرد.»