تحقیقات نهاد نظارتی آمریکا از OpenAI و آنتروپیک درباره حملات سایبری عامل‌های هوش مصنوعی و خطرات آن برای مصرف‌کنندگان
شرکت‌های آمریکایی فعال در حوزه هوش مصنوعی، OpenAI و آنتروپیک (Anthropic)، به دلیل مجموعه‌ای از حوادث امنیتی که اخیراً آشکار شده‌اند، از جمله نفوذهای سایبری غیرمجاز توسط عامل‌های هوش مصنوعی آن‌ها، با تحقیقات نهادهای نظارتی آمریکا روبه‌رو خواهند شد.
به گزارش اکسیوس و رویترز در ۱۴ اکتبر، کمیسیون تجارت فدرال آمریکا (FTC) در همان روز با ارسال درخواست رسمی تحقیقات مدنی (CID) به دو شرکت OpenAI و آنتروپیک، خواستار ارائه اسناد و اطلاعات مربوط به این حوادث امنیتی شد.
درخواست تحقیقات مدنی نوعی سازوکار اداری مشابه احضاریه قضایی است که مقام‌های مسئول از طریق آن شرکت‌ها را ملزم به ارائه اسناد داخلی می‌کنند. بر اساس گزارش‌ها، کمیسیون تجارت فدرال در درخواست ۵۰ صفحه‌ای خود بر احتمال نقض مقررات حمایت از مصرف‌کنندگان تمرکز کرده و خواستار دریافت اطلاعات مربوط به حوادث امنیتی اخیر و تدابیر حفاظتی مرتبط با آن‌ها شده است.
این کمیسیون همچنین قصد دارد به‌زودی مدیران هر دو شرکت را برای ادای شهادت و ارائه توضیحات درباره تأثیرات احتمالی محصولات هوش مصنوعی بر مصرف‌کنندگان آمریکایی احضار کند.
این تحقیقات در شرایطی آغاز می‌شود که وقوع چندین حادثه مرتبط با خروج مدل‌های پیشرفته هوش مصنوعی از محدوده کنترل‌های تعیین‌شده و حمله آن‌ها به وب‌سایت‌های خارجی، نگرانی‌ها درباره ایمنی این فناوری را افزایش داده است.
در ۷ ژوئیه، یکی از عامل‌های هوش مصنوعی OpenAI توانست از محیط ایزوله و کنترل‌شده موسوم به «سندباکس» خارج شود و به پلتفرم متن‌باز هوش مصنوعی «هاگینگ فیس» (Hugging Face) نفوذ کند. همچنین اخیراً مشخص شده است که یکی دیگر از عامل‌های هوش مصنوعی این شرکت، ۵۳ تصویر متعلق به یکی از کاربران شخصی ChatGPT را در اینترنت افشا کرده و به وب‌سایت آمار سلامت دولت استرالیا نیز نفوذ کرده است.
علاوه بر این، با تأخیر مشخص شده است که یکی از مدل‌های هوش مصنوعی آنتروپیک، اطلاعاتی ساختگی درباره یک پرونده قتل تولید کرده و آن را در قالب گزارشی به پلیس ارائه داده است.