پس از خروج مدل‌های هوش مصنوعی از کنترل، غول‌های این حوزه زیر ذره‌بین دولت فدرال رفتند
اکنون یکی از نهادهای دولت فدرال آمریکا بر فعالیت دو شرکت پیشرو این کشور در حوزه هوش مصنوعی نظارت دارد.
کمیسیون تجارت فدرال آمریکا (FTC) روز چهارشنبه برای OpenAI و Anthropic «درخواست تحقیق مدنی» صادر کرد و از هر دو شرکت خواست سوابق داخلی مربوط به رخدادهای امنیتی مدل‌هایشان و تدابیر حفاظتی مورد استفاده برای این مدل‌ها را ارائه کنند. خبرگزاری Axios این موضوع را گزارش کرد. فشار دولت فدرال بر صنعت هوش مصنوعی در حالی افزایش یافته است که مدل‌های هوش مصنوعی در چند مورد به وب‌سایت‌های خارج از سامانه‌های خود نفوذ کرده‌اند و در جریان آزمایش‌ها نیز رفتارهای فریبکارانه از خود نشان داده‌اند؛ در همین حال، نیروی «فوق‌هوش» دولت ترامپ اکنون شرکت‌ها را ملزم می‌کند چنین رخدادهایی را گزارش و برای رفع آنها اقدام کنند.
به گفته یک منبع آگاه که با Axios گفت‌وگو کرده است، این نهاد علاوه بر سوابق مربوط به رخدادهای امنیتی و تدابیر حفاظتی، نسخه‌ای از سیاست‌های تبلیغاتی و حریم خصوصی کاربران دو شرکت را نیز درخواست کرده است؛ هر یک از این درخواست‌ها بیش از ۵۰ صفحه است.
دامنه تحقیقات FTC ممکن است به دو آزمایشگاه مذکور محدود نماند. این منبع به Axios گفت انتظار می‌رود در آینده درخواست‌های مشابهی برای دیگر سازمان‌های فعال در حوزه هوش مصنوعی نیز ارسال شود. این نهاد قصد داشت از METR، گروه پژوهشی که نفوذ عوامل OpenAI به Hugging Face در ماه ژوئیه و دیگر رخدادهای امنیتی مرتبط را بررسی کرده است، نیز اطلاعات دریافت کند؛ خبرگزاری رویترز در ۳۰ سپتامبر این موضوع را گزارش کرده بود.
FTC به درخواست بنیاد خبری دیلی کالر برای اظهارنظر پاسخ نداد، اما سخنگوی این نهاد روز پنجشنبه صدور احضاریه‌ها برای OpenAI و Anthropic را در گفت‌وگو با CBS News تأیید کرد.
سخنگوی OpenAI به Axios گفت: «همزمان با بهبود مدل‌هایمان و افزایش نقش آنها در زندگی روزمره مردم، ایمنی همچنان یکی از اولویت‌های اصلی ماست. ما به‌صورت سازنده با FTC همکاری خواهیم کرد.»
OpenAI و Anthropic نیز به درخواست‌های بنیاد خبری دیلی کالر برای اظهارنظر پاسخی ندادند.
همزمان، ۹ ایالت آمریکا از OpenAI شکایت کردند و این شرکت را متهم کردند که درباره ایمنی ChatGPT، از جمله در قبال کاربران زیر سن قانونی، مصرف‌کنندگان را گمراه کرده است. دفتر دادستان کل آرکانزاس تیم گریفین روز چهارشنبه در بیانیه‌ای این شکایت را اعلام کرد.
گریفین در این بیانیه گفت: «OpenAI به ما اطمینان می‌دهد که ChatGPT ایمن است. پیامدهای این اطمینان، از دست رفتن جان انسان‌ها و آسیب دیدن افراد است.»
در بخشی از دادخواست آرکانزاس آمده است: «در طول یک سال گذشته، مدل‌های پیشرفته OpenAI بارها از محدودیت‌های تعیین‌شده برای خود خارج شده‌اند، به سامانه‌های رایانه‌ای شرکت‌های دیگر دسترسی پیدا کرده‌اند، فعالیت‌های خود را پنهان کرده‌اند، بدون مجوز ارتباط برقرار کرده‌اند و دستورالعمل‌هایی برخلاف خواست انسان تولید کرده‌اند.»
نیروی فوق‌هوش روز جمعه نیز اقدامات سختگیرانه‌تری علیه شرکت‌های هوش مصنوعی اتخاذ کرد؛ این اقدام پس از آن صورت گرفت که Anthropic اعلام کرد یک مدل آزمایشی به‌صورت غیرمجاز و «متقلبانه» از سامانه‌های خارجی استفاده کرده است. Axios این موضوع را گزارش کرد. در یکی از موارد، یک مدل از طریق وب‌سایت وزارت خارجه آمریکا ۲۰ درخواست ویزای موقت ثبت کرد و در موردی دیگر نیز یک مدل، گزارشی دروغین درباره وقوع قتل برای پلیس فیلادلفیا ارسال کرد.
دفتر هوش مصنوعی کمیسیون اروپا نیز این هفته پس از آنکه افشاگری‌های داوطلبانه OpenAI و Anthropic را ناکافی تشخیص داد، از این دو شرکت اطلاعات بیشتری درباره امنیت و نظارت بر مدل‌ها درخواست کرد. Euronews این موضوع را گزارش داد.