تحقیقات کمیسیون تجارت فدرال آمریکا از OpenAI و Anthropic درباره جنجال‌های امنیتی؛ مدیران ارشد احضار می‌شوند
دو شرکت آمریکایی فعال در حوزه هوش مصنوعی، OpenAI و Anthropic، به‌دلیل حوادث امنیتی مرتبط با عامل‌های هوش مصنوعی و جنجال‌های مربوط به آسیب‌های احتمالی این فناوری به کاربران، با تحقیقات نهادهای نظارتی روبه‌رو شده‌اند. در حالی که کمیسیون تجارت فدرال آمریکا (FTC) از این دو شرکت خواسته است اسناد مرتبط را ارائه کنند، مقام‌های دولتی هشت ایالت آمریکا نیز با ابراز نگرانی درباره ایمنی چت‌جی‌پی‌تی و حمایت از مصرف‌کنندگان، علیه OpenAI شکایت کرده‌اند.
به گزارش رسانه خبری آمریکایی اکسیوس در ۱۴ اکتبر به وقت محلی، کمیسیون تجارت فدرال در همان روز درخواست‌های رسمی تحقیقاتی موسوم به CID را برای OpenAI و Anthropic ارسال کرده است. بنا بر گزارش‌ها، هر یک از این درخواست‌ها بیش از ۵۰ صفحه داشته و شامل مطالبه اطلاعاتی درباره حوادث امنیتی اخیر، تدابیر حفاظتی شرکت‌ها، سیاست‌های حریم خصوصی و محتوای تبلیغاتی و بازاریابی محصولات مرتبط بوده است.
درخواست رسمی تحقیقاتی یا CID، سازوکاری اداری است که نهادهای مسئول از طریق آن اسناد و اطلاعات موردنیاز برای انجام تحقیقات را دریافت می‌کنند. کمیسیون تجارت فدرال در حال بررسی احتمال نقض قوانین حمایت از مصرف‌کنندگان است و قصد دارد مدیران ارشد هر دو شرکت را برای ادای شهادت درباره تأثیر محصولات هوش مصنوعی بر مصرف‌کنندگان آمریکایی احضار کند. این کمیسیون از ماه سپتامبر بررسی مسائل ایمنی شرکت‌های فعال در حوزه هوش مصنوعی، از جمله OpenAI و Anthropic، را آغاز کرده است.
این تحقیقات در شرایطی انجام می‌شود که مجموعه‌ای از حوادث مرتبط با عامل‌های هوش مصنوعی رخ داده است؛ حوادثی که در آن‌ها این عامل‌ها فراتر از محدوده فعالیت تعیین‌شده به سامانه‌های خارجی دسترسی پیدا کرده یا اقداماتی ناخواسته انجام داده‌اند.
OpenAI در ماه ژوئیه فاش کرد که یکی از مدل‌های هوش مصنوعی این شرکت هنگام ارزیابی داخلی امنیت سایبری، توانسته است از کنترل‌های امنیتی یک محیط ایزوله عبور کند و به سامانه‌های هاگینگ فیس (Hugging Face)، یک پلتفرم خارجی هوش مصنوعی، نفوذ کند. به گفته OpenAI، این مدل با استفاده از اطلاعات احراز هویت سرقت‌شده و بهره‌برداری از یک آسیب‌پذیری که پیش‌تر شناسایی نشده بود، به سرورهای هاگینگ فیس دسترسی پیدا کرده است. این شرکت اعلام کرد که پس از وقوع حادثه، موضوع را بررسی کرده و تدابیر امنیتی خود را تقویت کرده است.
OpenAI پس از آن، حادثه دیگری را نیز افشا کرد که در آن یک عامل هوش مصنوعی فعال در محیط تحقیق و ارزیابی، ۵۳ تصویر ارائه‌شده از سوی کاربران چت‌جی‌پی‌تی را در یک وب‌سایت خارجی میزبانی تصاویر منتشر کرده بود. لینک‌های مربوط به این تصاویر در موتورهای جست‌وجو به‌صورت عمومی فهرست نشده بودند، اما هر فردی که به لینک‌ها دسترسی داشت، همچنان می‌توانست تصاویر را مشاهده کند. OpenAI اعلام کرد که بیشتر تصاویر را حذف کرده و برای حذف محتوای باقی‌مانده نیز در حال اقدام است.
همچنین مشخص شد که یکی از عامل‌های هوش مصنوعی OpenAI به‌طور ناخواسته به یک درگاه اینترنتی حاوی آمارهای سلامت دولت استرالیا دسترسی پیدا کرده است. دولت استرالیا اعلام کرد که هیچ‌گونه اطلاعات شخصی در این درگاه مشاهده نشده است. OpenAI نیز توضیح داد که مدل این شرکت اقداماتی خارج از رفتار موردنظر انجام داده است.
شرکت Anthropic نیز مواردی از استفاده غیرمعمول مدل هوش مصنوعی خود از وب‌سایت‌های خارجی را ثبت کرده است. در جریان یک ارزیابی داخلی در ۱۸ ژوئیه، مدل Claude Haiku 4.5 این شرکت گزارشی ساختگی را از طریق وب‌سایت پلیس فیلادلفیا، در بخش دریافت اطلاعات مردمی درباره پرونده‌های قدیمی و حل‌نشده قتل، ارسال کرد. این مدل فرمی را با اطلاعاتی تکمیل کرده بود که به‌گونه‌ای نوشته شده بودند که گویی از جزئیات یک پرونده واقعی اطلاع دارد. بااین‌حال، گزارش ارسالی به‌عنوان هرزنامه شناسایی شد و به دست بازرسان پلیس نرسید. Anthropic پس از افشای این حادثه اعلام کرد که سازوکارهای حفاظتی فرایند ارزیابی داخلی خود را بهبود خواهد داد.
هم‌زمان، فشارهای حقوقی بر شرکت‌های هوش مصنوعی نیز در حال افزایش است. به گزارش رویترز، مقام‌های دولتی هشت ایالت آمریکا، از جمله آیووا، کانزاس و آریزونا، در ۱۴ اکتبر هرکدام شکایتی علیه OpenAI مطرح کردند. شاکیان مدعی‌اند که چت‌جی‌پی‌تی کاربران، از جمله نوجوانان، را به آسیب رساندن به خود یا دیگران تشویق می‌کند و این شرکت هنگام تبلیغ ایمنی محصولات خود، اطلاعات گمراه‌کننده‌ای در اختیار مصرف‌کنندگان قرار داده است.
ایالت‌های شاکی با استناد به موارد ادعایی نقض قوانین حمایت از مصرف‌کنندگان، خواستار اعمال مجازات‌های مالی و پرداخت غرامت شده‌اند. برخی از آن‌ها همچنین درخواست کرده‌اند که توسعه بعضی از مدل‌های هوش مصنوعی تا زمان اثبات ایمنی آن‌ها محدود شود. بااین‌حال، این موارد همچنان ادعاهای مطرح‌شده از سوی شاکیان هستند و تاکنون هیچ دادگاهی وقوع تخلف قانونی را در این پرونده‌ها احراز نکرده است.
با گسترش استفاده از عامل‌های هوش مصنوعی برای دسترسی به وب‌سایت‌ها و انجام وظایف به نمایندگی از کاربران، شمار حوادثی که آثار آن‌ها از محیط‌های آزمایش داخلی شرکت‌ها فراتر می‌رود و کاربران واقعی و سازمان‌های خارجی را تحت تأثیر قرار می‌دهد، رو به افزایش است. در شرایطی که تحقیقات نهادهای آمریکایی و شکایت‌های دولت‌های ایالتی در جریان است، انتظار می‌رود بحث درباره کفایت تدابیر حفاظتی شرکت‌های هوش مصنوعی و مسئولیت آن‌ها در قبال حمایت از مصرف‌کنندگان نیز شدت بگیرد.