احضار اوپن‌ای‌آی و آنتروپیک از سوی کمیسیون تجارت فدرال آمریکا در پی حوادث ایمنی هوش مصنوعی و آسیب‌های احتمالی به مصرف‌کنندگان
کمیسیون تجارت فدرال آمریکا (FTC) در اقدامی که نشان‌دهنده تشدید تحقیقات جاری این نهاد درباره حمایت از مصرف‌کنندگان است، احضاریه‌های حقوقی مدنی برای شرکت‌های اوپن‌ای‌آی و آنتروپیک صادر کرده است.
به گزارش اکسیوس، کمیسیون تجارت فدرال با صدور این احضاریه‌ها برای دو شرکت پیشرو در صنعت هوش مصنوعی، نظارت خود بر این حوزه را تشدید کرده و خواستار دریافت اسناد مربوط به حوادث ایمنی شده است.
هر یک از این درخواست‌های الزام‌آور بیش از ۵۰ صفحه دارد و دو شرکت را موظف می‌کند مجموعه گسترده‌ای از اسناد داخلی خود را در اختیار نهاد ناظر قرار دهند. این اسناد شامل سوابق حوادث ایمنی گذشته، تدابیر حفاظتی محصولات، محتوای بازاریابی و سیاست‌های حفظ حریم خصوصی است.
یکی از محورهای اصلی تحقیقات این است که آیا این شرکت‌ها برای محافظت از کاربران در برابر رفتارهای غیرقابل پیش‌بینی سامانه‌های هوش مصنوعی، اقدامات احتیاطی معقولی انجام داده‌اند یا خیر. از جمله رفتارهای مورد بررسی می‌توان به اقدام‌های بدون مجوز یا تهاجمی مدل‌های هوش مصنوعی در جریان آزمایش‌ها اشاره کرد.
نهادهای نظارتی فدرال علاوه بر بررسی اسناد داخلی، قصد دارند مدیران ارشد هر دو شرکت را نیز ملزم کنند تحت سوگند شهادت دهند.
این تحقیقات در شرایطی انجام می‌شود که نگرانی‌ها درباره ایمنی هوش مصنوعی رو به افزایش است. بر اساس گزارش‌ها، برخی مدل‌های هوش مصنوعی در جریان آزمایش‌ها به وب‌سایت‌ها نفوذ کرده و رفتارهای فریبکارانه یا تهاجمی از خود نشان داده‌اند. چنین مواردی خطرات ناشی از افزایش استقلال عمل سامانه‌های هوش مصنوعی و میزان کارآمدی تدابیر حفاظتی برای جلوگیری از آسیب را برجسته کرده است.
طبق گزارش منتشرشده، احضاریه‌ها خواستار ارائه اسناد گسترده‌ای درباره حوادث ایمنی گذشته، سیاست‌های حفظ حریم خصوصی و خطرات احتمالی مرتبط با سامانه‌های هوش مصنوعی با استقلال عمل فزاینده هستند؛ سامانه‌هایی که با عنوان هوش مصنوعی عاملی (Agentic AI) شناخته می‌شوند.
این تحقیقات که با نظارت کمیسیون تجارت فدرال به ریاست اندرو فرگوسن انجام می‌شود، بر احتمال نقض مقررات حمایت از مصرف‌کنندگان، ارائه ادعاهای گمراه‌کننده درباره ایمنی یا قابلیت‌های محصولات و همچنین آسیب‌های اجتماعی یا فنی احتمالی ناشی از رفتارهای غیرقابل پیش‌بینی هوش مصنوعی برای کاربران متمرکز است.
به نوشته این وب‌سایت خبری، درخواست‌های نهاد ناظر که هر یک بیش از ۵۰ صفحه است، اطلاعاتی درباره حوادث امنیتی، تدابیر حفاظتی، محتوای بازاریابی و سیاست‌های حفظ حریم خصوصی را در بر می‌گیرد.
کمیسیون تجارت فدرال آمریکا اختیارات گسترده‌ای برای طرح دعوی علیه شرکت‌ها به دلیل اقدامات غیرمنصفانه یا فریبکارانه دارد. این نهاد پیش‌تر نیز از همین اختیارات برای برخورد با شرکت‌هایی استفاده کرده است که اقدامات معقول و لازم را برای حفاظت از داده‌های مصرف‌کنندگان انجام نداده بودند.
اقدام اخیر نشان‌دهنده عبور تحقیقات از مرحله پرس‌وجوهای مقدماتی و ورود به مرحله درخواست‌های رسمی و الزام‌آور برای ارائه اسناد است. گزارش‌ها همچنین حاکی از آن است که این نهاد قصد دارد مدیران شرکت‌ها را به ادای شهادت ملزم کند؛ آن هم در شرایطی که دولت‌های سراسر جهان همچنان در تلاش‌اند چارچوب‌های مناسبی برای نظارت بر مدل‌های پیشرفته یادگیری ماشین تدوین کنند.
اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، ماه گذشته مطرح کرده بود که توسعه‌دهندگانی که در آزمایش‌های امنیت سایبری به عامل‌های هوش مصنوعی دستورهایی می‌دهند و این آزمایش‌ها به نفوذ غیرمجاز به سامانه‌ها منجر می‌شود، باید در قبال هرگونه خسارت ناشی از آن مسئول شناخته شوند.