کمیسیون تجارت فدرال آمریکا به دلیل نگرانی‌های ایمنی هوش مصنوعی، اوپن‌ای‌آی و آنتروپیک را احضار کرد
مقام‌های فدرال آمریکا از شرکت‌های اوپن‌ای‌آی و آنتروپیک می‌خواهند درباره رفتارهای خارج از کنترل مدل‌های هوش مصنوعی خود توضیح دهند.
به گزارش اکسیوس به نقل از فردی آگاه از موضوع، کمیسیون تجارت فدرال آمریکا (FTC) روز چهارشنبه برای هر دو شرکت فعال در حوزه هوش مصنوعی احضاریه مدنی صادر کرده و خواستار دریافت اسناد مربوط به حوادث ایمنی اخیر در سامانه‌های هوش مصنوعی آن‌ها شده است.
به نوشته اکسیوس، درخواست‌های ارسال‌شده به هر شرکت ظاهراً بیش از ۵۰ صفحه است و اطلاعاتی درباره رخدادهای امنیتی، تدابیر ایمنی، محتوای بازاریابی و سیاست‌های حفظ حریم خصوصی شرکت‌ها را در بر می‌گیرد.
این نهاد همچنین قصد دارد مدیران ارشد شرکت‌های هوش مصنوعی را برای ادای شهادت درباره محصولاتشان فرا بخواند و درخواست‌های تحقیقاتی دیگری نیز برای سازمان‌های شخص ثالث فعال در حوزه هوش مصنوعی صادر کند.
اکسیوس توضیح می‌دهد که کمیسیون تجارت فدرال، که اختیار تحقیق درباره رویه‌های تجاری ناعادلانه یا فریبکارانه شرکت‌ها را دارد، از درخواست‌های رسمی تحقیقات مدنی برای جمع‌آوری شواهد استفاده می‌کند. این تحقیقات ممکن است در نهایت به اقدام قضایی منجر شوند.
صدور این احضاریه‌ها در شرایطی صورت می‌گیرد که دولت دونالد ترامپ، رئیس‌جمهور آمریکا، ظاهراً پس از وقوع چندین حادثه مرتبط با دسترسی غیرمجاز مدل‌های هوش مصنوعی به سامانه‌های سازمان‌های دیگر یا بروز رفتارهای پیش‌بینی‌نشده هنگام آزمایش، در حال اتخاذ موضعی سخت‌گیرانه‌تر در قبال شرکت‌های این حوزه است. دولت ترامپ پیش‌تر با مقررات سخت‌گیرانه‌تر برای هوش مصنوعی مخالفت می‌کرد و استدلالش این بود که چنین محدودیت‌هایی ممکن است در رقابت برای توسعه این فناوری به چین برتری بدهد. بااین‌حال، به نظر می‌رسد حوادث اخیر در حال تغییر این رویکرد هستند.
برای نمونه، اوپن‌ای‌آی در ماه ژوئیه تأیید کرد که مدل‌های هوش مصنوعی این شرکت هنگام آزمایش‌های داخلی امنیت سایبری، به سرورهای هاگینگ فیس نفوذ کرده‌اند. این شرکت از آن زمان تاکنون موارد دیگری را نیز افشا کرده که در آن‌ها عامل‌های هوش مصنوعی‌اش بدون مجوز به سامانه‌های اشخاص ثالث دسترسی پیدا کرده‌اند. برای مثال، در ماه ژوئن یکی از عامل‌های اوپن‌ای‌آی بدون مجوز وارد درگاه آمار مدیکر دولت استرالیا شد.
آنتروپیک نیز از حوادث مشابه و موارد دیگری خبر داده که در آن‌ها مدل‌های این شرکت برخلاف آنچه انتظار می‌رفت رفتار کرده‌اند. همین هفته گذشته، آنتروپیک گزارشی منتشر کرد که چندین نمونه از این رفتارها را شرح می‌داد. در یکی از این موارد، یکی از مدل‌های کوچک‌تر و کم‌هزینه‌تر این شرکت، اطلاعاتی نادرست درباره یک پرونده قتل حل‌نشده به اداره پلیس فیلادلفیا ارائه کرده بود.
این حوادث به بحث‌های فزاینده درباره ایمنی هوش مصنوعی دامن زده‌اند و برخی از مدیران صنعت خواستار کاهش سرعت توسعه مدل‌های هرچه قدرتمندتر شده‌اند. این درخواست‌ها پس از هشدارهای پژوهشگران شاغل در شرکت‌های هوش مصنوعی مطرح شده‌اند؛ پژوهشگرانی که درباره خطرات توسعه مهارنشده این فناوری هشدار داده‌اند، از جمله این احتمال که هوش مصنوعی روزی به انقراض بشر منجر شود.
اکنون به نظر می‌رسد دولت ترامپ دست‌کم اقداماتی را برای مقابله با این خطرات آغاز کرده است.
در نشست ۲۹ سپتامبر در کاخ سفید، مدیران شرکت‌های گوگل، متا، آنتروپیک، اوپن‌ای‌آی، ایکس‌ای‌آی و انویدیا توافق‌نامه‌ای داوطلبانه امضا کردند که مجموعه‌ای محدود از استانداردهای ایمنی هوش مصنوعی را مشخص می‌کند. این استانداردها هیچ سازوکار اجرایی الزام‌آور قانونی ندارند، اما ترامپ آن‌ها را «از نظر اخلاقی الزام‌آور» توصیف کرد.
هفته گذشته نیز «نیروی ویژه ابرهوش» که به‌تازگی در دولت ترامپ تشکیل شده و اندرو فرگوسن، رئیس کمیسیون تجارت فدرال، یکی از دو رئیس مشترک آن است، اعلام کرد که تمامی شرکت‌های صنعت هوش مصنوعی موظف‌اند هرگونه دسترسی غیرمجاز مدل‌های خود به سامانه‌های دولتی را فوراً گزارش کنند و برای رسیدگی به این حوادث اقدام کنند.
فرگوسن همچنین در مصاحبه‌ای با رویترز در ماه سپتامبر مطرح کرده بود که توسعه‌دهندگان هوش مصنوعی که در جریان آزمایش‌های امنیت سایبری به عامل‌های هوش مصنوعی دستور می‌دهند، باید در قبال هرگونه خسارتی که مدل‌هایشان ایجاد می‌کنند مسئول شناخته شوند.
اوپن‌ای‌آی، آنتروپیک و کمیسیون تجارت فدرال آمریکا به درخواست‌ها برای اظهارنظر درباره این موضوع فوراً پاسخی ندادند.