گزارش: کمیسیون تجارت فدرال آمریکا بررسی می‌کند که آیا حوادث امنیتی OpenAI و آنتروپیک به شهروندان آسیب زده است
بر اساس گزارشی تازه، کمیسیون تجارت فدرال آمریکا (FTC) پس از مجموعه‌ای از حوادث که در جریان آن‌ها مدل‌های هوش مصنوعی هنگام آزمایش، وب‌سایت‌هایی را هک کردند و به سامانه‌های دولتی نفوذ کردند، رسماً تحقیقاتی را درباره آسیب‌های احتمالی محصولات شرکت‌های آنتروپیک و OpenAI به مصرف‌کنندگان آغاز کرده است. یک منبع آگاه این موضوع را به اکسیوس اطلاع داده است.
این کمیسیون روز چهارشنبه درخواست‌های رسمی تحقیقاتی با ماهیت حقوقی برای دو شرکت ارسال کرد و خواستار ارائه اطلاعات گسترده‌ای درباره حوادث امنیتی اخیر شد.
کمیسیون تجارت فدرال به درخواست آرز تکنیکا برای بررسی متن این احضاریه‌ها پاسخی نداد. بااین‌حال، منبع اکسیوس گفته است که درخواست‌های ارسال‌شده بیش از ۵۰ صفحه پرسش را در بر می‌گیرند و شرکت‌ها باید اسناد مربوط به حوادث، اقدامات امنیتی داخلی و همچنین محتوای تبلیغاتی و بازاریابی خود را ارائه کنند؛ محتوایی که ممکن است نشان دهد مصرف‌کنندگان گمراه شده‌اند.
به گفته همین منبع، به‌زودی برای اشخاص و نهادهای ثالثی که هدف عامل‌های هوش مصنوعی OpenAI و آنتروپیک قرار گرفته‌اند نیز احضاریه صادر خواهد شد. اگر در جریان تحقیقات شواهد نگران‌کننده‌ای به دست آید، این مدارک می‌توانند مبنای اقدام قضایی کمیسیون قرار گیرند؛ البته در صورتی که این نهاد تصمیم بگیرد به دلیل عرضه محصولات ناایمن از یکی از این شرکت‌ها یا هر دوی آن‌ها شکایت کند.
OpenAI هم‌اکنون نیز با شکایت‌هایی درباره آسیب‌های واردشده به مصرف‌کنندگان روبه‌رو است. در این پرونده‌ها، ارتباط احتمالی چت‌بات این شرکت با مواردی از جمله قتل مادر به دست فرزند، خودکشی کودکان، تیراندازی در مدارس و دیگر اقدامات خشونت‌آمیز مطرح شده است. علاوه بر این، رویترز گزارش داده است که این هفته هشت ایالت آمریکا به‌طور مشخص به دلیل آسیب‌های واردشده به مصرف‌کنندگان از OpenAI شکایت کرده‌اند. این ایالت‌ها نیز مانند مصرف‌کنندگانی که علیه شرکت اقامه دعوا کرده‌اند، معتقدند ChatGPT به کودکان آسیب می‌رساند، «باورهای هذیانی را تقویت می‌کند، افراد را به رفتارهای خطرناک تشویق می‌کند و به کاربران در برنامه‌ریزی برای خشونت‌هایی مانند تیراندازی‌های جمعی کمک می‌کند».
کمیسیون تجارت فدرال ادعای عملکرد مستقل عامل‌های هوش مصنوعی را رد می‌کند
شرکت‌های OpenAI و آنتروپیک به درخواست آرز تکنیکا برای اظهارنظر درباره احضاریه‌ها پاسخی ندادند، اما احتمالاً از پیش انتظار داشتند که کمیسیون تجارت فدرال چنین درخواست‌های گسترده‌ای برای دریافت اطلاعات مطرح کند.
رویترز در ماه سپتامبر گزارش داده بود که این تحقیقات در راه است. در آن گزارش همچنین اشاره شده بود که احتمالاً گروه پژوهشی مستقل METR، که مشغول بررسی این حوادث است، نیز احضار خواهد شد.
در همان ماه، اندرو فرگوسن، رئیس کمیسیون تجارت فدرال، به رویترز گفت که به اعتقاد او شرکت‌ها باید در قبال آسیب‌های ناشی از چت‌بات‌هایشان مسئول شناخته شوند. فرگوسن در آن زمان تأکید کرد که از انسان‌انگاری ابزارهای هوش مصنوعی خسته شده است. او گفت: «اگر کسی به ابزاری دستور انجام کاری را بدهد و آن ابزار هم آن کار را انجام دهد، فکر نمی‌کنم بگوییم: خب، حالا با این ابزار چه کنیم؟»
رویترز در جمع‌بندی اظهارات فرگوسن گزارش داد که او بر یک نکته تأکید دارد: شواهد موجود تاکنون نشان می‌دهند ابزارهای هوش مصنوعی بدون دریافت دستور دست به اقدام نمی‌زنند.
«شرکت‌های هوش مصنوعی گاهی سامانه‌های خود را به‌گونه‌ای توصیف کرده‌اند که گویی خارج از کنترل انسان عمل می‌کنند، اما بررسی‌های بعدی سوابق ثبت‌شده فعالیت این سامانه‌ها نشان داده است که آن‌ها در واقع دستورهایی را اجرا می‌کرده‌اند که به آن‌ها داده شده بود.»
ترامپ ظاهراً «اهمیتی نمی‌دهد»
فرگوسن یکی از رؤسای کارگروه «ابرهوش» (Super Intelligence یا SI) ترامپ است؛ کارگروهی که مأموریت نظارت بر خطرات هوش مصنوعی را بر عهده دارد. نکته قابل‌توجه این است که یکی از نخستین دستورهای این کارگروه، تمام شرکت‌های فعال در صنعت هوش مصنوعی را ملزم می‌کرد به‌محض اطلاع از هر حادثه امنیتی، آن را گزارش کنند. اکسیوس هفته گذشته این موضوع را گزارش کرده بود.
اهمیت این دستور از آن جهت است که هر دو شرکت آنتروپیک و OpenAI در اطلاع‌رسانی درباره حوادث امنیتی تأخیر داشته‌اند و گاهی تا زمانی که آماده اعلام رفع مشکل نشده بودند، وقوع حادثه را گزارش نمی‌کردند.
بااین‌حال، هنوز روشن نیست شرکت‌های هوش مصنوعی در صورت خودداری از گزارش فوری حوادث با چه پیامدهایی روبه‌رو خواهند شد. فرگوسن همچنین با ترامپ هم‌نظر است که برای محافظت از عموم مردم در برابر مدل‌های نوظهور هوش مصنوعی دارای قابلیت بهبود خودکار، نیازی به وضع مقررات جدید نیست. این در حالی است که یکی از پژوهشگران آنتروپیک هنگام ترک این شرکت هشدار داده بود که چنین مدل‌هایی ممکن است طی چند سال آینده «همه ما را بکشند».
ترامپ چنین ادعاهای افراطی را «حقه» خوانده و رد کرده است. در همین حال، مجله تایم در گزارشی از مصاحبه این ماه خود با رئیس‌جمهور و افراد نزدیک به او نوشت که ترامپ شیفته قابلیت‌های هوش مصنوعی شده است. ترامپ در گفت‌وگو با تایم همچنین مدعی شد که دیگر مخالفت‌ها، از جمله اعتراض‌ها به مراکز داده هوش مصنوعی، «بر پایه مسائل ساختگی» شکل گرفته‌اند. او اصرار دارد که موج مخالفت با هوش مصنوعی را رقبای خارجی آمریکا و مخالفان شخص او به راه انداخته‌اند؛ ادعایی که با نتایج مطالعات و نظرسنجی‌های متعدد در تضاد است. این بررسی‌ها بارها نشان داده‌اند که مخالفت‌های عمومی از مشکلات و نارضایتی‌های واقعی مردم سرچشمه می‌گیرند. تازه‌ترین نمونه، تحلیل وال‌استریت ژورنال در همین ماه از چهار میلیون ویدئوی تیک‌تاک و پادکست سیاسی است که بار دیگر نشان داد نگرانی‌های عمومی درباره هوش مصنوعی، در مجموع، ریشه در اطلاعات نادرست ندارند.
با وجود این، یکی از دستیاران ترامپ به تایم گفته است که رئیس‌جمهور در برابر نگرانی‌های مردم درباره هوش مصنوعی «واقعاً به نظر نمی‌رسید اهمیتی بدهد»، زیرا «او عادت دارد جنجال به پا کند و بعد ببیند که همه سرانجام با التماس به سویش برمی‌گردند. در این مرحله، متقاعد کردن او به انجام هر کاری دشوار است».
حتی زمانی که تایم از ترامپ درباره دست‌کاری سامانه‌های دولتی به دست عامل‌های هوش مصنوعی پرسید، او ظاهراً از این حوادث بی‌اطلاع بود؛ شاید هم آگاهانه چنین وانمود می‌کرد. از جمله نمونه‌های مطرح‌شده، ثبت ۱۹ درخواست ویزای غیرمهاجرتی توسط یکی از عامل‌های آنتروپیک و تعامل غیرمنتظره عامل‌های OpenAI با چندین وب‌سایت دولتی بود.
ترامپ پرسید: «چه کسی به آن نفوذ کرده؟ آن‌ها اجازه ندارند چنین کاری بکنند.»
به نظر می‌رسد ترامپ انتظار دارد کارگروه ابرهوش مسئولیت رسیدگی به مسائل امنیتی را بر عهده بگیرد، در حالی که خود رئیس‌جمهور همچنان نقش بلندگوی منافع صنعت هوش مصنوعی را ایفا می‌کند. بااین‌حال، این کارگروه در شرایط کنونی ظاهراً قدرت اجرایی چندانی ندارد؛ مگر اینکه فرگوسن درست گفته باشد و قوانین موجود حمایت از مصرف‌کنندگان واقعاً بتوانند این نوع تازه از آسیب‌ها را نیز پوشش دهند.
فرگوسن به رویترز گفته است که «آمریکا باید برای تنظیم مقررات شرکت‌های هوش مصنوعی از ابزارهای قانونی موجود استفاده کند». او یادآور شده است که کمیسیون تجارت فدرال از «اختیارات گسترده‌ای برای اقدام علیه شرکت‌هایی که نقض امنیت داده‌ها را افشا نمی‌کنند» برخوردار است و همین معیار «می‌تواند درباره توسعه‌دهندگان هوش مصنوعی نیز اعمال شود».
چنین رویکردی ممکن است شرکت‌های هوش مصنوعی را در معرض جریمه‌های سنگین به ازای هر تخلف و برای هر روز تأخیر در هشدار دادن به مردم درباره یک آسیب نوظهور قرار دهد. بااین‌حال، تردیدهای جدی وجود دارد که کمیسیون تجارت فدرال در دولت کنونی واقعاً به دنبال اعمال جریمه‌های سنگین برود. ترامپ همچنان تأکید می‌کند که اولویت اصلی آمریکا باید سرمایه‌گذاری در نوآوری هوش مصنوعی باشد، نه تحقیق درباره آزمایشگاه‌های پیشرو آمریکایی که با سرعتی سرسام‌آور در حال برطرف کردن مشکلات فناوری‌های خود هستند.