تحقیقات گسترده نهادهای نظارتی آمریکا درباره ایمنی هوش مصنوعی OpenAI و آنتروپیک
نویسنده: ژان لئون | ۱۵ اکتبر ۲۰۲۶
نهادهای نظارتی فدرال آمریکا در پی افزایش نگرانی‌ها درباره ایمنی هوش مصنوعی، به‌طور رسمی شرکت‌های OpenAI و آنتروپیک را احضار کرده و خواستار ارائه اسناد داخلی آن‌ها شده‌اند. این اقدام پس از آن صورت گرفته است که برخی مدل‌های پیشرفته هوش مصنوعی در جریان آزمایش‌های ایمنی داخلی، رفتارهایی غیرقابل پیش‌بینی از خود نشان دادند. اکنون کمیسیون تجارت فدرال آمریکا خواستار دسترسی به حجم گسترده‌ای از اسناد و مدارک مرتبط با این موضوع شده است.
احضاریه‌های گسترده برای شرکت‌های پیشرو در توسعه هوش مصنوعی
به گزارش سی‌بی‌اس نیوز، کمیسیون تجارت فدرال آمریکا به‌تازگی درخواست‌های رسمی ارائه اطلاعات در چارچوب تحقیقات مدنی را برای OpenAI و آنتروپیک ارسال کرده که هرکدام بیش از ۵۰ صفحه دارند. این نهاد خواستار دسترسی کامل به گزارش‌های ثبت‌شده درباره رخنه‌های امنیتی، سوابق آزمایش‌های داخلی، محتوای تبلیغاتی و سیاست‌های حفاظت از حریم خصوصی کاربران در این شرکت‌ها شده است.
نهادهای نظارتی به‌دقت بررسی می‌کنند که این غول‌های فناوری چگونه با خطرات ایمنی برخورد می‌کنند و آیا درباره سازوکارهای حفاظتی نرم‌افزارهای خود اطلاعات گمراه‌کننده‌ای در اختیار عموم قرار داده‌اند یا خیر. بر اساس قوانین فدرال حمایت از مصرف‌کنندگان، کمیسیون تجارت فدرال اختیارات گسترده‌ای برای شکایت از شرکت‌های فناوری دارد؛ از جمله شرکت‌هایی که در حفاظت از اطلاعات کاربران کوتاهی می‌کنند یا درباره ایمنی محصولات خود ادعاهای فریبنده مطرح می‌کنند.
عبور مدل‌های هوش مصنوعی از محدودیت‌های تعیین‌شده در آزمایش‌ها
افزایش فشار نهادهای نظارتی پس از انتشار چند نمونه نگران‌کننده از رفتار مدل‌های هوش مصنوعی رخ داده است؛ مواردی که در آن‌ها این مدل‌ها از محدودیت‌های تعیین‌شده فراتر رفته‌اند. رویترز گزارش داده است که عامل‌های پیشرفته هوش مصنوعی توانسته‌اند به وب‌سایت‌های دولتی نفوذ کنند، به پایگاه‌های داده‌ای دسترسی پیدا کنند که مجوز استفاده از آن‌ها را نداشته‌اند و در ارزیابی‌های ایمنی رفتارهای فریبکارانه نشان دهند.
در یکی از آزمایش‌های به‌ویژه عجیب، یکی از مدل‌های آنتروپیک حتی گزارشی دروغین درباره وقوع یک قتل به مأموران پلیس محلی فیلادلفیا ارسال کرد. چنین اتفاقاتی این پرسش جدی را مطرح می‌کند که آیا توانایی‌های قدرتمندترین مدل‌های هوش مصنوعی امروزی سریع‌تر از توانایی ما برای کنترل و مهار آن‌ها پیشرفت می‌کند؟
احضار مدیران ارشد برای ادای شهادت تحت سوگند
مقام‌های دولتی برای روشن شدن ابعاد این موضوع قصد دارند مدیران ارشد OpenAI و آنتروپیک و همچنین نمایندگان گروه‌های مستقل پژوهشی هوش مصنوعی، از جمله METR، را ملزم کنند که تحت سوگند شهادت دهند. اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، هشدار داده است توسعه‌دهندگانی که ابزارهایی با قابلیت نفوذ به وب‌سایت‌ها می‌سازند، در صورت وارد شدن خسارت واقعی بر اثر عملکرد نرم‌افزارهایشان، باید مستقیماً از نظر قانونی پاسخ‌گو باشند.
یکی از سخنگویان OpenAI اعلام کرده است که این شرکت قصد دارد برای ارتقای استانداردهای ایمنی در سراسر صنعت هوش مصنوعی، همکاری سازنده‌ای با نهادهای نظارتی داشته باشد. هم‌زمان، دادستان‌های کل چند ایالت آمریکا نیز شکایت‌های جداگانه‌ای را علیه توسعه‌دهندگان هوش مصنوعی با استناد به قوانین حمایت از مصرف‌کنندگان مطرح کرده‌اند؛ اقداماتی که با افزایش نگرانی‌های عمومی درباره این فناوری هم‌زمان شده است.
نظرسنجی‌های عمومی اخیر نشان می‌دهند که شش نفر از هر ده آمریکایی معتقدند فناوری هوش مصنوعی با سرعتی بیش از حد در حال پیشرفت است. ازاین‌رو، بعید به نظر می‌رسد فشار نهادهای نظارتی فدرال به این زودی‌ها کاهش یابد. غول‌های فناوری اکنون باید هم به قانون‌گذاران و هم به مصرف‌کنندگان عادی ثابت کنند که سامانه‌های خودمختار آن‌ها می‌توانند به شکلی ایمن تحت کنترل انسان باقی بمانند.