احضاریه کمیسیون تجارت فدرال، ایمنی هوش مصنوعی در OpenAI و آنتروپیک را زیر ذره‌بین می‌برد
کمیسیون تجارت فدرال آمریکا (FTC) در ۱۷ اکتبر ۲۰۲۶، در پی وقوع حوادث مرتبط با ایمنی هوش مصنوعی، برای شرکت‌های OpenAI و آنتروپیک احضاریه‌های اداری صادر کرد. این اقدام باعث شده است حمایت از مصرف‌کنندگان، در کنار طراحی مدل‌ها، به محور اصلی تحقیقات این نهاد تبدیل شود.
پیش از احضاریه کمیسیون تجارت فدرال، تمرکز بر توسعه مدل‌ها بود
OpenAI و آنتروپیک هویت عمومی خود را بر پایه توسعه سامانه‌های هوش مصنوعی هرچه توانمندتر بنا کرده‌اند. در همین حال، پرسش‌های مربوط به ایمنی عمدتاً در چارچوب توسعه محصولات مطرح می‌شدند. OpenAI معماری GPT-4 را در مارس ۲۰۲۳ عرضه کرد و آنتروپیک نیز خانواده مدل‌های Claude 3 را در مارس ۲۰۲۴ معرفی کرد.
تحقیقات جدید فدرال، علاوه بر تدابیر ایمنی مدل‌ها، حمایت از مصرف‌کنندگان، حریم خصوصی و شیوه بازاریابی شرکت‌ها را نیز در بر می‌گیرد. گستردگی فعالیت این دو شرکت اهمیت چنین بررسی‌هایی را افزایش می‌دهد. OpenAI خوشه‌های محاسباتی بزرگی را برای آموزش مدل‌های پایه اداره می‌کند که ده‌ها هزار شتاب‌دهنده تخصصی دارند؛ آنتروپیک نیز در سان‌فرانسیسکو، کالیفرنیا، مستقر است. این اطلاعات به‌خودی‌خود نشانه تخلف نیستند، اما می‌توانند توضیح دهند که چرا نهادهای نظارتی خواهان اسنادی درباره نحوه شناسایی خطرات مدل‌ها و اطلاع‌رسانی شرکت‌ها در این زمینه هستند.
چه چیزی تغییر کرده است؟ احضاریه کمیسیون تجارت فدرال برای دریافت اسناد شرکت‌ها
کمیسیون تجارت فدرال برای هر دو شرکت احضاریه‌های اداری صادر کرده است که این نهاد از آن‌ها با عنوان درخواست‌های اطلاعاتی در تحقیقات مدنی یاد می‌کند. وب‌سایت The Next Web نخستین رسانه‌ای بود که این خبر را منتشر کرد و گزارش داد که حجم این درخواست‌ها ظاهراً به بیش از ۵۰ صفحه می‌رسد. کمیسیون خواستار اسنادی درباره حوادث ایمنی و امنیتی، تدابیر حفاظتی، مطالب بازاریابی و سیاست‌های حریم خصوصی شده است. این نهاد احتمال نقض قوانین حمایت از مصرف‌کنندگان در ارتباط با رفتارهای خودمختار و غیرمنتظره مدل‌های زبانی بزرگ را بررسی می‌کند.
درخواست‌ها تنها به ارزیابی‌های فنی محدود نمی‌شوند. اسناد بازاریابی و حریم خصوصی می‌توانند نشان دهند که مصرف‌کنندگان درباره قابلیت‌های مدل‌ها، نحوه مدیریت داده‌ها و تدابیر حفاظتی چه اطلاعاتی دریافت کرده‌اند و شرکت‌ها در داخل سازمان از چه مواردی آگاه بوده‌اند. کمیسیون تجارت فدرال می‌تواند رفتارهایی را که بالقوه ناعادلانه یا فریبنده می‌داند، بررسی کند. درخواست‌های اطلاعاتی در تحقیقات مدنی به این نهاد امکان می‌دهند پیش از طرح دعوای احتمالی، شواهد جمع‌آوری کند.
OpenAI به وب‌سایت Axios اعلام کرد که با تحقیقات همکاری خواهد کرد و افزود که با کاربردی‌تر شدن مدل‌هایش در زندگی روزمره، ایمنی همچنان یکی از اولویت‌های شرکت است. The Next Web گزارش داد که در پوشش خبری آن، اظهارنظری از آنتروپیک منتشر نشده است. این رسانه همچنین اعلام کرد که کمیسیون قصد دارد از مدیران ارشد شرکت‌های هوش مصنوعی شهادت بگیرد و در مرحله بعد، درخواست‌هایی را برای سازمان‌های فعال دیگر در حوزه هوش مصنوعی ارسال کند.
پس از صدور احضاریه‌ها، ادعاهای ایمنی در معرض ارزیابی از منظر حقوق مصرف‌کنندگان قرار می‌گیرند
این تحقیقات پرسش‌های پیش روی هر دو شرکت را تغییر می‌دهد. نهادهای نظارتی تنها بررسی نمی‌کنند که آیا یک مدل می‌تواند خروجی ناایمن یا غیرمنتظره تولید کند؛ آن‌ها همچنین می‌سنجند که آیا تدابیر حفاظتی و ادعاهای مطرح‌شده در ارتباط با مصرف‌کنندگان با الزامات قانونی مطابقت دارند یا خیر. این تمایز مهم است: آغاز تحقیقات از سوی یک نهاد نظارتی به معنای اثبات نقض قانون از سوی هیچ‌یک از دو شرکت نیست.
برای مصرف‌کنندگان، این بررسی می‌تواند توجه بیشتری را به فاصله میان توصیف سامانه‌های هوش مصنوعی و رفتار واقعی آن‌ها هنگام استفاده جلب کند. در همین حال، ممکن است اسناد ایمنی، نحوه رسیدگی به حوادث و توضیحات مربوط به حریم خصوصی توسعه‌دهندگان، در کنار یکدیگر مورد بررسی قرار گیرند. به‌روزرسانی‌های عمومی OpenAI درباره روند توسعه مدل‌هایش دیدگاه این شرکت را منعکس می‌کنند، اما پاسخ به پرسش‌های کمیسیون بر اساس اسنادی مشخص خواهد شد که این نهاد به دست می‌آورد.
شرایط پیش روی دو شرکت
تحقیقات مشترک، هر دو شرکت را در معرض بررسی نظارتی مشابهی قرار می‌دهد. با این حال، این موضوع به معنای یکسان بودن سامانه‌ها، تدابیر حفاظتی یا اسناد آن‌ها نیست. جدول زیر، اطلاعات تثبیت‌شده درباره دو شرکت را از حوزه‌های گزارش‌شده تحقیقات جدا می‌کند.
| حوزه | OpenAI | آنتروپیک |
|---|---|---|
| اقدام کمیسیون تجارت فدرال | احضاریه اداری | احضاریه اداری |
| نقطه عطف شناخته‌شده در توسعه مدل‌ها | عرضه GPT-4 در مارس ۲۰۲۳ | معرفی Claude 3 در مارس ۲۰۲۴ |
| اطلاعات درباره شرکت | استفاده از خوشه‌های آموزشی مجهز به ده‌ها هزار شتاب‌دهنده تخصصی | دفتر مرکزی در سان‌فرانسیسکو، کالیفرنیا |
| حوزه اسناد مورد درخواست طبق گزارش‌ها | اسناد ایمنی، امنیتی، بازاریابی و حریم خصوصی | اسناد ایمنی، امنیتی، بازاریابی و حریم خصوصی |
| واکنش در گزارش‌های مورد استناد | اعلام کرد که همکاری خواهد کرد | در گزارش منتشرشده اظهارنظری از شرکت وجود نداشت |
گام بعدی در تحقیقات کمیسیون تجارت فدرال چیست؟
اقدامات بعدی به اطلاعاتی بستگی دارد که کمیسیون از اسناد و شهادت‌های احتمالی به دست می‌آورد. این نهاد ممکن است بر اساس شواهد جمع‌آوری‌شده تصمیم بگیرد که آیا ادامه تحقیقات یا پیگیری حقوقی ضرورت دارد یا خیر. با این حال، احضاریه‌های گزارش‌شده به‌تنهایی ثابت نمی‌کنند که هیچ‌یک از دو شرکت مقررات حمایت از مصرف‌کنندگان را نقض کرده است.
اگر درخواست‌ها مطابق گزارش‌ها برای سایر سازمان‌های فعال در حوزه هوش مصنوعی نیز صادر شوند، دامنه تحقیقات می‌تواند از این دو شرکت فراتر برود. پرسش اصلی این است که آیا تدابیر حفاظتی شرکت‌ها و توضیحات عمومی آن‌ها با خطراتی که نهادهای نظارتی بررسی می‌کنند، مطابقت دارد یا خیر. اگر سیاست‌گذاری در حوزه هوش مصنوعی را دنبال می‌کنید، منتظر اطلاع‌رسانی‌های بعدی کمیسیون باشید؛ اگر از این خدمات استفاده می‌کنید، به دنبال توضیحات روشن‌تر درباره ایمنی و حریم خصوصی باشید.
پرسش‌های متداول درباره احضاریه کمیسیون تجارت فدرال
چه چیزی باعث آغاز تحقیقات کمیسیون شد؟
کمیسیون تجارت فدرال در حال بررسی احتمال نقض قوانین حمایت از مصرف‌کنندگان در ارتباط با رفتارهای خودمختار و غیرمنتظره مدل‌های زبانی بزرگ است. درخواست‌های این نهاد، اطلاعاتی درباره حوادث ایمنی و شیوه‌های عملکرد شرکت‌ها را هدف قرار داده‌اند.
آیا نقض قانون از سوی OpenAI یا آنتروپیک اثبات شده است؟
خیر. احضاریه‌ها بخشی از روند تحقیقات هستند و اقدام گزارش‌شده به معنای اثبات تخلف نیست.
کمیسیون تجارت فدرال چه اطلاعاتی درخواست کرده است؟
طبق گزارش‌ها، درخواست‌ها شامل اسنادی درباره حوادث ایمنی و امنیتی، تدابیر حفاظتی، مطالب بازاریابی و سیاست‌های حریم خصوصی هستند. The Next Web همچنین از برنامه کمیسیون برای دریافت شهادت مدیران ارشد و ارسال درخواست به سازمان‌های دیگر فعال در حوزه هوش مصنوعی خبر داده است.
تحقیقات کمیسیون چه پیامدهای احتمالی برای مصرف‌کنندگان دارد؟
این تحقیقات ممکن است OpenAI و آنتروپیک را به ارائه توضیحات روشن‌تر درباره ایمنی و حریم خصوصی خدمات هوش مصنوعی خود ترغیب کند. اگر در جریان بررسی‌ها نقض قوانین حمایت از مصرف‌کنندگان مشخص شود، ممکن است اقدامات نظارتی به تغییر مقررات و تقویت تدابیر حفاظتی برای کاربران هوش مصنوعی منجر شود.
مصرف‌کنندگان چگونه می‌توانند از نتایج تحقیقات کمیسیون مطلع شوند؟
مصرف‌کنندگان می‌توانند اطلاعیه‌های کمیسیون تجارت فدرال را برای پیگیری یافته‌ها یا اقدامات مرتبط با OpenAI و آنتروپیک دنبال کنند. این اطلاعات به کاربران کمک می‌کند تدابیر ایمنی و حریم خصوصی مرتبط با خدمات هوش مصنوعی مورد استفاده خود را بهتر بشناسند. منبع: The Next Web