کمیسیون تجارت فدرال آمریکا درباره ایمنی هوش مصنوعی و حریم خصوصی به OpenAI و Anthropic احضاریه فرستاد
کمیسیون تجارت فدرال آمریکا (FTC) در ۱۵ اکتبر با ارسال احضاریه‌های حقوقی در چارچوب یک تحقیق مدنی به شرکت‌های OpenAI و Anthropic، از آن‌ها خواست اسناد مربوط به حوادث ایمنی، تدابیر امنیتی، سیاست‌های حفظ حریم خصوصی و محتوای بازاریابی خود را ارائه کنند. این خبر را رویترز گزارش داده است.
این تحقیق در آمریکا و در شرایطی انجام می‌شود که نظارت بر سامانه‌های پیشرفته هوش مصنوعی، به‌دنبال وقوع حوادثی که در آن مدل‌ها اقداماتی غیرمنتظره انجام داده‌اند، شدت گرفته است. برخی از این حوادث شامل فعالیت‌های بدون مجوز در ارتباط با وب‌سایت‌های خارجی بوده‌اند.
کمیسیون تجارت فدرال در حال بررسی این موضوع است که آیا این حوادث یا رویه‌های شرکت‌های مذکور به مصرف‌کنندگان آسیب رسانده‌اند و آیا چنین آسیب‌هایی می‌توانند مصداق رفتارهای غیرمنصفانه یا فریبکارانه باشند.
به گزارش رویترز، این کمیسیون همچنین قصد دارد مدیران OpenAI، Anthropic و گروه پژوهشی METR را برای ادای شهادت احضار کند. احتمال دارد در ادامه، احضاریه‌های دیگری نیز برای سایر سازمان‌های فعال در حوزه هوش مصنوعی صادر شود.
ایمنی هوش مصنوعی به مسئله‌ای در حاکمیت داده تبدیل می‌شود
این تحقیق برای مدیران ارشد داده (CDO) یادآور اهمیت ثبت و نگهداری سوابق مربوط به نحوه توسعه، استقرار و نظارت بر سامانه‌های هوش مصنوعی است.
حوادث مرتبط با ایمنی هوش مصنوعی می‌توانند اطلاعاتی ایجاد کنند که شرکت‌ها ناچار به نگهداری و بررسی آن‌ها باشند. این اطلاعات ممکن است شامل رفتار مدل‌ها، دسترسی به سامانه‌ها، سازوکارهای حفاظتی، کاربران آسیب‌دیده و اقداماتی باشد که برای رفع مشکلات انجام شده است.
اگر سازمان‌ها سوابقی منظم و یکپارچه در اختیار نداشته باشند، ممکن است نتوانند به‌درستی مشخص کنند که یک حادثه چگونه رخ داده یا آیا در زمان وقوع آن، کنترل‌ها و تدابیر حفاظتی مناسبی برقرار بوده است.
درخواست‌های کمیسیون تجارت فدرال، سیاست‌های حفظ حریم خصوصی و محتوای بازاریابی شرکت‌ها را نیز در بر می‌گیرد. به همین دلیل، هماهنگی میان آنچه شرکت‌ها درباره سامانه‌های هوش مصنوعی خود به کاربران اعلام می‌کنند و نحوه واقعی پردازش و مدیریت اطلاعات در این سامانه‌ها اهمیت بیشتری پیدا می‌کند.
افزایش نظارت نهادهای تنظیم‌گر، استانداردهای حاکمیت را سخت‌گیرانه‌تر می‌کند
این تحقیق نشان می‌دهد که حاکمیت هوش مصنوعی تنها به عملکرد مدل‌ها محدود نمی‌شود. شرکت‌ها باید فرایندهایی برای مستندسازی خطرات هوش مصنوعی، ثبت و پیگیری حوادث و نگهداری شواهد مربوط به کنترل‌های اعمال‌شده بر سامانه‌هایی داشته باشند که با اطلاعات حساس سروکار دارند.
برای مدیران ارشد داده، این مسئولیت به معنای همکاری نزدیک با تیم‌های امنیت، حقوقی و انطباق با مقررات است تا اطمینان حاصل شود سوابق مرتبط با هوش مصنوعی در تمام مراحل چرخه عمر سامانه‌ها ثبت، نگهداری و مطابق اصول حاکمیت داده مدیریت می‌شوند.