دفتر کمیسر اطلاعات بریتانیا از ۱۰ غول هوش مصنوعی تعهدات جدید حفاظت از داده گرفت؛ تمرکز نظارت به سوی عامل‌های هوش مصنوعی تغییر کرد
نهاد ناظر حفاظت از داده بریتانیا با دریافت تعهداتی از توسعه‌دهندگان بزرگ هوش مصنوعی برای تقویت حفاظت از حریم خصوصی، هم‌زمان تحقیقات تازه‌ای را درباره خطرات عامل‌های هوش مصنوعی با سطح بالاتر خودمختاری آغاز کرده است.
دفتر کمیسر اطلاعات بریتانیا (ICO) اعلام کرد از ۱۰ مورد از بزرگ‌ترین توسعه‌دهندگان هوش مصنوعی جهان، از جمله OpenAI، گوگل، مایکروسافت و متا، تعهداتی برای بهبود حفاظت از داده‌ها دریافت کرده است و نظارت خود بر این حوزه را افزایش می‌دهد.
این نهاد اعلام کرد شرکت‌ها پس از یک برنامه نظارتی که نحوه مدیریت اطلاعات شخصی در مدل‌های پایه هوش مصنوعی را بررسی می‌کرد، یا تغییرات لازم را اجرا کرده‌اند یا متعهد به انجام آن شده‌اند.
۱۰ توسعه‌دهنده شامل آمازون، Anthropic، اپل، Cohere، DeepSeek، گوگل، متا، مایکروسافت، OpenAI و Stability AI، با بهبودهایی از جمله ارائه اطلاعات شفاف‌تر درباره نحوه استفاده از داده‌های شخصی، ایجاد سازوکارهای قوی‌تر برای اعمال حقوق افراد و انجام ارزیابی‌های دقیق‌تر درباره تدابیر حفاظت از داده‌ها موافقت کرده‌اند.
جزئیات این یافته‌ها در گزارش جدید ICO منتشر شده است. این گزارش همچنین چالش‌های حقوقی مرتبط با آموزش هوش مصنوعی، از جمله استفاده از اطلاعات شخصی حساس و این پرسش را بررسی می‌کند که آیا خود مدل‌های پایه ممکن است حاوی داده‌های شخصی باشند یا خیر.
این نهاد ناظر اذعان کرد که شیوه‌های کنونی آموزش هوش مصنوعی از نظر فنی چالش‌هایی برای رعایت قوانین حفاظت از داده‌های بریتانیا ایجاد می‌کنند و افزود که این مسائل را با دولت در میان می‌گذارد.
تمرکز نظارت به سوی عامل‌های هوش مصنوعی خودمختار تغییر می‌کند
این اعلامیه در شرایطی منتشر شده است که ICO تمرکز خود را به سوی هوش مصنوعی عامل‌محور گسترش داده است؛ سامانه‌هایی که می‌توانند به‌طور مستقل وظایف را انجام دهند، از ابزارها استفاده کنند و با خدمات خارجی تعامل داشته باشند، در حالی که نظارت انسانی محدودی دارند.
این نهاد تأیید کرد پس از گزارش‌هایی درباره رفتارهای نگران‌کننده در جریان آزمایش و استفاده از عامل‌های هوش مصنوعی، از OpenAI، Anthropic، متا و مؤسسه امنیت هوش مصنوعی بریتانیا درباره این موضوع پرس‌وجو کرده است.
بر اساس اعلام ICO، برخی از این عامل‌ها reportedly توانسته‌اند تدابیر حفاظتی را دور بزنند، از کانال‌های ارتباطی غیرمجاز استفاده کنند و به سامانه‌های خارجی دسترسی پیدا کنند؛ موضوعی که پرسش‌هایی درباره امنیت، مسئولیت‌پذیری و نظارت ایجاد کرده است.
ریچارد نوینسون، مدیر تنظیم‌گری فناوری در ICO، گفت: «گزارش‌های اخیر نشان می‌دهد این سامانه‌ها با چه سرعتی در حال پیشرفت هستند و اگر سازوکارهای حفاظتی مناسب نباشند، چه خطراتی ایجاد می‌کنند. پیام ما روشن است: خودمختاری عامل‌های هوش مصنوعی بهانه‌ای برای رعایت نکردن الزامات قانونی نیست.»
این بررسی‌ها همچنان ادامه دارد و نهاد ناظر در حال جمع‌آوری اطلاعات درباره ارزیابی‌های ریسک و تدابیر حفاظتی مورد استفاده در زمان آزمایش این سامانه‌ها است.
ICO همچنین فراخوانی شش‌هفته‌ای برای دریافت شواهد آغاز کرده است تا بررسی کند سازمان‌ها چگونه خطرات حفاظت از داده در سامانه‌های خودمختار را مدیریت می‌کنند.
این نهاد از توسعه‌دهندگان، سازمان‌هایی که هوش مصنوعی را به کار می‌گیرند و دیگر متخصصان خواسته است دیدگاه‌های خود را درباره موضوعاتی مانند امنیت، شفافیت، مسئولیت‌پذیری، تصمیم‌گیری خودکار، عدالت و استفاده قانونی از داده‌ها ارائه کنند.
این مشاوره در ۲۰ نوامبر ۲۰۲۶ پایان می‌یابد و انتظار می‌رود نتایج آن در تدوین راهنمایی‌های نظارتی آینده و آیین‌نامه قانونی آتی ICO درباره هوش مصنوعی و تصمیم‌گیری خودکار مورد استفاده قرار گیرد.