دفتر کمیسر اطلاعات بریتانیا عملکرد عامل‌های هوش مصنوعی در OpenAI، متا و Anthropic را بررسی می‌کند
- دفتر کمیسر اطلاعات بریتانیا (ICO) در حال بررسی آزمایش و استقرار عامل‌های هوش مصنوعی با مشارکت OpenAI، متا، Anthropic و مؤسسه امنیت هوش مصنوعی بریتانیا است؛ این بررسی‌ها در پی نگرانی‌ها درباره دسترسی سامانه‌های خودمختار به داده‌ها بدون مجوز انجام می‌شود.
- ۱۰ توسعه‌دهنده بزرگ هوش مصنوعی، از جمله گوگل، مایکروسافت، اپل و DeepSeek، متعهد شده‌اند شفافیت، حفاظت از داده‌های شخصی و سازوکارهای اعمال حقوق حریم خصوصی را تقویت کنند.
- ICO یک فراخوان شش‌هفته‌ای برای دریافت دیدگاه‌ها درباره خطرات هوش مصنوعی عامل‌محور آغاز کرده است که بر امنیت، پاسخ‌گویی، دسترسی به داده‌ها و رعایت قوانین حریم خصوصی بریتانیا تمرکز دارد.
دفتر کمیسر اطلاعات بریتانیا (ICO) نظارت بر عامل‌های هوش مصنوعی را افزایش داده و اعلام کرده است که درباره OpenAI، متا، Anthropic و مؤسسه امنیت هوش مصنوعی بریتانیا، در ارتباط با خطرات احتمالی حفاظت از داده‌ها و امنیت ناشی از سامانه‌های هوش مصنوعی خودمختار، تحقیقاتی انجام می‌دهد.
این نهاد نظارتی در حال بررسی نحوه تعامل عامل‌های هوش مصنوعی با پلتفرم‌های خارجی، دسترسی آن‌ها به اطلاعات شخصی و عملکردشان در چارچوب کنترل‌های امنیتی موجود است. این بررسی پس از گزارش‌هایی درباره عبور سامانه‌های هوش مصنوعی از محدودیت‌ها، ارتباط از طریق کانال‌های غیرمجاز و دسترسی به زیرساخت‌های متعلق به طرف‌های ثالث، از جمله Hugging Face، آغاز شده است.
عامل‌های هوش مصنوعی می‌توانند به‌صورت مستقل وظایفی مانند مرور وب‌سایت‌ها، کار با نرم‌افزارها و ارتباط با سرویس‌های خارجی را انجام دهند.
افزایش میزان خودمختاری این سامانه‌ها پرسش‌هایی را درباره توانایی سازوکارهای حفاظتی موجود برای جلوگیری از دسترسی غیرمجاز به داده‌ها یا انجام اقداماتی خارج از دستورهای مورد نظر کاربران مطرح کرده است.
ICO با توسعه‌دهندگان هوش مصنوعی و سازمان‌های آزمایش‌کننده این فناوری تماس گرفته است تا مشخص شود در جریان رخدادهای گزارش‌شده، چه ارزیابی‌های ریسک و تدابیر امنیتی در نظر گرفته شده بود.
تعهد ۱۰ توسعه‌دهنده هوش مصنوعی به حفاظت بیشتر از داده‌ها
این نهاد همچنین اعلام کرد که توانسته است از ۱۰ توسعه‌دهنده بزرگ مدل‌های پایه هوش مصنوعی شامل Amazon، Anthropic، Apple، Cohere، DeepSeek، Google، Meta، Microsoft، OpenAI و Stability AI، تعهداتی برای بهبود حریم خصوصی دریافت کند.
این اقدامات شامل ارائه اطلاعات شفاف‌تر درباره پردازش داده‌های شخصی، بهبود سازوکارهای افراد برای اعمال حقوق مربوط به حفاظت از داده‌ها و ارزیابی‌های قوی‌تر درباره تدابیر حفاظتی حریم خصوصی است.
برخی از این تغییرات تاکنون اجرا شده‌اند و برخی دیگر همچنان در قالب تعهداتی قرار دارند که تحت نظارت مداوم نهادهای قانون‌گذار پیگیری خواهند شد.
این نهاد همچنین یک فراخوان شش‌هفته‌ای برای دریافت دیدگاه‌ها از توسعه‌دهندگان هوش مصنوعی، کسب‌وکارهایی که سامانه‌های خودمختار را به کار می‌گیرند و کارشناسان فنی راه‌اندازی کرده است تا مشخص شود سازمان‌ها چگونه خطرات مرتبط با هوش مصنوعی عامل‌محور را شناسایی و مدیریت می‌کنند.
ریچارد نِوینسون، مدیر مقررات‌گذاری فناوری در ICO، گفت افزایش استقلال سامانه‌های هوش مصنوعی نیازمند بهبود هم‌زمان در حوزه حفاظت از داده‌هاست.
هوش مصنوعی ظرفیت بزرگی برای سود رساندن به جامعه ما دارد، اما تحقق این ظرفیت به اعتماد و شفافیت وابسته است. تعامل ما با برخی از بزرگ‌ترین توسعه‌دهندگان، تعهدات واقعی به همراه داشته که به مردم کمک می‌کند حتی در حوزه‌ای سریع‌التغییر و پیچیده، درک و کنترل بهتری بر نحوه استفاده از داده‌های خود داشته باشند.
ریچارد نِوینسون، مدیر مقررات‌گذاری فناوری در ICO
این مشاوره موضوعاتی مانند امنیت، شفافیت، پاسخ‌گویی، تصمیم‌گیری خودکار، عدالت و پردازش قانونی داده‌های شخصی را پوشش می‌دهد.
یافته‌های این بررسی به تدوین راهنمایی‌های آینده ICO و همچنین آیین‌نامه قانونی پیش‌روی این نهاد درباره هوش مصنوعی و تصمیم‌گیری خودکار کمک خواهد کرد.
گزارش‌های اخیر هم سرعت پیشرفت این سامانه‌ها و هم خطراتی را که در صورت ناکافی بودن سازوکارهای حفاظتی ایجاد می‌کنند، نشان می‌دهد. پیام ما روشن است: خودمختار بودن عامل‌های هوش مصنوعی بهانه‌ای برای رعایت نکردن الزامات قانونی نیست.
بررسی‌های ICO همچنان ادامه دارد و این نهاد در تلاش است مشخص کند آیا تدابیر فنی و کنترل‌های سازمانی موجود برای حفاظت از اطلاعات شخصی، با افزایش مسئولیت‌های مستقل عامل‌های هوش مصنوعی، کافی هستند یا خیر.