بریتانیا به سمت نظارت سخت‌گیرانه‌تر بر شرکت‌های هوش مصنوعی حرکت می‌کند
لندن – دولت بریتانیا در حال بررسی اعمال قوانین سخت‌گیرانه‌تر برای شرکت‌های هوش مصنوعی است؛ قوانینی که می‌تواند شامل گزارش اجباری رخدادهای امنیتی و انجام آزمایش‌های مستقل روی مدل‌های پیشرفته پیش از عرضه عمومی باشد. این اقدام در حالی مطرح شده که نگرانی‌ها درباره امکان استفاده از این فناوری‌ها در حملات سایبری و سرقت مدل‌های حساس افزایش یافته است.
روزنامه فایننشال تایمز گزارش داد که وزیران بریتانیا در حال بررسی گذار از همکاری‌های داوطلبانه با شرکت‌های فناوری به سوی چارچوبی الزام‌آور برای تنظیم‌گری هستند؛ هرچند هنوز هیچ قانون نهایی در این زمینه ارائه نشده است.
گذار از تعهدات داوطلبانه به نظارت قانونی
به گزارش گاردین، کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، در حال آماده‌سازی طرحی برای تقویت دفاع سایبری و ایجاد توانمندی‌های ملی مستقل جهت ارزیابی مدل‌های پیشرفته است؛ رویکردی که به جای اتکا کامل به تضمین‌های امنیتی شرکت‌های توسعه‌دهنده، بر ارزیابی مستقل تأکید دارد.
این پیشنهادها با هدف سخت‌تر کردن آزمایش‌های ایمنی و نظارت بر رفتار عامل‌های هوشمند ارائه شده‌اند؛ عامل‌هایی که می‌توانند وظایف پیچیده دیجیتال را با درجات مختلفی از خودمختاری انجام دهند. این مقررات ممکن است شرکت‌هایی مانند OpenAI، Anthropic و Google را تحت تأثیر قرار دهد، به‌ویژه با توسعه مدل‌هایی که توانایی برنامه‌نویسی و استفاده از ابزارهای دیجیتال را دارند.
نگرانی درباره سرقت مدل‌ها و آسیب‌پذیری‌های امنیتی
جفری اروینگ، دانشمند ارشد پیشین مؤسسه امنیت هوش مصنوعی بریتانیا، درباره احتمال سرقت مدل‌های پیشرفته توسط طرف‌های متخاصم هشدار داد و به نتایج آزمایش‌های امنیتی اشاره کرد که وجود برخی آسیب‌پذیری‌ها را نشان داده‌اند.
گزارش‌ها حاکی از آن است که در آزمایش‌های امنیتی مرتبط با یکی از مدل‌های متعلق به OpenAI، آسیب‌پذیری‌هایی شناسایی شده است. این شرکت اعلام کرده که تدابیر حفاظتی شامل رمزگذاری و پایش مستمر را در اختیار دارد و تاکنون هیچ مدرکی از سرقت واقعی مدل مشاهده نشده است.
تأمین بودجه بیشتر برای دفاع سایبری
اقدامات بریتانیا شامل توسعه قابلیت‌هایی برای مقابله با خطرات مرتبط با هوش مصنوعی و همچنین اجرای پروژه «سپر سایبری» برای تقویت دفاع سایبری است. برد اسمیت، رئیس مایکروسافت، نیز خواستار ایجاد قوانین بین‌المللی الزام‌آور شد که شامل گزارش رخدادهای امنیتی، اطلاع‌رسانی به طرف‌های آسیب‌دیده و ایجاد سازوکارهایی برای خاموش کردن سامانه‌ها در مواقع ضروری باشد.
قوانین پیشنهادی ممکن است هزینه‌های انطباق و آزمایش‌های امنیتی را برای شرکت‌ها افزایش دهد، اما هدف آن‌ها تقویت پاسخ‌گویی و اعتماد نهادی در استفاده از فناوری‌های پیشرفته است؛ موضوعی که در بحبوحه بحث‌های بین‌المللی درباره مسئولیت توسعه‌دهندگان در قبال ایمنی سامانه‌های هوش مصنوعی اهمیت بیشتری یافته است.