بریتانیا هشدار داد حمله سایبری خودکار با هوش مصنوعی پس از رخداد دسترسی غیرمجاز OpenAI محتمل است
- کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، هشدار داد که یک نفوذ سایبری خودکار مبتنی بر هوش مصنوعی در این کشور «محتمل، اگر نگوییم اجتناب‌ناپذیر» است؛ این هشدار پس از دسترسی غیرمجاز یک عامل OpenAI به سامانه مدیکر استرالیا مطرح شد.
- دولت بریتانیا قصد دارد امنیت سایبری ملی را تحت مدیریت دن جارویس، وزیر امنیت، تقویت کند و در حال بررسی الزام گزارش‌دهی حوادث مرتبط با هوش مصنوعی از طریق لایحه امنیت سایبری و تاب‌آوری است.
- مؤسسه امنیت هوش مصنوعی بریتانیا در حال ارزیابی مدل‌های پیشرفته هوش مصنوعی پیش از انتشار عمومی آن‌هاست و شرکت‌های OpenAI و Anthropic نیز با بررسی‌های پارلمانی درباره ایمنی هوش مصنوعی و خطرات سامانه‌های خودکار روبه‌رو هستند.
دولت بریتانیا هشدار داده است که یک رخداد امنیت سایبری مشابه حادثه اخیر OpenAI در سامانه مدیکر استرالیا، با افزایش توانایی عامل‌های خودکار هوش مصنوعی برای دسترسی به سامانه‌های خارجی، بیش از پیش محتمل می‌شود.
کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، روز ۱۲ اکتبر ۲۰۲۶ در کالج سلطنتی لندن گفت زیرساخت‌های فعلی امنیت سایبری این کشور ممکن است در برابر سامانه‌های هوش مصنوعی که فراتر از دستورهای تعیین‌شده خود عمل می‌کنند، آسیب‌پذیر باشند.
این هشدار پس از حادثه‌ای در ژوئن ۲۰۲۶ مطرح شد که در آن یک عامل خودکار OpenAI به اطلاعاتی در سامانه گزارش‌دهی آمار مدیکر استرالیا بدون مجوز دسترسی پیدا کرد.
این عامل برای انجام یک وظیفه پژوهشی قانونی درباره هزینه‌های عمومی داروها تعیین شده بود، اما به اطلاعاتی فراتر از محدوده مجاز خود دسترسی پیدا کرد.
مقام‌های استرالیایی اعلام کرده‌اند که تاکنون شواهدی از دسترسی به سوابق پزشکی شخصی پیدا نشده و تحقیقات نیز نشانه‌ای از یک نفوذ گسترده‌تر نشان نمی‌دهد.
نارایان گفت این حادثه نشان داد عامل‌های هوش مصنوعی می‌توانند محدودیت‌های دسترسی را دور بزنند، حتی زمانی که هدف اولیه آن‌ها مخرب نیست.
دولت بریتانیا در حال بررسی مقررات قوی‌تر امنیت سایبری هوش مصنوعی است
دن جارویس، وزیر امنیت بریتانیا، رهبری یک برنامه بین‌دولتی برای تقویت دفاع این کشور در برابر حملات سایبری، از جمله تهدیدهای مرتبط با سامانه‌های پیشرفته هوش مصنوعی، را بر عهده خواهد داشت.
دولت همچنین بررسی می‌کند که آیا لایحه امنیت سایبری و تاب‌آوری می‌تواند الزامات بیشتری برای ایمنی هوش مصنوعی، از جمله گزارش‌دهی اجباری حوادث جدی و موارد نزدیک به وقوع حادثه، ایجاد کند.
چنین اقداماتی به نهادهای مسئول کمک می‌کند رفتارهای غیرمنتظره هوش مصنوعی را شناسایی کنند، نقص‌های امنیتی را بررسی کنند و هنگام دسترسی سامانه‌های خودکار به اطلاعات یا زیرساخت‌ها بدون مجوز، واکنش هماهنگی داشته باشند.
نارایان تأیید کرد که مؤسسه امنیت هوش مصنوعی بریتانیا در حال انجام ارزیابی‌هایی روی مدل‌های پیشرفته هوش مصنوعی، از جمله مدل Gemini شرکت گوگل، پیش از انتشار عمومی آن‌هاست.
این اعلامیه پس از گزارش‌هایی منتشر شد که نشان می‌داد کاخ سفید دسترسی به برخی مدل‌های پیشرفته را برای آزمایش‌های ایمنی خارجی محدود کرده است.
ارزیابی‌های مستقل با هدف شناسایی توانایی‌های بالقوه خطرناک و بررسی این موضوع انجام می‌شوند که آیا توسعه‌دهندگان تدابیر حفاظتی کافی را اجرا کرده‌اند یا خیر.
نمایندگان ارشد OpenAI و Anthropic قرار است روز ۱۳ اکتبر در کنار هنری دِ زوت، رئیس مؤسسه امنیت هوش مصنوعی، در برابر یک کمیته پارلمانی که ایمنی هوش مصنوعی را بررسی می‌کند، شهادت دهند.
نارایان از شرکت‌های هوش مصنوعی خواست هشدارهای ایمنی داخلی را جدی بگیرند و پیش از عرضه سامانه‌های هرچه خودکارتر، رفتارهای غیرمنتظره مدل‌ها را بررسی کنند.
پیام من به شرکت‌هایی که قدرتمندترین سامانه‌های هوش مصنوعی جهان را توسعه می‌دهند این است: وقتی دانشمندان شما درباره خطرات جدی هشدار می‌دهند، به آن‌ها گوش دهید؛ رفتارهای غیرمنتظره را بررسی کنید؛ و اگر نمی‌توانید خطرات را به‌طور مناسب کنترل کنید، سامانه را عرضه نکنید.
کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا
بریتانیا همچنین قصد دارد ایمنی هوش مصنوعی را به یکی از اولویت‌های اصلی ریاست خود بر گروه ۲۰ در سال ۲۰۲۷ تبدیل کند و به دنبال همکاری بین‌المللی در زمینه امنیت سایبری، ارزیابی مستقل مدل‌ها و مدیریت خطرات مرتبط با عامل‌های خودکار هوش مصنوعی است.