وزیر بریتانیا: حمله سایبری مشابه نفوذ OpenAI به مدیکر در بریتانیا «محتمل به نظر می‌رسد»
یک حمله سایبری مبتنی بر هوش مصنوعی مشابه نفوذ OpenAI به سامانه سلامت استرالیا ممکن است در بریتانیا رخ دهد؛ به گفته یکی از وزیران ارشد دولت بریتانیا، این اتفاق «محتمل، اگر نگوییم اجتناب‌ناپذیر» است.
کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، اعلام کرد که دفاع‌های سایبری دولت این کشور ممکن است توسط فناوری‌ای دور زده شود که مهارت‌های بسیار پیشرفته‌ای در حوزه امنیت سایبری پیدا کرده است.
نارایان در سخنرانی روز دوشنبه خود گفت حادثه‌ای که در ماه ژوئن رخ داد و طی آن یک عامل هوش مصنوعی OpenAI ــ برنامه‌ای رایانه‌ای که به‌صورت خودکار عمل می‌کند ــ وارد سامانه مدیکر، نظام درمانی همگانی استرالیا، شد، می‌تواند در بریتانیا نیز تکرار شود.
او گفت: «این موضوع من را نگران می‌کند. به نظر می‌رسد محتمل، اگر نگوییم اجتناب‌ناپذیر، است که دفاع‌های سایبری خود ما نیز نقض شوند.»
نارایان توضیح داد که مأموریت این عامل هوش مصنوعی «بی‌ضرر» بود و برای یافتن اطلاعات درباره هزینه‌های عمومی داروها جست‌وجو می‌کرد، اما با این حال به داده‌هایی دسترسی پیدا کرد که مجاز به دریافت آن‌ها نبود.
او افزود: «دولت استرالیا اعلام کرده است که تاکنون هیچ سابقه پزشکی شخصی شناخته‌شده‌ای دسترسی پیدا نکرده و شواهدی از نفوذ گسترده‌تر وجود ندارد، اما این حادثه باید باعث نگرانی ما شود.»
نارایان که در یک مرکز علمی و فناوری در کالج سلطنتی لندن سخن می‌گفت، اعلام کرد دن جارویس، وزیر امنیت، رهبری برنامه‌ای دولتی برای تقویت مقابله با حملات سایبری، از جمله حملات مبتنی بر هوش مصنوعی، را بر عهده خواهد داشت.
این اظهارات پیش از جلسه پارلمانی روز سه‌شنبه درباره ایمنی هوش مصنوعی مطرح شد. در این جلسه، مدیران ارشد شرکت‌های OpenAI و Anthropic در کمیته کسب‌وکار، نوآوری، علوم و تجارت پارلمان بریتانیا درباره این موضوع شهادت خواهند داد. هنری دو زوته، رئیس مؤسسه امنیت هوش مصنوعی بریتانیا، نیز در این جلسه حضور خواهد داشت.
نارایان تأیید کرد که این مؤسسه پیش از عرضه عمومی، به مدل‌های پیشرفته هوش مصنوعی دسترسی خواهد داشت؛ اقدامی که پس از گزارش‌هایی درباره اعمال محدودیت از سوی کاخ سفید بر دسترسی به این مدل‌ها انجام می‌شود.
او گفت: «می‌توانم تأیید کنم که دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی اکنون در حال انجام ارزیابی‌های دقیق روی جدیدترین نسل مدل‌ها، از جمله جمینای گوگل، هستند تا خطرات را در مراحل اولیه شناسایی کنند و حفاظت‌های قابل اتکایی را برای حفظ امنیت مردم آزمایش کنند.»
این وزیر افزود شرکت‌های پیشرو در حوزه هوش مصنوعی باید هشدارهای مربوط به خطرات ایمنی فناوری خود را «بشنوند» و اگر مدل‌هایشان تهدیدی جدی ایجاد می‌کند، آن‌ها را عرضه نکنند.
او گفت: «و پیام من به شرکت‌هایی که قدرتمندترین سامانه‌های هوش مصنوعی جهان را توسعه می‌دهند این است: وقتی دانشمندان شما درباره خطرات شدید هشدار می‌دهند، گوش کنید. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرات را به‌طور کافی کنترل کنید، سامانه را منتشر نکنید. من می‌خواهم آزمایشگاه‌ها صادق باشند.»
نارایان گفت بریتانیا با تبدیل ایمنی هوش مصنوعی به «محور اصلی» ریاست این کشور بر گروه ۲۰ در سال آینده، «نقش خود را» در هماهنگی واکنش بین‌المللی به این موضوع ایفا خواهد کرد.
او گفت: «می‌دانیم که این چالش‌ها نمی‌توانند تنها توسط یک کشور حل شوند، اما بریتانیا به دلیل توانمندی‌های خود و به دلیل پایه‌های اعتماد موجود، نقش خود را ایفا خواهد کرد.»