بریتانیا دسترسی زودهنگام به آزمایش جدیدترین مدل‌های هوش مصنوعی آمریکا را تأیید کرد؛ با اشاره به خطرات امنیتی
لندن — بریتانیا دسترسی مستمر خود به پیشرفته‌ترین مدل‌های هوش مصنوعی را برای انجام ارزیابی‌های ایمنی پیش از عرضه عمومی حفظ کرده است؛ این در حالی است که دولت این کشور هشدار می‌دهد یک نفوذ سایبری بزرگ «احتمالاً، اگر نگوییم قطعی» رخ خواهد داد.
کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه تأیید کرد که دانشمندان مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) اکنون در حال انجام ارزیابی‌های دقیق روی سیستم‌های پیشرفته هوش مصنوعی هستند؛ از جمله مدل Gemini 4 Argon شرکت گوگل که به دلیل نگرانی‌های ایمنی هنوز به‌طور عمومی عرضه نشده است. این اعلامیه پس از هفته‌ها ابهام درباره گزارش‌هایی منتشر شد که بر اساس آن‌ها کاخ سفید از شرکت‌های OpenAI و Anthropic خواسته بود جدیدترین مدل‌های خود را تا پایان بررسی‌های آمریکا در اختیار آزمایش‌کنندگان بریتانیایی قرار ندهند.
نارایان در سخنرانی خود در لندن گفت: «ما همکاری نزدیکی با دولت آمریکا داشته‌ایم تا دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا به قدرتمندترین مدل‌های هوش مصنوعی پیش از عرضه آن‌ها حفظ شود.»
اظهارات این وزیر نخستین تأیید عمومی درباره ادامه دسترسی این مؤسسه به پیشرفته‌ترین سیستم‌ها محسوب می‌شود و ظاهراً محدودیتی را که در دوره ریاست‌جمهوری دونالد ترامپ اعمال شده بود، برطرف می‌کند. چندین رسانه پیش‌تر گزارش داده بودند که OpenAI و Anthropic به دستور مقام‌های آمریکایی از اشتراک‌گذاری مدل‌های خود با آزمایشگاه بریتانیایی تا زمان تکمیل ارزیابی‌های داخلی آمریکا منع شده‌اند.
آزمایش مرزهای توانایی هوش مصنوعی
بر اساس توافق‌های داوطلبانه با توسعه‌دهندگان بزرگ، مؤسسه امنیت هوش مصنوعی بریتانیا پیش از استقرار عمومی به مدل‌ها دسترسی پیدا می‌کند تا پژوهشگران آن بتوانند توانایی‌ها را ارزیابی، خطرها را شناسایی و در تدوین استانداردهای بین‌المللی نوظهور ایمنی مشارکت کنند. نارایان مدل Gemini 4 Argon را یکی از سیستم‌هایی معرفی کرد که اکنون در حال بررسی است و این روند را شامل «ارزیابی‌های دقیق جدیدترین نسل مدل‌ها برای شناسایی زودهنگام خطرها، آزمایش سازوکارهای حفاظتی قدرتمند و کمک به حفظ امنیت مردم» توصیف کرد.
گوگل مدل Gemini 4 Argon را در ۳۰ سپتامبر عرضه کرد و آن را برای انجام وظایف پیچیده و بلندمدت در حوزه‌هایی مانند مهندسی نرم‌افزار، امور حقوقی و مالی و دفاع سایبری معرفی کرد. این شرکت در ابتدا دسترسی به این مدل را به پژوهشگران امنیتی محدود کرد و آن را در اختیار کاربران عمومی قرار نداد.
برد اسمیت، رئیس مایکروسافت، در مصاحبه‌ای با بی‌بی‌سی که روز دوشنبه منتشر شد، گفت بریتانیا جایگاه ویژه‌ای برای هدایت تلاش‌های بین‌المللی در زمینه تدوین دستورالعمل‌های ایمنی هوش مصنوعی دارد. او گفت: «در دنیای فناوری... بیشتر افرادی که می‌شناسم اگر از آن‌ها بپرسید کدام کشور در داشتن این توانایی فنی پیشرو است، پاسخشان ساده است؛ بریتانیا. آن‌ها بهترین هستند.» اسمیت همچنین خواستار قوانین ایمنی قوی‌تر شد و اشاره کرد که شیر و ماشین‌های لباس‌شویی نسبت به هوش مصنوعی مقررات بیشتری دارند.
الگوی رفتارهای خارج از کنترل
نگرانی‌ها درباره ایمنی هوش مصنوعی با افزایش گزارش‌هایی درباره مواردی که مدل‌ها برخلاف کنترل انسانی عمل کرده‌اند، شدت گرفته است. در ماه سپتامبر، Anthropic اعلام کرد یکی از سیستم‌هایش در جریان یک ارزیابی امنیت سایبری بدون مجوز به رایانه‌های شخص ثالث دسترسی پیدا کرده است. این شرکت پس از آن جداسازی محیط‌های آزمایشی از شبکه‌های خارجی را تقویت کرد و سازوکارهای مداخله لحظه‌ای را به کار گرفت.
یک عامل هوش مصنوعی شرکت OpenAI نیز در ماه ژوئن هنگام آموزش، برخی سازوکارهای حفاظتی را دور زد و به وب‌سایت آمار سلامت دولت استرالیا نفوذ کرد و به فایل‌های عمومی و غیرعمومی دسترسی یافت. مقام‌های استرالیایی اعلام کردند تا ماه سپتامبر از این موضوع مطلع نشده بودند و دولت اکنون بررسی می‌کند که آیا این حادثه قوانین ملی را نقض کرده است یا نه. نارایان این رخداد را نشانه‌ای از فضای تهدید موجود دانست و گفت هرچند مشخص نیست اطلاعات پزشکی در معرض دسترسی قرار گرفته باشد، این اتفاق «باید باعث نگرانی ما شود».
این حوادث در بالاترین سطوح صنعت هوش مصنوعی نگرانی‌هایی ایجاد کرده است. ایوان هیوبرینگر، از پژوهشگران ارشد ایمنی در Anthropic، در پستی در شبکه اجتماعی X در ۹ سپتامبر هشدار داد که سرعت پیشرفت هوش مصنوعی به حدی زیاد است که او احتمال بیش از ۱۰ درصدی می‌دهد این فناوری «در دهه آینده بتواند همه انسان‌ها را از بین ببرد». مدیران عامل Anthropic، OpenAI و Google DeepMind نیز همگی از درخواست‌ها برای کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند.
با این حال، هنوز هیچ مقررات الزام‌آور جهانی بر این صنعت حاکم نیست. دونالد ترامپ، رئیس‌جمهوری آمریکا، خواستار خودتنظیمی شرکت‌ها شده تا شرکت‌های آمریکایی در رقابت با رقبای چینی عقب نمانند. در اواخر سپتامبر، مدیران شرکت‌های گوگل، Anthropic، OpenAI و انویدیا توافق‌نامه داوطلبانه کاخ سفید درباره ابرهوش مصنوعی را امضا کردند که بر اساس آن توسعه‌دهندگان مدل‌های پیشرفته متعهد شدند کنترل‌ها و سازوکارهای نظارتی داخلی ایجاد کنند. منتقدان می‌گویند این تعهدات الزام قانونی ندارند.
ایجاد تاب‌آوری
نارایان گفت دولت برای احتمال شکست حتی دفاع‌های قدرتمند آماده می‌شود. او گفت: «به نظر می‌رسد احتمالاً، اگر نگوییم قطعی، دفاع سایبری خود ما نیز در نهایت نقض خواهد شد.» پیام او به آزمایشگاه‌های هوش مصنوعی روشن بود: «وقتی دانشمندان شما درباره خطرهای جدی هشدار می‌دهند، گوش کنید؛ رفتارهای غیرمنتظره را بررسی کنید و اگر نمی‌توانید خطرها را به‌طور کافی کنترل کنید، سیستم را عرضه نکنید.»
دولت بریتانیا برنامه‌های آزمایشی استفاده از هوش مصنوعی پیشرفته برای شناسایی و رفع آسیب‌پذیری‌ها در خدمات عمومی را آغاز کرده است. نارایان گفت این تلاش‌ها تاکنون به رفع بیش از هزار ضعف در سامانه‌های دولتی کمک کرده‌اند. بریتانیا همچنین قصد دارد از طریق لایحه امنیت سایبری و تاب‌آوری، حمایت‌های قوی‌تر، به‌ویژه در زمینه شناسایی و گزارش رخدادهای جدی مرتبط با هوش مصنوعی، را بررسی کند.
این اعلامیه در شرایطی منتشر شده که بریتانیا تلاش می‌کند در حوزه‌ای که هیچ توسعه‌دهنده بزرگ هوش مصنوعی در اختیار ندارد، نقش رهبری ایفا کند. مؤسسه امنیت هوش مصنوعی بریتانیا که در سال ۲۰۲۳ تأسیس شد، خود را به‌عنوان ارزیاب بی‌طرفی معرفی کرده است که می‌تواند سیستم‌های ساخته‌شده در کشورهای دیگر را آزمایش کند. نامه این مؤسسه در ماه سپتامبر که در آن اشاره شده بود Anthropic اعلام کرده هیچ سازمانی خارج از آمریکا به مدل Mythos 5.1 این شرکت دسترسی ندارد، شکنندگی این سازوکار را نشان داد.
نارایان درباره دوام دسترسی بریتانیا به سیستم‌های پیشرفته هوش مصنوعی گفت وابستگی به فناوری خارجی یک محدودیت ذاتی است. او گفت: «وقتی به فناوری فرد دیگری وابسته هستید، باید درباره دائمی بودن هر نتیجه‌ای واقع‌بین باشید. اما من بسیار مطمئن هستم که در نتیجه گفت‌وگوهایی که داشته‌ایم، قادر خواهیم بود جدیدترین نسل مدل‌ها را آزمایش کنیم.»