«ماشین‌هایی بسازیم که در خدمت ما باشند»: وزیر هوش مصنوعی بریتانیا از آزمایش مدل‌های جدید توسط مؤسسه امنیتی این کشور خبر داد و بر جدی گرفتن خطرات تأکید کرد
ANI
۱۳ اکتبر ۲۰۲۶، ساعت ۰۸:۲۹ به وقت GMT+11
لندن [بریتانیا]، ۱۳ اکتبر (ANI): کانی‌شکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه به وقت محلی گفت این کشور توانسته است به جدیدترین نسل مدل‌های هوش مصنوعی برای انجام آزمایش‌های ایمنی دسترسی پیدا کند و مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) نیز در حال ارزیابی این مدل‌ها برای شناسایی خطرات و بررسی راهکارهای حفاظتی است.
بر اساس سخنرانی منتشرشده در وب‌سایت رسمی دولت بریتانیا، نارایان در جریان رویدادی در کالج سلطنتی لندن گفت دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی در حال ارزیابی جدیدترین مدل‌ها، از جمله Gemini 4 Argon، هستند تا خطرات احتمالی را شناسایی و پیش از عرضه گسترده‌تر این فناوری، سازوکارهای ایمنی آن را آزمایش کنند.
نارایان گفت: «دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی اکنون ارزیابی‌های دقیق جدیدترین نسل مدل‌ها، از جمله Gemini 4 Argon، را انجام می‌دهند تا خطرات را زود شناسایی کنند، سازوکارهای حفاظتی قدرتمند را آزمایش کنند و به حفظ امنیت مردم کمک کنند.»
این اعلامیه در شرایطی مطرح شده است که پس از افشاگری‌های شرکت‌هایی مانند Anthropic و OpenAI درباره مواردی از رفتارهای غیرمنتظره یا خارج از کنترل عامل‌های هوش مصنوعی، توجه‌ها به ایمنی این فناوری افزایش یافته است. برخی چهره‌های صنعت نیز هشدار داده‌اند که سیستم‌های هوش مصنوعی با توانایی‌های فزاینده ممکن است تهدیدی وجودی برای بشریت ایجاد کنند.
نارایان گفت دولت بریتانیا در هفته‌های اخیر همکاری نزدیکی با دولت آمریکا و توسعه‌دهندگان هوش مصنوعی داشته است تا پیش از عرضه مدل‌های قدرتمند، دسترسی این کشور به آن‌ها حفظ شود.
او گفت: «به همین دلیل، در هفته‌های گذشته با دولت آمریکا و آزمایشگاه‌ها همکاری نزدیکی داشته‌ایم؛ از گردهمایی پادشاه بریتانیا با توسعه‌دهندگان پیشرو هوش مصنوعی در دومفریز هاوس اسکاتلند گرفته تا گفت‌وگوها در مجمع عمومی سازمان ملل در نیویورک، تا دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا به قدرتمندترین مدل‌های هوش مصنوعی پیش از عرضه آن‌ها حفظ شود.»
این اظهارات پس از گزارش‌هایی در ماه گذشته مطرح شد که بر اساس آن‌ها کاخ سفید از OpenAI و Anthropic خواسته بود مدل‌های جدید هوش مصنوعی خود را تا زمان آزمایش توسط نهاد آمریکایی مربوطه، در اختیار آژانس آزمایش بریتانیا قرار ندهند.
طبق گزارش پولیتیکو، این درخواست از سوی فردی آگاه به موضوع و یک مقام ارشد دولت آمریکا مطرح شده بود که هر دو برای گفت‌وگو درباره این موضوع با حفظ نامشانی صحبت کرده بودند.
در نامه‌ای که در ماه سپتامبر منتشر شد، مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد Anthropic تأکید کرده است که هیچ سازمانی خارج از آمریکا به مدل Mythos 5.1 دسترسی نداشته است.
در این نامه آمده بود: «Anthropic هنگام عرضه Mythos 5.1 به‌روشنی اعلام کرد که هیچ سازمانی خارج از آمریکا به این مدل دسترسی ندارد. AISI به‌صورت روزانه با شرکای صنعتی، از جمله Anthropic، در ارتباط است و توافق‌های بلندمدتی برای آزمایش مدل‌های توسعه‌دهندگان بزرگ هوش مصنوعی دارد.»
هم‌زمان، نارایان تأکید کرد که دولت با افزایش توانایی سیستم‌های هوش مصنوعی، ایمنی عمومی را در اولویت قرار خواهد داد و هشدار داد خطرات این فناوری فراتر از مرزهای ملی است و به همکاری بین‌المللی نیاز دارد.
او گفت: «مردم بریتانیا حق دارند انتظار داشته باشند که این دولت خطرات هوش مصنوعی را جدی بگیرد. نخستین مسئولیت ما حفظ امنیت کشورمان است.»
او همچنین از برنامه‌هایی برای تقویت دفاع سایبری کشور با استفاده از ابزارهای پیشرفته هوش مصنوعی خبر داد تا آسیب‌پذیری‌های موجود در سامانه‌های دولتی پیش از سوءاستفاده مهاجمان شناسایی شوند.
نارایان گفت: «در دو طرح آزمایشی دولتی، هوش مصنوعی پیشرفته به شناسایی و رفع بیش از هزار آسیب‌پذیری، در کنار دیگر تهدیدها علیه خدمات عمومی ما، کمک کرده است.» او افزود سرویس مرکزی نظارت بر آسیب‌پذیری‌های دولت، زمان لازم برای رفع ضعف‌های شناسایی‌شده را از ۵۰ روز به هشت روز کاهش داده است.
دولت همچنین رویه‌هایی برای واکنش به حوادث مرتبط با عامل‌های هوش مصنوعی ایجاد خواهد کرد؛ از جمله بررسی چگونگی مهار چنین حوادثی و نحوه حمایت از افراد آسیب‌دیده.
نارایان با اشاره به حادثه‌ای در استرالیا در اوایل سال جاری گفت یک عامل هوش مصنوعی شرکت OpenAI هنگام جست‌وجو درباره هزینه‌های عمومی داروها، به اطلاعاتی در یک وب‌سایت دولتی دسترسی پیدا کرده بود که مجاز به مشاهده آن‌ها نبود. دولت استرالیا اعلام کرده بود که هیچ سابقه پزشکی شخصی در این حادثه مشاهده نشده و شواهدی از نفوذ گسترده‌تر وجود ندارد.
نارایان از توسعه‌دهندگان هوش مصنوعی خواست هشدارها درباره خطرات احتمالی را جدی بگیرند و رفتارهای غیرمنتظره سیستم‌های خود را بررسی کنند.
او گفت: «وقتی دانشمندان شما درباره خطرات جدی هشدار می‌دهند، به آن‌ها گوش دهید. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرات را به‌طور مناسب کنترل کنید، سیستم را عرضه نکنید.»
نارایان با تأکید بر ضرورت توانمندی‌های فناورانه داخلی گفت بریتانیا تلاش خواهد کرد زیرساخت‌های هوش مصنوعی خود را توسعه دهد و وابستگی به فناوری‌های ساخته‌شده در کشورهای دیگر را کاهش دهد.
او گفت: «من آینده‌ای را نمی‌پذیرم که در آن بریتانیا به فناوری‌هایی وابسته باشد که نمی‌تواند آن‌ها را درک یا کنترل کند، در حالی که کارگران هزینه پیشرفتی را می‌پردازند که هیچ نقشی در شکل دادن به آن نداشته‌اند.»
او افزود دولت از توانمندی‌های بریتانیا از طریق برنامه هوش مصنوعی مستقل (Sovereign AI) و طرح سخت‌افزار هوش مصنوعی حمایت خواهد کرد و در عین حال به همکاری با شرکای بین‌المللی در زمینه ایمنی و امنیت هوش مصنوعی ادامه می‌دهد.
نارایان گفت: «ما باید ماشین‌هایی بسازیم که در خدمت ما باشند.» (ANI)