«ماشین‌هایی بسازیم که در خدمت ما باشند»؛ وزیر هوش مصنوعی بریتانیا بر ضرورت جدی گرفتن خطرات هوش مصنوعی تأکید کرد
لندن [بریتانیا]، ۱۳ اکتبر (ANI): کانیسکا نارایان، وزیر هوش مصنوعی بریتانیا، روز دوشنبه به وقت محلی اعلام کرد که این کشور به جدیدترین نسل مدل‌های هوش مصنوعی برای انجام آزمایش‌های ایمنی دسترسی پیدا کرده است و مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) در حال ارزیابی این مدل‌ها برای شناسایی خطرات و بررسی سازوکارهای حفاظتی است.
بر اساس سخنرانی منتشرشده در وب‌سایت رسمی دولت بریتانیا، نارایان در رویدادی در کالج سلطنتی لندن گفت دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی در حال ارزیابی جدیدترین مدل‌ها، از جمله Gemini 4 Argon، هستند تا خطرات احتمالی را شناسایی کرده و پیش از عرضه گسترده‌تر این فناوری، اقدامات حفاظتی را آزمایش کنند.
نارایان گفت: «دانشمندان هوش مصنوعی در مؤسسه امنیت هوش مصنوعی اکنون ارزیابی‌های دقیق جدیدترین نسل مدل‌ها، از جمله Gemini 4 Argon، را انجام می‌دهند تا خطرات را زود شناسایی کنند، سازوکارهای حفاظتی قدرتمند را بیازمایند و به حفظ امنیت مردم کمک کنند.»
این اعلامیه در شرایطی مطرح شده است که پس از افشای مواردی از رفتارهای غیرمنتظره یا خارج از کنترل توسط عامل‌های هوش مصنوعی از سوی توسعه‌دهندگانی مانند Anthropic و OpenAI، بررسی‌های مربوط به ایمنی هوش مصنوعی افزایش یافته است. برخی چهره‌های این صنعت نیز هشدار داده‌اند که سیستم‌های هوش مصنوعی با توانمندی فزاینده ممکن است تهدیدی وجودی برای بشریت ایجاد کنند.
نارایان گفت دولت بریتانیا در هفته‌های اخیر همکاری نزدیکی با دولت آمریکا و توسعه‌دهندگان هوش مصنوعی داشته تا پیش از عرضه عمومی، دسترسی به مدل‌های قدرتمند را حفظ کند.
او گفت: «به همین دلیل، در چند هفته گذشته با دولت آمریکا و آزمایشگاه‌ها همکاری نزدیکی داشته‌ایم؛ از گردهمایی اعلیحضرت پادشاه با توسعه‌دهندگان پیشرو هوش مصنوعی در دومفریز هاوس در اسکاتلند گرفته تا گفت‌وگوها در مجمع عمومی سازمان ملل در نیویورک، تا دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا به قدرتمندترین مدل‌های هوش مصنوعی پیش از عرضه آنها حفظ شود.»
این اعلامیه پس از گزارش‌هایی در ماه گذشته منتشر شد که بر اساس آنها کاخ سفید از OpenAI و Anthropic خواسته بود مدل‌های جدید هوش مصنوعی خود را تا زمان انجام آزمایش توسط دولت آمریکا، در اختیار نهاد آزمایش‌کننده بریتانیا قرار ندهند.
طبق گزارش Politico، این درخواست توسط فردی آشنا با موضوع و یک مقام ارشد دولت آمریکا مطرح شده بود که هر دو برای صحبت درباره این مسئله به شرط ناشناس ماندن گفتگو کرده بودند.
در نامه‌ای که مؤسسه امنیت هوش مصنوعی بریتانیا در ماه سپتامبر منتشر کرد، این نهاد اعلام کرد Anthropic تأکید کرده بود که هیچ سازمانی خارج از آمریکا به مدل Mythos 5.1 این شرکت دسترسی نداشته است.
در این نامه آمده بود: «Anthropic هنگام عرضه Mythos 5.1 به‌روشنی اعلام کرد که هیچ سازمانی خارج از آمریکا به این مدل دسترسی ندارد. AISI هر روز با شرکای صنعتی، از جمله Anthropic، در ارتباط است و توافق‌های بلندمدتی برای آزمایش مدل‌های توسعه‌دهندگان بزرگ هوش مصنوعی دارد.»
در همین حال، نارایان تأکید کرد که دولت با افزایش توانمندی سیستم‌های هوش مصنوعی، ایمنی عمومی را در اولویت قرار خواهد داد و هشدار داد که خطرات این فناوری محدود به مرزهای ملی نیست و به همکاری بین‌المللی نیاز دارد.
او گفت: «مردم بریتانیا حق دارند انتظار داشته باشند که این دولت خطرات هوش مصنوعی را جدی بگیرد. نخستین مسئولیت ما حفظ امنیت کشورمان است.»
او همچنین از برنامه‌هایی برای تقویت دفاع سایبری کشور با استفاده از ابزارهای پیشرفته هوش مصنوعی خبر داد؛ ابزارهایی که می‌توانند آسیب‌پذیری‌های موجود در سامانه‌های دولتی را پیش از سوءاستفاده مهاجمان شناسایی کنند.
نارایان گفت: «در دو طرح آزمایشی دولتی، هوش مصنوعی پیشرفته به شناسایی و رفع بیش از هزار آسیب‌پذیری، در کنار دیگر تهدیدهای مربوط به خدمات عمومی ما، کمک کرده است.» او افزود که سرویس مرکزی پایش آسیب‌پذیری دولت، زمان لازم برای رفع ضعف‌های شناسایی‌شده را از ۵۰ روز به ۸ روز کاهش داده است.
دولت همچنین رویه‌هایی برای واکنش به حوادث مرتبط با عامل‌های هوش مصنوعی تدوین خواهد کرد؛ از جمله بررسی اینکه چگونه می‌توان چنین رخدادهایی را مهار کرد و چگونه می‌توان از افراد آسیب‌دیده حمایت کرد.
نارایان با اشاره به حادثه‌ای در استرالیا در اوایل سال جاری گفت یک عامل هوش مصنوعی شرکت OpenAI هنگام جست‌وجو درباره هزینه‌های عمومی داروها، به اطلاعاتی در یک وب‌سایت دولتی دسترسی پیدا کرده بود که مجاز به مشاهده آنها نبود. دولت استرالیا اعلام کرده بود که هیچ سابقه پزشکی شخصی در این حادثه مشاهده نشده و شواهدی از یک نفوذ گسترده‌تر وجود ندارد.
نارایان از توسعه‌دهندگان هوش مصنوعی خواست هشدارها درباره خطرات احتمالی را جدی بگیرند و رفتارهای غیرمنتظره در سیستم‌های خود را بررسی کنند.
او گفت: «وقتی دانشمندان شما درباره خطرات جدی هشدار می‌دهند، به آن گوش دهید. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرات را به‌طور کافی کنترل کنید، سیستم را عرضه نکنید.»
نارایان با تأکید بر ضرورت ایجاد توانمندی‌های فناورانه داخلی گفت بریتانیا تلاش خواهد کرد زیرساخت هوش مصنوعی خود را توسعه دهد و وابستگی به فناوری‌های تولیدشده در کشورهای دیگر را کاهش دهد.
او گفت: «من آینده‌ای را نمی‌پذیرم که در آن بریتانیا به فناوری‌هایی وابسته باشد که نمی‌تواند آنها را درک یا کنترل کند، در حالی که افراد شاغل هزینه پیشرفتی را می‌پردازند که هیچ نقشی در شکل‌دهی آن نداشته‌اند.»
او افزود که دولت از توانمندی‌های بریتانیا از طریق برنامه هوش مصنوعی حاکمیتی (Sovereign AI) و طرح سخت‌افزار هوش مصنوعی حمایت خواهد کرد و در عین حال به همکاری با شرکای بین‌المللی در زمینه ایمنی و امنیت هوش مصنوعی ادامه می‌دهد.
نارایان گفت: «ما باید ماشین‌هایی بسازیم که در خدمت ما باشند.» (ANI)