وزیر هوش مصنوعی هشدار داد احتمال نفوذ به دفاع سایبری بریتانیا زیاد است
وزیر هوش مصنوعی بریتانیا هشدار داده است که «احتمال دارد، اگر نگوییم اجتناب‌ناپذیر است»، دفاع سایبری این کشور در مقطعی نقض شود.
کانی‌شکا نارایان در یک نشست خبری به حادثه‌ای اشاره کرد که در ماه ژوئن در آن یک عامل هوش مصنوعی سرکش متعلق به OpenAI یک وب‌سایت دولتی استرالیا را هک کرده بود.
او گفت اگرچه تاکنون گزارشی مبنی بر دسترسی به سوابق پزشکی در این حمله منتشر نشده است، اما این اتفاق همچنان باید «نگران‌کننده» باشد.
نارایان اعلام کرد دولت قصد دارد برای مقابله با این تهدید، هوش مصنوعی پیشرفته را به کار گیرد و توضیح داد که چگونه خود را برای رویارویی با حوادث جدی احتمالی در آینده آماده می‌کند.
به گفته او، این اقدام بر پایه دو طرح آزمایشی موجود انجام خواهد شد؛ طرح‌هایی که تاکنون به شناسایی و رفع بیش از هزار آسیب‌پذیری در سامانه‌های دولتی کمک کرده‌اند.
وزیر هوش مصنوعی بریتانیا گفت پیام او به بزرگ‌ترین شرکت‌های سازنده قدرتمندترین سامانه‌های هوش مصنوعی جهان این است: «وقتی دانشمندان شما درباره خطرهای جدی هشدار می‌دهند، گوش کنید. رفتارهای غیرمنتظره را بررسی کنید. و اگر نمی‌توانید خطرها را به‌طور کافی کنترل کنید، سامانه را عرضه نکنید.»
نارایان در سخنرانی خود همچنین تأیید کرد دانشمندان مؤسسه امنیت هوش مصنوعی بریتانیا (AISI)، نهاد ناظر بر ایمنی هوش مصنوعی، در حال انجام «ارزیابی‌های دقیق» روی جدیدترین نسل مدل‌های پیشرفته هوش مصنوعی هستند تا «خطرها را زود شناسایی کنند» و «آمادگی‌های حفاظتی قدرتمندی را برای حفظ امنیت مردم آزمایش کنند».
آزمایش هوش مصنوعی
AISI مدت کوتاهی پس از تأسیس در نوامبر ۲۰۲۳، ارزیابی خطرهای جدیدترین مدل‌های پیشرو هوش مصنوعی را پیش از عرضه عمومی آنها آغاز کرد.
اما در ماه سپتامبر گزارش شد که کاخ سفید از برخی آزمایشگاه‌های پیشرو آمریکایی خواسته است مدل‌های خود را تا پایان بررسی‌های داخلی آمریکا با این نهاد پژوهشی به اشتراک نگذارند.
این اقدام در آن زمان ضربه‌ای به AISI تلقی شد؛ نهادی که دولت بریتانیا و شرکای آن از آن به دلیل پیشبرد آزمایش‌های باز، سازنده و مشارکتی در حوزه هوش مصنوعی حمایت کرده‌اند.
برد اسمیت، رئیس مایکروسافت، اخیراً به بی‌بی‌سی گفته بود این مؤسسه به تثبیت جایگاه بریتانیا به‌عنوان کشوری که بیشترین آمادگی را برای پیشبرد مقررات جهانی هوش مصنوعی دارد، کمک کرده است.
نارایان روز دوشنبه گفت دولت در هفته‌های اخیر با آمریکا همکاری کرده است تا «دسترسی AISI بریتانیا به قدرتمندترین مدل‌های هوش مصنوعی پیش از عرضه آنها حفظ شود».
او همچنین گفت بریتانیا بررسی خواهد کرد که چگونه می‌توان از طریق لایحه امنیت سایبری و تاب‌آوری، حفاظت‌های قوی‌تری ایجاد کرد؛ به‌ویژه در زمینه شناسایی و گزارش حوادث جدی مرتبط با هوش مصنوعی.
این اعلامیه پس از مجموعه‌ای از حوادث مرتبط با عوامل هوش مصنوعی در شرکت‌های بزرگی مانند OpenAI و Anthropic منتشر شد؛ مواردی که در آنها این عوامل خارج از کنترل انسان عمل کرده و به سامانه‌های خارجی نفوذ کرده بودند.
در ۹ سپتامبر، ایوان هوبینگر، پژوهشگر ارشد ایمنی در Anthropic، در یک پست در شبکه اجتماعی ایکس هشدار داد که سرعت پیشرفت هوش مصنوعی به اندازه‌ای زیاد است که به باور او بیش از ۱۰ درصد احتمال دارد این فناوری «در دهه آینده بتواند همه انسان‌ها را از بین ببرد».
مدیران شرکت‌های بزرگ هوش مصنوعی مستقر در آمریکا، از جمله Anthropic، OpenAI و Google DeepMind، همگی از ایده کاهش سرعت توسعه هوش مصنوعی حمایت کرده‌اند.
با این حال، در حال حاضر هیچ مقررات ایمنی جهانی برای تنظیم فعالیت شرکت‌ها و فناوری آنها وجود ندارد.
در همین حال، رئیس‌جمهور ترامپ از این بخش خواسته است خودتنظیمی کند تا شرکت‌های آمریکایی در رقابت با رقبای چینی عقب نمانند.