MI5 مرکز تهدیدات هوش مصنوعی را راه‌اندازی کرد؛ OpenAI به نمایندگان مجلس گفت احتمال وقوع حوادث بیشتری وجود دارد
تامز هاوس در لندن، مقر سرویس امنیتی بریتانیا، MI5.
اعتبار تصویر: Security Service (MI5) / OGL v1.0 از طریق Wikimedia Commons (برش‌خورده)
«تاریخ بشر تاکنون تجربه‌ای از رویارویی با عاملی که از ما باهوش‌تر باشد و بتواند از ما بهتر فکر کند، نداشته است.»
سر کن مک‌کالوم، مدیرکل MI5، این سخنان را ۱۳ اکتبر درباره هوش مصنوعی مطرح کرد. او در حال ارائه گزارش سالانه تهدیدات در مقر MI5 در لندن بود. مک‌کالوم در همین سخنرانی از راه‌اندازی مرکز جدید ارزیابی تهدیدات هوش مصنوعی، موسوم به AITAC، خبر داد.
او همچنین گفت MI5 اکنون نسبت به دوران جنگ سرد منابع بیشتری را برای مقابله با تهدیدات دولتی اختصاص می‌دهد. به گفته او، حجم پرونده‌های مرتبط با تهدیدات دولتی طی یک دهه گذشته چهار برابر شده است.
مرکزی برای «جدا کردن هیاهو از واقعیت»
AITAC در داخل MI5 فعالیت می‌کند و از کارشناسان مؤسسه امنیت هوش مصنوعی، آژانس ملی جرایم و مرکز ملی امنیت سایبری بهره می‌گیرد. مک‌کالوم گفت وظیفه این مرکز «جدا کردن هیاهو از واقعیت‌ها» است. این سومین مرکز از این نوع در MI5 است؛ پیش از آن، این نهاد مراکز تخصصی مقابله با تروریسم و تهدیدات دولتی را ایجاد کرده بود.
مک‌کالوم در پاسخ به پرسشی درباره نحوه فعالیت این مرکز گفت که AITAC برای دولت «یک روایت واحد از حقیقت» فراهم خواهد کرد؛ موضوعی که به گزارش پولیتیکو اروپا مطرح شد. به گفته او، در نبود چنین مرکزی ممکن است دستگاه‌های دولتی مختلف دیدگاه‌های متفاوتی ارائه کنند.
مک‌کالوم گفت هوش مصنوعی همین حالا نیز رقابت میان مهاجمان و مدافعان سایبری را «به‌شدت تقویت می‌کند». این فناوری همچنین می‌تواند تبلیغات و محتوای پروپاگاندا را متناسب با هر فرد تولید کند.
او گفت: «ما تروریست‌هایی را شناسایی کرده‌ایم که تلاش می‌کردند از هوش مصنوعی برای بهبود روش‌های شناسایی و عملیات حمله خود استفاده کنند.»
او افزود که پهپادهای مجهز به هوش مصنوعی «پیچیدگی تازه‌ای» به این مسئله اضافه می‌کنند.
با این حال، به گفته مک‌کالوم، خطرناک‌ترین نوع سوءاستفاده‌ای که او درباره آن نگران است هنوز رخ نداده است. نگرانی اصلی او ظرفیت هوش مصنوعی برای تغییر سطح تهدید ناشی از سلاح‌های زیستی موجود یا حتی ایجاد سلاح‌های زیستی جدید است.
خطر سلاح‌های زیستی چقدر نزدیک است؟
ایان سمپل، دبیر علمی گاردین، از کارشناسان درباره میزان واقعی بودن این خطر پرسید. دکتر فیلیپا لنتزوس از کینگز کالج لندن در مطلب توضیحی گاردین گفت نگرانی فوری‌تر متوجه گروه‌ها و دولت‌هایی است که منابع قابل‌توجهی در اختیار دارند.
لنتزوس گفت: «در اینجا، هوش مصنوعی نیاز به تخصص را از بین نمی‌برد؛ بلکه تخصصی را که از قبل وجود دارد تقویت می‌کند.»
او گفت اطلاعات تنها یکی از بخش‌های این مسئله است. دانش عملی، مواد، تجهیزات و روش رساندن سلاح همچنان موانع بزرگی محسوب می‌شوند. پروفسور تام اینگلس‌بی از مرکز امنیت سلامت جانز هاپکینز نیز گفت هیچ کشوری هنوز سیاست‌های رسمی برای مقابله با چنین نوعی از سوءاستفاده تدوین نکرده است.
پیامی برای استارتاپ‌ها
مک‌کالوم همچنین تاب‌آوری ملی را که MI5 آن را «Protect» می‌نامد، به‌عنوان سومین مأموریت اصلی این نهاد در کنار مقابله با تروریسم و تهدیدات دولتی مطرح کرد. او سخنان خود را با توصیه‌هایی برای گروه‌های مختلف، از جمله بنیان‌گذاران شرکت‌ها، به پایان رساند.
او گفت: «اگر یک استارتاپ فناوری هستید، انتظار داشته باشید عوامل خارجی از شما جاسوسی کنند و امنیت سایبری خود را سر و سامان دهید.»
دو هفته پیش از آن، MI5 هشداری درباره جاسوسی برای دانشگاه‌های بریتانیا صادر کرده بود. این هشدار به مؤسسه‌ای مربوط می‌شد که بودجه پژوهش در حوزه هوش مصنوعی و امنیت سایبری را تأمین می‌کند.
OpenAI نمی‌تواند احتمال وقوع حوادث بیشتر را رد کند
سخنرانی مک‌کالوم هم‌زمان با جلسه‌ای در مجلس عوام بریتانیا برگزار شد که Courthouse News گزارش آن را منتشر کرد. کمیته کسب‌وکار، نوآوری، علم و تجارت از مدیران OpenAI، Anthropic، Google DeepMind و Meta پرسش کرد. نمایندگان مجلس درباره این موضوع پرسیدند که آیا سازوکارهای حفاظتی داوطلبانه می‌توانند همگام با افزایش توانایی‌های هوش مصنوعی پیش بروند و همچنین درباره مواردی پرسیدند که در آن عامل‌های هوش مصنوعی به شکل غیرمنتظره به وب‌سایت‌های دولتی دسترسی پیدا کرده بودند.
تام داف گوردون، مدیر سیاست‌گذاری OpenAI در اروپا، خاورمیانه و آفریقا، نتوانست بگوید که این موارد تنها حوادث از این دست بوده‌اند.
او گفت: «نمی‌توانم به کمیته یا شما، رئیس کمیته، اطمینان بدهم که همین همه موارد بوده است.»
او گفت از «تعداد انگشت‌شماری مورد دیگر» اطلاع دارد که OpenAI آنها را گزارش کرده است. داف گوردون افزود پس از حادثه مربوط به Hugging Face در ژوئیه، OpenAI آموزش یادگیری تقویتی روی پیشرفته‌ترین مدل خود را متوقف کرد. این شرکت همچنین عرضه Astra 6.1 را به تعویق انداخت.
پژوهشگران سابق انتقاد می‌کنند
پژوهشگران سابق آزمایشگاه‌های هوش مصنوعی نیز از این وضعیت انتقاد کردند. دنیل کوکوتایلو، که اکنون پروژه AI Futures را هدایت می‌کند، درباره دلیل ترک OpenAI توضیح داد.
کوکوتایلو گفت: «OpenAI را ترک کردم چون به این باور رسیدم که این شرکت در قبال ساخت این فناوری، در واقع مسئولانه رفتار نخواهد کرد.»
استیون آدلر، که در OpenAI روی ایمنی محصولات کار می‌کرد، گفت در داخل شرکت «مقاومتی در برابر استفاده از واژه‌هایی مانند «خطرناک»» وجود داشت.
از جفری اروینگ، که در سال ۲۰۲۰ Google DeepMind را ترک کرد، درباره برآوردش مبنی بر اینکه هوش مصنوعی ۵۰ درصد احتمال دارد بشریت را نابود کند، پرسیده شد. او گفت مدل «شیر یا خط» برای توصیف این احتمال «تقریباً مدل درستی است».
لرد بوث-اسمیت، مدیر سیاست‌گذاری Anthropic در اروپا، خاورمیانه و آفریقا، گفت سازوکارهای حفاظتی باید همگام با توانمندی‌های هوش مصنوعی پیش بروند. او به درخواست مدیرعامل شرکتش برای «تنظیم سرعت پیشروی مرزهای فناوری» اشاره کرد.
لیام برن، رئیس کمیته، از آغاز تحقیق جدیدی درباره ایمنی هوش مصنوعی خبر داد. این کمیته همچنین قرار است پیش از اصلاحات احتمالی دولت در لایحه امنیت سایبری، گزارشی ویژه منتشر کند.