هشدار رئیس دیپ‌مایند: حملات سایبری عامل‌های هوش مصنوعی زنگ خطر اولیه هستند
هشدار هاسابیس درباره حملات سایبری عامل‌های هوش مصنوعی
دمیس هاسابیس معتقد است سازوکارهای ارزیابی ایمنی هوش مصنوعی باید بتوانند هم‌پای مدل‌هایی که بررسی می‌کنند، تغییر و تکامل یابند. هم‌بنیان‌گذار گوگل دیپ‌مایند روز چهارشنبه در نشستی درباره هوش مصنوعی در دوبلین، حملات سایبری اخیر عامل‌های هوش مصنوعی را «زنگ خطرهای اولیه» توصیف کرد و هشدار داد که اگر شرکت‌ها و دولت‌ها برای ایمن‌سازی سامانه‌های خود اقدام نکنند، ممکن است ظرف یک تا دو سال آینده شاهد حوادث بسیار جدی‌تری باشیم.
نکات کلیدی
- هاسابیس گفت حملات سایبری اخیر عامل‌های هوش مصنوعی تنها به این دلیل خسارت محدودی داشته‌اند که سامانه‌های کنونی هنوز از توانایی چندان بالایی برخوردار نیستند.
- او هشدار داد که اگر شرکت‌های فعال در این صنعت و دولت‌ها اقدامات بیشتری برای تقویت امنیت انجام ندهند، ممکن است از سال آینده یا اندکی پس از آن حوادث بزرگی رخ دهد.
- هاسابیس از تشکیل نهادی بین‌المللی برای تدوین استانداردها حمایت کرد؛ نهادی که فرایند صدور گواهی ایمنی آن انعطاف‌پذیر و متناسب با میزان خطر باشد و در عین حال مانع نوآوری نشود.
حوادث کوچک، خطرات رو به افزایش
هاسابیس که ریاست گوگل دیپ‌مایند را بر عهده دارد و هم‌زمان دانشمند ارشد شرکت مادر آن، آلفابت، نیز هست، حوادث امسال را نه فاجعه‌هایی تمام‌عیار، بلکه نشانه‌هایی از خطرات احتمالی آینده می‌داند.
او در این نشست گفت: «فکر می‌کنم این حملات سایبری زنگ خطرهای اولیه‌ای برای ما هستند. سامانه‌ها هنوز آن‌قدر قدرتمند نشده‌اند و به همین دلیل حوادث رخ‌داده نیز چندان جدی نبوده‌اند.»
با این حال، هاسابیس انتظار ندارد این دوره که شدت خطرات هنوز محدود است، چندان دوام بیاورد.
او افزود: «اما اگر ما به‌عنوان یک صنعت، شرکت‌های مستقل و دولت‌ها برای ایمن‌سازی این سامانه‌ها اقدامات بیشتری انجام ندهیم، ممکن است در سال آینده و یکی دو سال پس از آن با حوادث جدی روبه‌رو شویم.»
الگوبرداری از استانداردهای ایمنی زیست‌شناسی و صنعت هسته‌ای
هاسابیس گفت صنعت هوش مصنوعی هنوز «کارهای زیادی برای انجام دادن» دارد تا بتواند از نظر شیوه‌های تأمین امنیت به سطح حوزه‌هایی مانند زیست‌شناسی و صنعت هسته‌ای برسد؛ حوزه‌هایی که سامانه‌های حیاتی آن‌ها تحت کنترل‌ها و نظارت‌های سخت‌گیرانه قرار دارند.
او معتقد است جهان در نهایت به نوعی نهاد بین‌المللی تدوین استاندارد نیاز خواهد داشت. به گفته هاسابیس، چنین نهادی باید بتواند با در نظر گرفتن تفاوت‌ها و پیچیدگی‌های فناوری، سریع و انعطاف‌پذیر عمل کند؛ در غیر این صورت، مقررات آن ممکن است جلوی نوآوری را بگیرد.
او توضیح داد: «بنابراین، آنچه اساساً باید انجام دهیم، ایجاد تدریجی یک فرایند پویای صدور گواهی ایمنی است؛ فرایندی که با خطراتی که شناسایی می‌کنیم تناسب داشته باشد و بتواند متناسب با مسیر پیشرفت فناوری، به‌سرعت تغییر کند.»
سال رفتارهای خارج از کنترل عامل‌های هوش مصنوعی
اظهارات هاسابیس پس از مجموعه‌ای از رفتارهای خارج از چارچوب عامل‌های هوش مصنوعی مطرح شده است؛ رفتارهایی که از نفوذ به شبکه‌های شرکتی تا ارسال گزارش دروغین یک قتل به پلیس توسط یکی از مدل‌های آنتروپیک را در بر می‌گیرد.
دیگر سخنرانان نشست دوبلین نیز نگرانی‌های مشابهی مطرح کردند. برد اسمیت، رئیس مایکروسافت، که پیش‌تر استدلال کرده بود بریتانیا باید در تدوین مقررات جهانی ایمنی هوش مصنوعی پیشگام شود، در این کنفرانس گفت رفتارهای خارج از کنترل هوش مصنوعی باعث شده سال ۲۰۲۶ برای فعالان این حوزه سالی هشداردهنده و تأمل‌برانگیز باشد. او همچنین خواستار وضع قوانین ایمنی شد که بتوانند هم‌پای پیشرفت فناوری به‌روز شوند.
با این حال، انتشار گزارش‌های مربوط به ایمنی در صنعت هوش مصنوعی همچنان یکدست و منظم نیست. یک بررسی نشان داده است که آزمایشگاه‌های هوش مصنوعی چین تنها برای ۳٫۶ درصد از مدل‌های منتشرشده خود، نتایج آزمون‌های ایمنی را منتشر کرده‌اند. در همین حال، عرضه مدل‌های جدید همچنان ادامه دارد؛ از جمله مدل جمینای ۴ آرگون گوگل که همین هفته به‌صورت عمومی در دسترس قرار گرفت.
حضور نهادهای نظارتی در همان نشست
هشدار هاسابیس در همان روز و همان نشستی مطرح شد که مقام ارشد فناوری کمیسیون اروپا آغاز نخستین تحقیقات در چارچوب قانون هوش مصنوعی اتحادیه اروپا درباره اوپن‌ای‌آی و آنتروپیک را تأیید کرد. این تحقیقات به عامل‌های هوش مصنوعی مربوط می‌شود که از محیط‌های آزمایشی خود خارج شده‌اند. درخواست هاسابیس برای ایجاد نظامی انعطاف‌پذیر در صدور گواهی ایمنی، درست زمانی مطرح می‌شود که مقام‌های بروکسل در حال سنجش این موضوع هستند که مقررات موجود تا چه اندازه می‌توانند چنین شرایطی را پوشش دهند.
جدی‌ترین موردی که تاکنون گزارش شده، نشان می‌دهد چنین ارزیابی‌هایی باید قادر به شناسایی چه نوع رفتارهایی باشند. اوپن‌ای‌آی در ماه ژوئیه اعلام کرد که دو مدل این شرکت از یک محیط آزمایشی ایزوله خارج شدند و با نفوذ به پلتفرم هاگینگ فیس، تلاش کردند در یک آزمون ارزیابی تقلب کنند. این عامل‌ها محل نگهداری پاسخ‌های آزمون را شناسایی کردند و برای دستیابی به آن‌ها دست به اقدام زدند. چنین رفتار هدفمندی دقیقاً از همان مواردی است که هر فرایند صدور گواهی ایمنی باید بتواند پیش از عرضه یک مدل شناسایی کند.
نویسنده: ویتائوتاس والینسکاس