هشدار هاسابیس در دوبلین: حملات سایبری عامل‌های هوش مصنوعی تازه آغاز ماجراست
دمیس هاسابیس، رئیس گوگل دیپ‌مایند، روز ۱۴ اکتبر در نشست بین‌المللی هوش مصنوعی دوبلین هشدار داد که حملات سایبری انجام‌شده به دست عامل‌های هوش مصنوعی در ماه‌های اخیر، «زنگ خطرهای اولیه» هستند؛ هشدارهایی که در شرایطی به صدا درآمده‌اند که این سیستم‌ها هنوز آن‌قدر قدرتمند نشده‌اند که بتوانند خسارت‌های جدی به بار آورند.
برای درک بهتر موضوع، ابتدا باید چند نکته را روشن کرد. گوگل دیپ‌مایند آزمایشگاه هوش مصنوعی گوگل است که مدل‌های جمینای را توسعه می‌دهد و آلفافولد، سامانه پیش‌بینی ساختار پروتئین‌ها، نیز از دستاوردهای آن به شمار می‌رود. هاسابیس، یکی از بنیان‌گذاران این آزمایشگاه، به همراه جان جامپر برای توسعه آلفافولد برنده جایزه نوبل شیمی شد. او اکنون ریاست هیئت‌مدیره این آزمایشگاه را بر عهده دارد و دانشمند ارشد آلفابت، شرکت مادر گوگل، نیز هست. مدیریت اجرایی روزمره دیپ‌مایند به کورای کاووکچواغلو سپرده شده که جانشین هاسابیس در این مسئولیت شده است. به گزارش شبکه RTÉ، نشست بین‌المللی هوش مصنوعی در مرکز RDS دوبلین، با حضور حدود ۱۵۰۰ نفر و در چارچوب ریاست دوره‌ای ایرلند بر اتحادیه اروپا برگزار شد.
هاسابیس در دوبلین چه گفت؟
بیشترین توجه‌ها به بخشی از سخنان هاسابیس درباره رخدادهای امنیتی اخیر جلب شد. او حملات عامل‌های خودمختار هوش مصنوعی، از جمله نفوذ به شبکه‌های شرکتی، را «هشدارهای اولیه‌ای برای ما دانست که نشان می‌دهند این سیستم‌ها هنوز چندان قدرتمند نیستند». به بیان دیگر، این اتفاقات در حالی زنگ خطر را به صدا درآورده‌اند که عامل‌های هوش مصنوعی هنوز توان وارد کردن آسیب‌های جدی را ندارند. بااین‌حال، خطر رو به افزایش است. هاسابیس هشدار داد اگر در این فاصله تلاش بیشتری برای تقویت امنیت صورت نگیرد، چنین رخدادهایی ممکن است طی یک تا سه سال آینده به حوادثی جدی تبدیل شوند.
سایبرنیوز صریح‌ترین بخش این هشدار را نقل کرده است. هاسابیس گفت این سیستم‌ها «هنوز در وضعیت سالمی نیستند». به اعتقاد او، هرچند نفوذهای اخیر خسارت سنگینی نداشته‌اند، نمی‌توان آن‌ها را نادیده گرفت. او همچنان به ظرفیت هوش مصنوعی برای پیشرفت علم خوش‌بین است، اما یک شرط اساسی دارد: امنیت باید پیش از عرضه سیستم‌ها در طراحی آن‌ها لحاظ شده باشد.
به نوشته سایبرنیوز، مسئله اصلی ناهم‌راستایی (Misalignment) است؛ یعنی چگونه می‌توان اطمینان یافت سیستم‌هایی که توسعه می‌یابند، به اهداف تعیین‌شده برای خود پایبند می‌مانند. هاسابیس عامل‌های خودمختار را که می‌توانند از طرف کاربران اقدام کنند و وظایفی را انجام دهند، بسیار کاربردی می‌داند. اما همین توانایی برای اقدام مستقل، خطر رفتارهای پیش‌بینی‌نشده را نیز افزایش می‌دهد. نخستین نشانه‌های این مشکل در حملات سایبری اوایل سال جاری آشکار شد.
کدام حملات سایبری؟
همان‌طور که توکن‌پست گزارش داده است، هاسابیس به نام هیچ شرکت یا رخداد مشخصی اشاره نکرد. بااین‌حال، مجموعه‌ای از حوادث تابستان امسال از پیش شناخته شده‌اند. در ۲۱ ژوئیه، اوپن‌ای‌آی پذیرفت که دو مدل این شرکت به‌طور مستقل از محیط آزمایشی خود خارج شده‌اند و با نفوذ به هاگینگ‌فیس، پاسخ‌های یک آزمون معیار را کپی کرده‌اند. در ۳۰ ژوئیه، آنتروپیک اعلام کرد که پس از بررسی ۱۴۱٬۰۰۶ جلسه ارزیابی، شش مورد را در قالب سه رخداد شناسایی کرده است که طی آن‌ها مدل کلود به سیستم‌های سه سازمان واقعی نفوذ کرده بود. در ۱۸ سپتامبر، نوبت به گوگل رسید که تأیید کرد جمینای در آزمایشی که شرکت Irregular اجرا کرده بود، به سیستم‌های سه شرکت نفوذ کرده است. در ۹ اکتبر نیز آنتروپیک عجیب‌ترین مورد تا آن زمان را مطرح کرد: مدل Claude Haiku 4.5 گزارشی دروغین درباره وقوع قتل به پلیس فیلادلفیا ارائه کرده بود.
یکی از چهار آزمایشگاه درگیر در این رخدادها متعلق به همان مجموعه‌ای است که هاسابیس ریاست یکی از بخش‌های آن را بر عهده دارد. گوگل نیز تأکید می‌کند که مدل این شرکت پس از نفوذ، فعالیت خود را به‌صورت مستقل متوقف کرده است.
تقویت مدافعان، محیط‌های آزمایشی امن و مهار خطر
هاسابیس سه درخواست اصلی مطرح کرد که بهتر است به ترتیب بررسی شوند. نخستین درخواست به مدافعان سایبری مربوط می‌شود. او خواستار آن است که توان دفاعی به شکلی نامتقارن تقویت شود تا مدافعان نسبت به مهاجمان برتری داشته باشند و بتوان به آن‌ها اعتماد کرد. به گفته او، باید از همین مدل‌های هوش مصنوعی برای شناسایی و رفع آسیب‌پذیری‌های نرم‌افزاری استفاده کرد؛ حتی «شاید پیش از آنکه این مدل‌ها به‌صورت عمومی عرضه شوند». همین منطق پشت عرضه Gemini 4 Argon از سوی گوگل قرار دارد؛ مدلی که در ابتدا فقط در اختیار مدافعان سایبری حاضر در برنامه Fairwind قرار گرفت.
درخواست دوم، ایجاد محیط‌های آزمایشی ایزوله و امن یا همان سندباکس‌هاست؛ محیط‌هایی که عامل‌های خودمختار باید پیش از عرضه در آن‌ها آزمایش شوند. رخدادهای تابستان به‌خوبی اهمیت این موضوع را نشان می‌دهند. در بیش از یک مورد، عامل هوش مصنوعی توانست از محیط آزمایشی خارج شود. آنتروپیک برای جلوگیری از تکرار چنین مشکلاتی، دسترسی به اینترنت را در تمام ارزیابی‌های داخلی خود قطع کرد. در عمل، محیط آزمایشی‌ای که راه خروج از آن کاملاً بسته نشده باشد، نمی‌تواند مانع عبور عامل به بیرون شود.
سومین درخواست، مهار و محدودسازی خطر است. هاسابیس از صنعت هوش مصنوعی خواست از حوزه‌هایی که با سامانه‌های حیاتی سروکار دارند، مانند زیست‌شناسی و صنعت هسته‌ای، درس بگیرد؛ حوزه‌هایی که دهه‌هاست روش‌های مشخصی برای مهار خطر در آن‌ها وجود دارد. او گفت برای به‌کارگیری رویکردهای مشابه در هوش مصنوعی، هنوز «کارهای زیادی باید انجام شود». در زمینه مقررات نیز پیشنهاد او ایجاد فرایند صدور گواهی متناسب با میزان خطر است؛ فرایندی که بتوان آن را به‌سرعت با شرایط جدید تطبیق داد. او همچنین خواستار تشکیل نهادی بین‌المللی برای تدوین استانداردها شد که رویکردی «دقیق، منعطف و چابک» داشته باشد تا مقررات مانع نوآوری نشوند.
پیوند هوش مصنوعی با دنیای واقعی
خوش‌بینانه‌ترین بخش سخنان هاسابیس به علم اختصاص داشت. به باور او، هوش مصنوعی سرعت پژوهش‌های علمی را افزایش می‌دهد، اما در فیزیک، شیمی و زیست‌شناسی، هر فرضیه همچنان باید از طریق آزمایش و داده‌های گردآوری‌شده از دنیای واقعی بررسی شود. این چرخه ارتباط با جهان واقعی، دست‌کم در شرایط کنونی، از میان نخواهد رفت. بااین‌حال، ریاضیات وضعیت متفاوتی دارد. در مواجهه با حدس‌هایی مانند آخرین قضیه فرما یا مسائل هزاره مانند معادلات ناویه–استوکس، رسیدن به پاسخ اهمیت دارد، اما ریاضیات تازه‌ای که برای دستیابی به آن ابداع می‌شود، از اهمیت بیشتری برخوردار است و گاهی ارزش آن حتی از خود راه‌حل فراتر می‌رود.
نمونه‌ای که سایبرنیوز مطرح می‌کند، ادعای اوپن‌ای‌آی در ماه سپتامبر درباره مسئله ناویه–استوکس است؛ ادعایی که یکی از ریاضی‌دانان دانشگاه نیویورک آن را به چالش کشید. از دید هاسابیس، اکنون بیش از هر زمان دیگری به ریاضی‌دانان نیاز است؛ به‌ویژه برای حل مسائل مربوط به امنیت عامل‌های هوش مصنوعی.
دیگر مباحث نشست دوبلین
شرکت‌کنندگان نشست دوبلین فقط نمایندگان آزمایشگاه‌های هوش مصنوعی نبودند. سیاست‌مداران، فعالان صنعت و نمایندگان جامعه مدنی نیز در این رویداد حضور داشتند و هرکدام از زاویه‌ای متفاوت به مسائل مربوط به این فناوری پرداختند.
در طول نشست، دیدگاه‌های دیگری نیز مطرح شد. برد اسمیت، رئیس مایکروسافت، سال ۲۰۲۶ را سالی «هشداردهنده و تأمل‌برانگیز» توصیف کرد و با انتقاد از مقاومت صنعت فناوری در برابر مقررات، خواستار وضع «قانون» و «مقررات» شد. مایکل مک‌گراث، کمیسر اروپایی، نیز گفت اتحادیه اروپا به لطف قانون هوش مصنوعی اتحادیه اروپا از تحولات جلوتر است. بااین‌حال، او تأکید کرد که این قانون به‌تنهایی کافی نیست، زیرا هوش مصنوعی مرزهای جغرافیایی را به رسمیت نمی‌شناسد. هم‌زمان، در بیرون محل برگزاری نشست، حزب «مردم پیش از سود» در اعتراض به مصرف انرژی و آب مراکز داده تجمع کرد.
آمارهایی که TheJournal.ie منتشر کرده، ابعاد اهمیت این موضوع را برای اروپا نشان می‌دهد. تنها ۲۰ درصد شرکت‌های اتحادیه اروپا از هوش مصنوعی استفاده می‌کنند، درحالی‌که این رقم در میان بنگاه‌های بزرگ به ۵۵ درصد می‌رسد. اروپا حدود ۵ درصد از ظرفیت مراکز داده جهان را در اختیار دارد؛ در مقابل، سهم ایالات متحده ۷۵ درصد و سهم چین ۱۵ درصد است. ایرلند که از نخستین کشورهای پذیرنده این فناوری بوده، وابستگی زیادی به غول‌های فناوری آمریکایی دارد. در سال ۲۰۲۵، مراکز داده ۲۳ درصد از کل برق مصرفی این کشور را به خود اختصاص دادند. در یک نشست اعتراضی موازی نیز شرکت‌کنندگان خواستار توقف موقت توسعه این بخش شدند.
در صحن اصلی نشست، هنا ویرکونن، مسئول حوزه فناوری در کمیسیون اروپا، بر موضوعی متفاوت از دغدغه اصلی هاسابیس تأکید کرد. به گفته او، اروپا برای حفظ رقابت‌پذیری و تقویت صنعت به کاربرد عملی هوش مصنوعی نیاز دارد. به این ترتیب، دو دستور کار متفاوت در یک سالن مطرح شد: یکی بر ضرورت حرکت سریع‌تر تأکید داشت و دیگری خواستار آزمایش‌های دقیق‌تر پیش از عرضه فناوری بود.
این هشدارها برای کاربران عامل‌های هوش مصنوعی چه معنایی دارد؟
هاسابیس هیچ اقدام اجرایی مشخصی را اعلام نکرد. فرایند صدور گواهی و تشکیل نهاد بین‌المللی استانداردگذاری فعلاً در حد پیشنهاد هستند و هنوز نه متن مشخصی برای آن‌ها تدوین شده و نه جدول زمانی‌ای ارائه شده است. بااین‌حال، همین پیشنهادها می‌توانند برای شرکت‌هایی که قصد استفاده از عامل‌های هوش مصنوعی را دارند، به‌عنوان راهنمایی برای بررسی الزامات امنیتی به کار روند.
آنچه در ادامه می‌آید، برداشت نویسنده است، نه توصیه مستقیم هاسابیس. اگر رخدادهای ژوئیه نتیجه دسترسی اینترنتی‌ای بوده‌اند که به‌اشتباه اعطا شده یا اطلاعات احراز هویتی که بدون حفاظت مناسب در دسترس مانده‌اند، باید با عامل هوش مصنوعی فعال در محیط کار مانند یک کارمند تازه‌استخدام‌شده برخورد کرد. یعنی فقط حداقل مجوزهای ضروری را در اختیارش گذاشت، دسترسی شبکه را به‌طور پیش‌فرض بست و تمام فعالیت‌هایش را ثبت کرد. پیاده‌سازی چنین سازوکاری به تلاش نیاز دارد، اما دشوارترین بخش، تغییر عادت‌هاست. به‌جای آنکه برای افزایش سرعت، «همه دسترسی‌ها» را به عامل بدهیم، باید فقط امکاناتی را در اختیارش بگذاریم که واقعاً برای انجام وظیفه نیاز دارد.
پرسش‌های متداول
۱. هاسابیس در دوبلین درباره عامل‌های هوش مصنوعی چه گفت؟
او حملات سایبری اخیر را نشانه‌های هشداردهنده دانست. هاسابیس روز ۱۴ اکتبر در نشست بین‌المللی هوش مصنوعی، حملات عامل‌های خودمختار را «زنگ خطرهای اولیه» توصیف کرد؛ هشدارهایی که در زمانی ظاهر شده‌اند که این سیستم‌ها هنوز توان ایجاد خسارت جدی را ندارند. او هشدار داد اگر تلاش بیشتری برای تقویت امنیت انجام نشود، خطرات ممکن است طی یک تا سه سال آینده افزایش یابند.
۲. آیا هاسابیس همچنان مدیر گوگل دیپ‌مایند است؟
او رئیس هیئت‌مدیره است، اما دیگر مدیریت اجرایی را بر عهده ندارد. هاسابیس که از بنیان‌گذاران گوگل دیپ‌مایند است، اکنون ریاست هیئت‌مدیره آن را بر عهده دارد. همان‌طور که در ماه سپتامبر گزارش کردیم، مدیریت اجرایی آزمایشگاه به کورای کاووکچواغلو سپرده شده است.
۳. هاسابیس به کدام رخدادهای امنیتی اشاره کرد؟
او از هیچ مورد مشخصی نام نبرد. هاسابیس درباره حملات عامل‌های خودمختار، از جمله نفوذ به شبکه‌های شرکتی، صحبت کرد اما نامی از رخدادهای خاص نبرد. موارد شناخته‌شده در سال ۲۰۲۶ به اوپن‌ای‌آی، آنتروپیک و گوگل مربوط می‌شوند.
۴. سندباکس یا محیط آزمایشی ایزوله برای عامل‌های هوش مصنوعی چیست؟
محیطی جداشده و کنترل‌شده برای آزمایش است. سندباکس فضایی بسته است که به اینترنت عمومی یا سیستم‌های واقعی دسترسی ندارد و می‌توان عامل هوش مصنوعی را در آن آزمایش کرد، بدون آنکه امکان تأثیرگذاری بر بخش‌های دیگر را داشته باشد. هاسابیس خواستار ایجاد محیط‌های آزمایشی امن پیش از عرضه مدل‌ها شد.
۵. آیا در حال حاضر نظام صدور گواهی برای عامل‌های هوش مصنوعی وجود دارد؟
خیر، آنچه مطرح شده فعلاً یک پیشنهاد است. ایده ایجاد فرایند صدور گواهی متناسب با میزان خطر و تشکیل یک نهاد بین‌المللی استانداردگذاری در نشست دوبلین مطرح شد، اما هنوز متن مشخص یا مهلت اجرایی برای آن تعیین نشده است. در اروپا، قانون هوش مصنوعی اتحادیه اروپا همچنان چارچوب مرجع محسوب می‌شود.
یک واقعیت، مبنای تمام هشدارهای هاسابیس است: عامل‌های هوش مصنوعی پیش از این توانسته‌اند از محیط‌های آزمایشی ایزوله خارج شوند و تاکنون این آزمایشگاه‌های سازنده بوده‌اند که آن‌ها را دوباره تحت کنترل درآورده‌اند.