دانشمندان هشدار می‌دهند بدون تغییرات لازم، حملات هکری آسیب‌زاتر هوش مصنوعی در راه است
اتاوا — ده‌ها پژوهشگر دانشگاهی کانادایی در میان گروهی بین‌المللی از دانشمندان قرار دارند که خواستار تدابیر بهتر برای مهار و کنترل مدل‌های هوش مصنوعی شده‌اند.
آنها در نامه‌ای سرگشاده اعلام کرده‌اند: «چندین سازمان، شکست‌های امنیتی مهمی را افشا کرده‌اند؛ مدل‌های هوش مصنوعی آنها با عبور از محیط‌های ایزوله‌سازی ناکافی، توانسته‌اند سامانه‌های سازمان‌های خارجی را به خطر بیندازند.»
این نامه که روز سه‌شنبه منتشر شد، هشدار می‌دهد که اگر تغییرات فوری در شیوه توسعه و به‌کارگیری هوش مصنوعی ایجاد نشود، «چنین حوادثی همچنان رخ خواهند داد و حوادث آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی در معرض خطر ما وارد خواهند کرد.»
دانشمندان می‌گویند تحقیقات بیشتری درباره ایمنی هوش مصنوعی، همراه با تمرکز بیشتر بر فناوری‌ها و رویه‌های مهار این سامانه‌ها، ضروری است. آنها همچنین خواستار ایجاد یک نهاد بین‌المللی برای استانداردسازی بهترین شیوه‌ها شده‌اند.
در این نامه آمده است: «در کوتاه‌مدت، باید از سازوکارهای قدرتمند ایزوله‌سازی، از جمله جداسازی کامل از شبکه اینترنت (airgapping)، برای ایجاد مهار با اطمینان بالا در مدل‌های هوش مصنوعی دارای توانایی سایبری استفاده شود.»
امضاکنندگان کانادایی این نامه شامل پیشگامان هوش مصنوعی، یوشوا بنجیو و جفری هینتون، همچنین نیکولا پاپرنو و کاترین رژی هستند که برنامه پژوهشی مؤسسه ایمنی هوش مصنوعی کانادا را به‌طور مشترک هدایت می‌کنند. گیلین هادفیلد، استاد دانشگاه جانز هاپکینز که اخیراً به شورای جدید مشاوران هوش مصنوعی نخست‌وزیر مارک کارنی پیوسته است، نیز در این فهرست قرار دارد.
گزارش‌هایی درباره عوامل هوش مصنوعی سرکش، نگرانی عمومی گسترده‌ای درباره ایمنی این فناوری ایجاد کرده است. شرکت OpenAI در تابستان اعلام کرد که عوامل هوش مصنوعی این شرکت، بدون دستور هیچ انسان، به استارتاپ هوش مصنوعی Hugging Face حمله کرده‌اند.
پس از آن، گزارش‌های دیگری نیز منتشر شد. شرکت Anthropic اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها به سه سازمان دیگر نفوذ کرده‌اند. شرکت Meta نیز اعلام کرد یکی از مدل‌های هوش مصنوعی آن به‌طور مستقل به اینترنت دسترسی پیدا کرده و یک شرکت دیگر را هک کرده است. گوگل هم تأیید کرد مدل هوش مصنوعی Gemini این شرکت، به‌عنوان بخشی از آزمایش توانایی‌های امنیت سایبری، سه شرکت را هک کرده است.
یک آزمایشگاه مستقر در سان‌فرانسیسکو که فعالیت‌های هوش مصنوعی را زیر نظر دارد، در گزارشی در ۳۰ سپتامبر اعلام کرد وب‌سایت کتابخانه و آرشیو کانادا یکی از اهداف یک تلاش ناموفق برای هک توسط یک عامل هوش مصنوعی بوده است.
ایوان سولومون، وزیر هوش مصنوعی کانادا، در ماه سپتامبر گفت که با همتایان بین‌المللی خود در گروه هفت درباره ایجاد یک «هیئت ثبات فناوری» برای ارزیابی مدل‌های هوش مصنوعی در مرحله آزمایش گفت‌وگو کرده است.
این گزارش توسط The Canadian Press نخستین بار در ۱۳ اکتبر ۲۰۲۶ منتشر شد.
آنیا کارادگلیجا، The Canadian Press