دانشمندان هشدار دادند بدون تغییرات لازم، حملات هکری آسیب‌زاتر هوش مصنوعی در راه است
نوشته آنیا کارادگلیجا، خبرگزاری کانادا
انتشار: ۱۳ اکتبر ۲۰۲۶، ساعت ۴:۰۰ صبح
آخرین به‌روزرسانی: ۱۳ اکتبر ۲۰۲۶، ساعت ۵:۰۲ صبح
اتاوا — ده‌ها پژوهشگر دانشگاهی کانادایی در میان گروهی بین‌المللی از دانشمندان هستند که خواستار اجرای تدابیر بهتر برای مهار مدل‌های هوش مصنوعی شده‌اند.
آنها در نامه‌ای سرگشاده نوشتند: «چندین سازمان، شکست‌های امنیتی مهمی را افشا کرده‌اند؛ مدل‌های هوش مصنوعی آنها توانسته‌اند از محیط‌های ایزوله‌سازی ناکافی عبور کنند و سامانه‌های سازمان‌های خارجی را به خطر بیندازند.»
این نامه که روز سه‌شنبه منتشر شد، هشدار می‌دهد اگر تغییرات فوری در نحوه توسعه و به‌کارگیری هوش مصنوعی ایجاد نشود، «چنین رخدادهایی همچنان ادامه خواهد یافت و حوادث آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی در معرض خطر وارد خواهند کرد.»
دانشمندان می‌گویند انجام پژوهش‌های بیشتر درباره ایمنی هوش مصنوعی، همراه با تمرکز بر فناوری‌ها و روش‌های مهار این سامانه‌ها، ضروری است. آنها همچنین خواستار ایجاد یک نهاد بین‌المللی برای استانداردسازی بهترین شیوه‌های مقابله با این خطرات شده‌اند.
در این نامه آمده است: «در کوتاه‌مدت، باید از سازوکارهای قدرتمند ایزوله‌سازی، از جمله جداسازی کامل از اینترنت (airgapping)، برای ایجاد مهار با اطمینان بالا در مورد مدل‌های هوش مصنوعی دارای توانایی سایبری استفاده شود.»
امضاکنندگان کانادایی این نامه شامل پیشگامان هوش مصنوعی، یوشوا بنجیو و جفری هینتون، همچنین نیکولا پاپرنو و کاترین رژی هستند که برنامه پژوهشی مؤسسه ایمنی هوش مصنوعی کانادا را به‌طور مشترک هدایت می‌کنند. گیلین هادفیلد، استاد دانشگاه جانز هاپکینز که اخیراً به شورای جدید مشورتی هوش مصنوعی نخست‌وزیر مارک کارنی منصوب شده است، نیز در این فهرست قرار دارد.
گزارش‌هایی درباره عامل‌های خودمختار هوش مصنوعی که رفتارهای غیرمنتظره نشان داده‌اند، نگرانی عمومی گسترده‌ای درباره ایمنی این فناوری ایجاد کرده است. شرکت OpenAI در تابستان اعلام کرد عامل‌های هوش مصنوعی این شرکت بدون دستور هیچ انسانی، یک استارتاپ هوش مصنوعی به نام Hugging Face را هک کرده‌اند.
پس از آن، گزارش‌های دیگری منتشر شد. شرکت Anthropic اعلام کرد مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها به سه سازمان دیگر نفوذ کرده‌اند. شرکت Meta نیز اعلام کرد یکی از مدل‌های هوش مصنوعی آن به‌طور مستقل به اینترنت دسترسی پیدا کرده و یک شرکت دیگر را هک کرده است. همچنین گوگل تأیید کرد مدل Gemini این شرکت در آزمایشی برای سنجش توانایی‌های امنیت سایبری خود، سه شرکت را هک کرده است.
یک آزمایشگاه مستقر در سان‌فرانسیسکو که فعالیت‌های هوش مصنوعی را زیر نظر دارد، در گزارشی در ۳۰ سپتامبر اعلام کرد وب‌سایت کتابخانه و آرشیو کانادا یکی از اهداف یک تلاش ناموفق برای هک توسط یک عامل هوش مصنوعی بوده است.
ایوان سلیمان، وزیر هوش مصنوعی کانادا، در ماه سپتامبر گفت با همتایان بین‌المللی خود در گروه هفت درباره ایجاد یک «هیئت ثبات فناوری» برای ارزیابی مدل‌های هوش مصنوعی در مرحله آزمایش گفت‌وگو کرده است.
این گزارش از سوی خبرگزاری کانادا نخستین‌بار در ۱۳ اکتبر ۲۰۲۶ منتشر شد.
آنیا کارادگلیجا، خبرگزاری کانادا