هم‌بنیان‌گذار گوگل دیپ‌مایند: حملات سایبری با عامل‌های هوش مصنوعی زنگ خطر اولیه هستند
دمیس هاسابیس معتقد است حملات سایبری مرتبط با هوش مصنوعی که امسال خبرساز شده‌اند، در مقایسه با خطرات احتمالی آینده چندان بزرگ نیستند. هم‌بنیان‌گذار گوگل دیپ‌مایند روز چهارشنبه در نشست بین‌المللی هوش مصنوعی ایرلند در دوبلین، این حملات را «زنگ خطرهای اولیه» توصیف کرد.
او هشدار داد که اگر تدابیر امنیتی همگام با پیشرفت هوش مصنوعی تقویت نشوند، ممکن است طی یک تا دو سال آینده شاهد حملات بسیار گسترده‌تری باشیم.
هاسابیس که مدیر ارشد علمی آلفابت نیز هست، توضیح داد سامانه‌های هوش مصنوعی کنونی هنوز آن‌قدر قدرتمند نیستند که بتوانند خسارت‌های بزرگی ایجاد کنند. بااین‌حال، نگرانی اصلی او دقیقاً به آینده مربوط می‌شود؛ زیرا هرچه توانایی این سامانه‌ها افزایش یابد، ضعف‌های امنیتی فعلی نیز می‌توانند پیامدهای بسیار جدی‌تری به همراه داشته باشند.
او همچنین تأکید کرد که صنعت هوش مصنوعی، شرکت‌ها و دولت‌ها باید تلاش بیشتری برای تضمین امنیت این سامانه‌ها انجام دهند.
برد اسمیت، رئیس مایکروسافت، نیز در همین نشست به رفتارهای خارج از کنترل هوش مصنوعی اشاره کرد و گفت این اتفاقات باعث شده‌اند سال ۲۰۲۶ به «سالی هشداردهنده و تأمل‌برانگیز» تبدیل شود. او تأکید کرد که برای حفظ ایمنی، قوانین و مقررات باید خود را به سرعت پیشرفت فناوری برسانند.
اسمیت گفت: «هیچ شرکت یا فناوری نباید فراتر از قانون باشد.» او درعین‌حال تأکید کرد که مقررات باید منطقی و متعادل باشند و ضرورت حمایت از نوآوری را نیز در نظر بگیرند.
او همچنین خطاب به فعالان صنعت فناوری گفت شرکت‌هایی که در برابر هرگونه مقررات‌گذاری مقاومت می‌کنند، باید این رویکرد را کنار بگذارند.
اسمیت پیش از آغاز نشست، در گفت‌وگو با خبرنگاران تأکید کرده بود که هوش مصنوعی نیز مانند سایر صنایع به «استانداردهای ایمنی واقعی و مؤثر» نیاز دارد؛ استانداردهایی که مردم بتوانند به آن‌ها اعتماد کنند. او از دولت‌ها و بخش خصوصی خواست برای تحقق این هدف هرچه سریع‌تر اقدام کنند.
نخستین پیشنهاد مایکروسافت این است که سامانه‌های هوش مصنوعی به سازوکارهای داخلی «ترمز ایمنی» مجهز شوند تا کاربران بتوانند در مواقع ضروری از آن‌ها استفاده کنند. اهمیت چنین قابلیتی زمانی بیشتر می‌شود که یک سامانه هوش مصنوعی کنترل زیرساخت‌های حیاتی یا فرایندهای خودکار را بر عهده داشته باشد. اسمیت تأکید کرد که در چنین شرایطی باید امکان خاموش کردن کامل سامانه یا دست‌کم کاهش سرعت عملکرد آن وجود داشته باشد.