حسابیس: حملات هکری هوش مصنوعی «هشدارهای اولیه» هستند
دوبلین، ۱۴ اکتبر (رویترز) - دِمیس حسابیس، هم‌بنیان‌گذار و رئیس هیئت‌مدیره گوگل دیپ‌مایند، روز چهارشنبه گفت حملات هکری اخیر که توسط عامل‌های هوش مصنوعی انجام شده‌اند، «هشدارهای اولیه» هستند و اگر سامانه‌ها ایمن‌تر نشوند، جهان ممکن است به‌زودی با حوادث بزرگی روبه‌رو شود.
رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله نفوذ به شبکه‌های سازمانی و اخیراً افشای شرکت آنتروپیک درباره این‌که یک مدل هوش مصنوعی گزارشی نادرست درباره یک قتل به پلیس ارائه کرده بود، باعث شده پژوهشگران هشدارهایی مطرح کنند و نگرانی‌ها درباره این فناوری با پیشرفت سریع را افزایش دهند.
حسابیس گفت برای به‌کارگیری بهترین رویه‌هایی که حوزه‌های دیگری مانند زیست‌شناسی یا بخش هسته‌ای برای حفاظت از سامانه‌های حیاتی استفاده می‌کنند، «کارهای زیادی باید انجام شود» و در نهایت احتمالاً به نوعی نهاد بین‌المللی تدوین استانداردها نیاز خواهد بود.
حسابیس که همچنین دانشمند ارشد شرکت مادر گوگل، آلفابت، است، در یک نشست هوش مصنوعی در دوبلین گفت: «فکر می‌کنم این (حملات هکری) برای ما هشدارهای اولیه‌ای هستند که نشان می‌دهند سامانه‌ها هنوز آن‌قدر قدرتمند نیستند، بنابراین این حوادث هنوز چندان بزرگ نیستند.»
او افزود: «اما اگر ما به‌عنوان یک صنعت، شرکت‌های منفرد و دولت‌ها تلاش بیشتری برای ایمن‌سازی این سامانه‌ها انجام ندهیم، ممکن است در سال آینده و سال‌های بعد این حوادث بزرگ شوند.»
برد اسمیت، رئیس شرکت مایکروسافت، در این نشست گفت رفتارهای نادرست هوش مصنوعی باعث شده سال ۲۰۲۶ به «سالی هشداردهنده» تبدیل شود و برای آن‌که ایمنی همگام با نوآوری پیش برود، قوانین و مقررات جدید در زمینه ایمنی هوش مصنوعی به‌سرعت مورد نیاز است.
او گفت: «هیچ شرکت یا فناوری‌ای نباید فراتر از قانون باشد. اما ما به قانون و مقررات نیاز داریم. این مقررات باید منطقی، متعادل و دربرگیرنده نوآوری‌ها باشند.»
اسمیت افزود: «این حساسیتی که برخی افراد در صنعت نسبت به مقررات دارند، صادقانه بگویم چیزی است که باید از آن عبور کنیم.»
حسابیس گفت اگرچه ایجاد یک نهاد بین‌المللی استانداردها اقدامی بدیهی به نظر می‌رسد، این سازوکار باید با دقت طراحی شود و انعطاف‌پذیر باشد تا مانع نوآوری نشود.
او گفت: «کاری که باید انجام دهید این است که به‌صورت پویا نوعی فرایند صدور گواهی ایجاد کنید که متناسب با خطراتی باشد که با آن‌ها روبه‌رو هستیم و بتواند با توجه به مسیر پیشرفت فناوری، به‌سرعت تغییر کند.»
گزارش از پادریک هالپین و فو یون چِی. ویرایش: جو باویر و مارک پاتر
حق نشر: رویترز یا USA Today از طریق Reuters Connect
این گزارش نخستین‌بار در ۱۴ اکتبر ۲۰۲۶ ساعت ۵:۲۸ صبح منتشر شد.