حسابیس: هک‌های هوش مصنوعی «هشدارهای اولیه» هستند
عکس آرشیوی: عبارت «امنیت سایبری هوش مصنوعی»، یک صفحه‌کلید و دست رباتیک در این تصویرسازی که در ۲۳ سپتامبر ۲۰۲۶ گرفته شده است. رویترز/دادو روویچ/تصویرسازی/عکس آرشیوی
دوبلین، ۱۴ اکتبر: دِمیس حسابیس، هم‌بنیان‌گذار و رئیس هیئت‌مدیره گوگل دیپ‌مایند، روز چهارشنبه گفت حملات هکری اخیر که توسط عامل‌های هوش مصنوعی انجام شده‌اند، «هشدارهای اولیه» هستند و اگر سامانه‌ها ایمن‌تر نشوند، جهان ممکن است به‌زودی با رخدادهای بزرگی روبه‌رو شود.
رفتارهای خارج از کنترل عامل‌های هوش مصنوعی، از جمله نفوذ به شبکه‌های سازمانی و اخیراً افشای شرکت آنتروپیک درباره اینکه یک مدل هوش مصنوعی گزارشی جعلی از یک قتل به پلیس ارائه کرده بود، باعث افزایش هشدارهای پژوهشگران و نگرانی‌ها درباره این فناوری با سرعت پیشرفت بالا شده است.
حسابیس گفت برای به‌کارگیری بهترین روش‌هایی که حوزه‌های دیگری مانند زیست‌شناسی یا بخش هسته‌ای برای حفاظت از سامانه‌های حیاتی استفاده می‌کنند، «کار زیادی باقی مانده است» و در نهایت به نوعی نهاد استانداردگذاری بین‌المللی نیاز خواهد بود.
او که دانشمند ارشد شرکت مادر گوگل، آلفابت، نیز هست، در نشست هوش مصنوعی در دوبلین گفت: «فکر می‌کنم این (حملات هکری) برای ما هشدارهای اولیه هستند؛ زیرا سامانه‌ها هنوز آن‌قدر قدرتمند نیستند و به همین دلیل این رخدادها هنوز آن‌قدر بزرگ نیستند.»
او افزود: «اما اگر در صنعت، در شرکت‌های مختلف و در دولت‌ها کار بیشتری برای ایمن‌سازی این سامانه‌ها انجام ندهیم، ممکن است در سال آینده و سال‌های بعد با رخدادهای (بزرگ) روبه‌رو شویم.»
برد اسمیت، رئیس مایکروسافت، نیز در این نشست گفت رفتارهای غیرقابل پیش‌بینی هوش مصنوعی باعث شده سال ۲۰۲۶ به «سالی هشداردهنده» تبدیل شود و برای همگام شدن ایمنی با نوآوری، قوانین و مقررات جدید در زمینه ایمنی هوش مصنوعی فوراً مورد نیاز است.
او گفت: «هیچ شرکت یا فناوری‌ای نباید فراتر از قانون باشد. اما ما به قانون نیاز داریم، به مقررات نیاز داریم. این مقررات باید منطقی، متعادل و متناسب با نوآوری‌ها باشند.»
اسمیت افزود: «این حساسیت منفی که برخی افراد در صنعت نسبت به مقررات دارند، صادقانه بگویم چیزی است که باید از آن عبور کنیم.»
حسابیس گفت اگرچه ایجاد یک نهاد استانداردگذاری بین‌المللی اقدامی بدیهی به نظر می‌رسد، اما چنین نهادی باید با ظرافت و انعطاف عمل کند تا مانع نوآوری نشود.
او گفت: «کاری که باید انجام دهید این است که یک فرایند صدور گواهی را به‌صورت پویا ایجاد کنید؛ فرایندی که متناسب با خطراتی باشد که مشاهده می‌کنیم و بتواند با توجه به مسیر پیشرفت فناوری، به‌سرعت تغییر کند.»
منبع: رویترز