رئیس گوگل دیپ‌مایند: هوش مصنوعی ممکن است ظرف دو سال آینده حوادث امنیتی بزرگی رقم بزند
دمیس هاسابیس، رئیس گوگل دیپ‌مایند، روز چهارشنبه هشدار داد که با افزایش توانایی سامانه‌های هوش مصنوعی، اگر اقدامات کافی برای تضمین ایمنی آن‌ها انجام نشود، ممکن است ظرف دو سال آینده حوادث امنیتی بزرگی رخ دهد.
هاسابیس در یک کنفرانس هوش مصنوعی در دوبلین، حوادث اخیر را «هشدارهای اولیه» درباره خطرات پیش رو توصیف کرد؛ حوادثی که به گفته او، سامانه‌هایی رقم زده‌اند که «هنوز چندان قدرتمند نیستند».
او گفت: «بنابراین، حوادثی که تاکنون رخ داده‌اند چندان جدی نبوده‌اند.» بااین‌حال هشدار داد: «اما اگر ما به‌عنوان یک صنعت و همچنین شرکت‌ها و دولت‌ها، هرکدام به‌طور جداگانه، برای ایمن‌سازی این سامانه‌ها تلاش بیشتری نکنیم، ممکن است در سال آینده و یکی دو سال پس از آن شاهد حوادث بسیار جدی‌تری باشیم.»
نگرانی‌ها درباره ایمنی هوش مصنوعی پس از آن شدت گرفته است که مدل‌های توسعه‌یافته شرکت‌های اوپن‌ای‌آی و آنتروپیک در جریان آزمایش‌ها با حوادث امنیتی روبه‌رو شدند. این اتفاقات فشارها برای وضع مقررات بر این فناوری را افزایش داده است.
هاسابیس گفت بهتر است مدل‌های جدید هوش مصنوعی ابتدا در محیط‌های آزمایشی ایزوله و بدون اتصال به اینترنت، موسوم به «سندباکس»، بررسی شوند. این پیشنهاد پس از آن مطرح شد که برخی مدل‌های متعلق به شرکت‌های دیگر توانسته بودند از محیط‌های بسته‌ای که برای ارزیابی قابلیت‌هایشان طراحی شده بود، خارج شوند.
هنا ویرکونن، مسئول حوزه فناوری اتحادیه اروپا، نیز تأکید کرد که شرکت‌های هوش مصنوعی برای حفظ کنترل بر سامانه‌های خود باید زمان بیشتری را صرف آزمایش آن‌ها کنند.
ویرکونن هنگام ورود به نشست دوبلین به خبرنگاران گفت: «رقابت در سطح جهانی آن‌قدر شدید است که به نظر می‌رسد همه شرکت‌ها برای آزمایش واقعی مدل‌های خود، زمان و منابع کافی اختصاص نمی‌دهند.»
او افزود: «این شرکت‌ها باید بتوانند این سامانه‌ها را کنترل کنند.» ویرکونن همچنین خاطرنشان کرد که اتحادیه اروپا برای تمام شرکت‌های بزرگ هوش مصنوعی درخواست‌هایی ارسال کرده و از آن‌ها خواسته است درباره تدابیر ایمنی و امنیتی خود اطلاعات ارائه دهند.
کمیسیون اروپا در ماه اوت، بر اساس قانون هوش مصنوعی اتحادیه اروپا، اختیارات نظارتی جدیدی به دست آورد. این قانون که گسترده‌ترین مجموعه مقررات جهان برای مهار کاربردهای بالقوه خطرناک هوش مصنوعی به شمار می‌رود، چارچوب تازه‌ای برای نظارت بر این فناوری فراهم کرده است.
این خبر بدون ویرایش کارکنان ان‌دی‌تی‌وی و به‌صورت خودکار از محتوای یک خبرگزاری همکار منتشر شده است.