دانشمندان خواستار کنترل‌های سخت‌گیرانه‌تر هوش مصنوعی در پی افزایش نگرانی‌ها درباره خطرات سایبری جهانی شدند
تهران (تسنیم) – بیش از ۳۰۰ دانشمند از ۳۲ کشور با درخواست اعمال کنترل‌های سخت‌گیرانه‌تر بر هوش مصنوعی هشدار داده‌اند که تدابیر امنیتی ناکافی و سامانه‌های هرچه خودمختارتر می‌توانند زیرساخت‌های حیاتی را در معرض حملات سایبری قرار دهند.
در نامه‌ای که روز سه‌شنبه منتشر شد، پژوهشگرانی از دانشگاه‌ها و مؤسسات تحقیقاتی از سازمان‌های توسعه‌دهنده و آزمایش‌کننده سامانه‌های پیشرفته هوش مصنوعی که توانایی انجام حملات سایبری دارند، خواستند تدابیر حفاظتی قوی‌تری اتخاذ کنند؛ از جمله استفاده از محیط‌های «ایزوله از اینترنت» که به آنها محیط‌های «air-gapped» گفته می‌شود.
این دانشمندان اعلام کردند بسیاری از رخدادهای اخیر که در آن مدل‌های هوش مصنوعی از محیط‌های امن خارج شده‌اند، می‌توانستند با رعایت اقدامات پایه‌ای امنیت سایبری پیشگیری شوند. این مسئله نگرانی‌هایی را درباره کافی بودن سازوکارهای حفاظتی فعلی برای مدیریت سامانه‌هایی با توانایی‌های رو به افزایش ایجاد کرده است.
این هشدار در شرایطی مطرح می‌شود که شواهد بیشتری از رفتارهای غیرمنتظره سامانه‌های هوش مصنوعی به دست آمده و نگرانی در صنعت فناوری درباره پیامدهای احتمالی یک حادثه امنیتی بزرگ مرتبط با هوش مصنوعی افزایش یافته است.
روز دوشنبه، شرکت Anthropic هشدار داد که مدل‌های هوش مصنوعی این شرکت ممکن است به‌زودی توانایی ایجاد بدافزارهای خودگسترش‌یابنده را پیدا کنند؛ بدافزارهایی که می‌توانند دستگاه‌های متصل به اینترنت مانند تلویزیون‌های هوشمند، دوربین‌های امنیتی و لوازم خانگی را هدف قرار دهند.
این گزارش اعلام کرد سامانه‌های هوش مصنوعی ممکن است بتوانند بدون دخالت انسان دستگاه‌های ناشناخته را شناسایی کنند، در حالی که مدل‌های کوچک‌تر نیز احتمالا تا پایان سال قادر خواهند بود حملات سایبری خودکار انجام دهند.
چنین بدافزارهایی ممکن است به‌ویژه مهار دشواری داشته باشند، زیرا آلودگی آنها می‌تواند طی چند روز گسترش یابد و به چندین دستگاه منتقل شود، نه اینکه تنها به یک سامانه محدود بماند.
پیامدهای احتمالی حمله به دستگاه‌های متصل، پیش از این در نمونه‌های مربوط به هک‌های متعارف نیز مشاهده شده است.
بر اساس گزارشی که روز دوشنبه توسط الجزیره منتشر شد، در فرانسه هکرها سامانه‌های خنک‌کننده صدها فروشگاه زنجیره‌ای را به خطر انداختند، دما را افزایش دادند و بیش از ۲۲۰ هزار دلار خسارت ایجاد کردند.
در چنین شرایطی، نگرانی درباره تهدیدهای سایبری مبتنی بر هوش مصنوعی به گفت‌وگوهای خصوصی میان مدیران شرکت‌های بزرگ فناوری نیز راه یافته است.
وب‌سایت Axios روز جمعه گزارش داد مدیران شرکت‌هایی مانند Anthropic، OpenAI و دیگر شرکت‌های بزرگ هوش مصنوعی، به‌طور خصوصی خود را برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی آماده می‌کنند؛ حادثه‌ای که می‌تواند دسترسی به خدمات مالی بزرگ، اینترنت و زیرساخت‌های حیاتی مانند سامانه‌های آب و برق را مختل کند.
چند نفر از فعالان صنعت که Axios به آنها استناد کرده است، معتقد بودند وقوع یک حادثه بزرگ ممکن است در بازه زمانی شش ماه تا یک سال آینده رخ دهد.
دانشمندان امضاکننده این نامه خواستار واکنش گسترده‌تر بین‌المللی شده و پیشنهاد کرده‌اند سازمانی برای تدوین بهترین شیوه‌ها در زمینه هم‌راستاسازی و مهار هوش مصنوعی ایجاد شود. آنها همچنین خواستار الزام شرکت‌ها به گزارش سریع رخدادهای مرتبط شده‌اند.
دیوید لی، استاد دپارتمان مهندسی برق و کامپیوتر دانشگاه تورنتو و یکی از امضاکنندگان نامه، گفت نگرانی‌های او پس از آن افزایش یافت که عامل‌های هوش مصنوعی توسعه‌یافته توسط OpenAI توانستند کنترل‌ها را دور بزنند و به سرورهای شرکت فناوری Hugging Face نفوذ کنند.
لی گفت: «یکی از نگرانی‌ها این است که OpenAI هنگام ایجاد محیط آزمایشی خود، توانایی واقعی عامل‌هایش را به‌درستی درک نکرده بود.»
او افزود: «دوم اینکه این عامل‌های هوش مصنوعی به‌طور مستقل یکدیگر را پیدا کردند و تصمیم گرفتند برای انجام این حمله با هم همکاری کنند؛ و سوم اینکه آنها به‌طور عمدی تلاش کردند سازندگان انسانی خود را فریب دهند و گمراه کنند.»
این رخداد پرسش‌هایی را درباره توانایی توسعه‌دهندگان برای پیش‌بینی رفتار عامل‌های پیشرفته هوش مصنوعی در محیط‌های پیچیده ایجاد کرده است؛ به‌ویژه زمانی که این سامانه‌ها می‌توانند به‌طور مستقل آسیب‌پذیری‌ها را شناسایی کنند، با یکدیگر هماهنگ شوند و احتمالا کاربران انسانی خود را فریب دهند.
فراتر از نگرانی‌های فنی، درخواست دانشمندان در شرایطی مطرح شده است که پیش از انتخابات میان‌دوره‌ای کنگره آمریکا، به نظر می‌رسد اعتماد عمومی به توانایی رهبران سیاسی برای مدیریت خطرات هوش مصنوعی محدود است.