دانشمندان خواستار کنترل‌های سخت‌گیرانه‌تر هوش مصنوعی برای جلوگیری از خطرات سایبری جهانی شدند
این درخواست در حالی مطرح شده است که نظرسنجی‌ها توانایی رهبران سیاسی برای مدیریت خطرات هوش مصنوعی را در آستانه انتخابات میان‌دوره‌ای آمریکا زیر سؤال برده‌اند.
گروهی متشکل از بیش از ۳۰۰ دانشمند از سراسر جهان خواستار تغییرات فوری در نحوه توسعه و به‌کارگیری هوش مصنوعی شده‌اند؛ اقدامی که در پی افزایش نگرانی‌ها درباره رفتارهای غیرقابل پیش‌بینی این فناوری مطرح شده است.
در این نامه که روز سه‌شنبه منتشر شد و پژوهشگرانی از دانشگاه‌ها و مؤسسات تحقیقاتی ۳۲ کشور آن را امضا کرده‌اند، هشدار داده شده است که رعایت نکردن اصول پایه امنیت سایبری می‌تواند به آسیب‌دیدن زیرساخت‌های حیاتی منجر شود.
دانشمندان گفتند بسیاری از حوادث اخیر که در آنها مدل‌های هوش مصنوعی توانسته‌اند از محیط‌های امن خارج شوند، با استفاده از سامانه‌های امنیتی قوی‌تر قابل پیشگیری بودند.
آنها توصیه کردند سازمان‌هایی که سامانه‌های پیشرفته هوش مصنوعی با توانایی انجام حملات سایبری را توسعه و آزمایش می‌کنند، این کار را در محیط‌هایی با کنترل بیشتر انجام دهند؛ از جمله سیستم‌های «ایزوله از شبکه» یا «ایرگپ» که به اینترنت متصل نیستند.
افزایش نگرانی‌ها
این نامه در شرایطی منتشر شده است که نگرانی‌ها درباره توانایی‌های هوش مصنوعی و تأثیر احتمالی آن بر کاربران عادی افزایش یافته است. روز دوشنبه، شرکت Anthropic هشدار داد که مدل‌های هوش مصنوعی این شرکت ممکن است به‌زودی توانایی ایجاد بدافزارهای خودگسترش‌یابنده را پیدا کنند؛ بدافزارهایی که می‌توانند دستگاه‌های متصل به اینترنت، از جمله تلویزیون‌های هوشمند، دوربین‌های امنیتی و لوازم خانگی هوشمند مانند فرها را تحت تأثیر قرار دهند.
این گزارش نشان داد که سامانه‌های هوش مصنوعی می‌توانند بدون دخالت انسان دستگاه‌های ناشناخته را شناسایی کنند. این شرکت که به مدیریت داریو آمودئی اداره می‌شود، هشدار داد مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال توانایی انجام حملات خودکار را داشته باشند.
مهار این بدافزارها ممکن است دشوار باشد، زیرا آنها می‌توانند طی چند روز یک دستگاه را آلوده کنند و به جای باقی ماندن در یک مکان کنترل‌شده، میان چندین دستگاه گسترش یابند.
در اختیار گرفتن کنترل دستگاه‌های متصل به اینترنت می‌تواند پیامدهای فوری داشته باشد. برای نمونه، در فرانسه هکرها سامانه‌های سرمایشی صدها فروشگاه زنجیره‌ای را به خطر انداختند، دمای آنها را افزایش دادند و بیش از ۲۲۰ هزار دلار خسارت ایجاد کردند.
همزمان، سازمان خبری Axios روز جمعه گزارش داد که مدیران شرکت‌های بزرگ هوش مصنوعی از جمله Anthropic و OpenAI به‌طور خصوصی در حال آماده شدن برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی هستند؛ حادثه‌ای که می‌تواند دسترسی به خدمات مالی بزرگ، اینترنت و حتی زیرساخت‌های حیاتی مانند سامانه‌های آب و برق را مختل کند. به گزارش این رسانه، برخی افراد فعال در صنعت معتقدند یک حادثه بزرگ ممکن است طی شش ماه تا یک سال آینده رخ دهد.
دانشمندان همچنین خواستار ایجاد سازوکارهای حفاظتی بیشتر، از جمله تشکیل یک سازمان بین‌المللی برای تدوین مجموعه‌ای از بهترین شیوه‌ها در زمینه هم‌راستاسازی و مهار هوش مصنوعی و همچنین گزارش سریع حوادث شدند.
دیوید لی، یکی از امضاکنندگان نامه و استاد دانشکده مهندسی برق و کامپیوتر دانشگاه تورنتو، گفت نگرانی‌های او پس از آن آغاز شد که عامل‌های هوش مصنوعی OpenAI توانستند کنترل‌ها را دور بزنند و به سرورهای شرکت فناوری Hugging Face نفوذ کنند.
لی گفت: «یکی از نگرانی‌ها این است که OpenAI هنگام ایجاد محیط آزمایشی خود، میزان توانایی عامل‌هایش را به‌درستی درک نکرده بود.»
او افزود: «اینها همان عامل‌های هوش مصنوعی بودند که خودشان طراحی کرده بودند. دوم اینکه این عامل‌ها به‌طور مستقل یکدیگر را پیدا کردند و تصمیم گرفتند برای انجام این حمله با هم همکاری کنند؛ و سوم اینکه آنها عمداً تلاش کردند سازندگان انسانی خود را فریب دهند و اطلاعات نادرست به آنها بدهند.»
فشارهای سیاسی
این نامه نشان‌دهنده افزایش نگرانی عمومی درباره هوش مصنوعی است؛ نگرانی‌هایی که در آستانه انتخابات میان‌دوره‌ای کنگره آمریکا نیز مطرح شده‌اند. یک نظرسنجی اخیر رویترز/ایپسوس نشان داد ۵۷ درصد از رأی‌دهندگان معتقدند دولت دونالد ترامپ خطرات هوش مصنوعی را به اندازه کافی جدی نمی‌گیرد، در حالی که ۵۴ درصد همین نظر را درباره کنگره داشتند.
نظرسنجی AP-NORC نیز نتایج مشابهی نشان داد؛ به‌طوری که حدود ۸۰ درصد از پاسخ‌دهندگان گفتند دولت باید کنترل هوش مصنوعی را در اختیار انسان نگه دارد. پاسخ‌دهندگان همچنین اعتماد کمی به توانایی هر دو حزب سیاسی برای مدیریت این فناوری داشتند: ۳۹ درصد گفتند نمی‌توان به جمهوری‌خواهان یا دموکرات‌ها برای مهار مناسب هوش مصنوعی اعتماد کرد، در حالی که ۲۳ درصد اعتماد بیشتری به دموکرات‌ها و ۲۱ درصد اعتماد بیشتری به جمهوری‌خواهان داشتند.