هشدار درباره کرم‌های هوش مصنوعی و احتمال وقوع حوادث امنیتی بزرگ؛ درخواست‌ها برای افزایش ایمنی در نشست صنعت فناوری
نویسنده: فردریک پوشو | خبرگزاری فرانسه
چهارشنبه ۱۴ اکتبر ۲۰۲۶
از نگرانی درباره کرم‌های هوش مصنوعی که ممکن است حتی یخچال‌های خانگی را آلوده کنند تا هشدار درباره احتمال وقوع حوادث امنیتی «بزرگ» در آینده نزدیک، درخواست‌ها برای در اولویت قرار گرفتن ایمنی در توسعه هوش مصنوعی، بر نشست روز چهارشنبه فعالان این صنعت سایه انداخت.
نگرانی‌ها درباره سازوکارهای ایمنی هوش مصنوعی پس از آن شدت گرفته است که مدل‌های توسعه‌یافته توسط اوپن‌ای‌آی و آنتروپیک در جریان آزمایش‌ها با حوادث امنیتی روبه‌رو شدند. این اتفاقات فشارها برای قانون‌گذاری در حوزه هوش مصنوعی را افزایش داده است.
دمیس هاسابیس، رئیس گوگل دیپ‌مایند، با هشدار درباره رشد سریع توانایی‌های هوش مصنوعی، در نشست دوبلین گفت این اتفاقات در واقع «هشدارهای اولیه» از سوی سامانه‌هایی هستند که هنوز «چندان قدرتمند نیستند».
او گفت: «بنابراین، حوادثی که تاکنون رخ داده‌اند چندان بزرگ نبوده‌اند. اما اگر ما به‌عنوان یک صنعت و همچنین شرکت‌ها و دولت‌ها به‌طور جداگانه، برای ایمن‌سازی این سامانه‌ها تلاش بیشتری نکنیم، ممکن است در سال آینده و یکی دو سال پس از آن با حوادث بسیار جدی‌تری روبه‌رو شویم.»
هاسابیس همچنین گفت احتمالاً بهتر است مدل‌های جدید هوش مصنوعی ابتدا در محیط‌های آزمایشی ایزوله و بدون اتصال به اینترنت، موسوم به «سندباکس»، بررسی شوند. این پیشنهاد پس از آن مطرح شده که مدل‌های برخی شرکت‌های دیگر توانسته‌اند از محیط‌های بسته‌ای که برای ارزیابی توانایی‌هایشان طراحی شده بود، خارج شوند.
از شیر تا کرم‌های هوش مصنوعی
برد اسمیت، رئیس مایکروسافت، نیز خواستار وضع مقررات برای هوش مصنوعی شد. او تأکید کرد که شرکت‌های فعال در این صنعت و دولت‌ها باید «فوراً دست به اقدام بزنند» و برای مهار خطرات مرتبط با هوش مصنوعی، «استانداردهای ایمنی واقعی و مؤثر» تدوین کنند.
اسمیت در این نشست گفت: «برای یک پاکت شیر، مقررات ایمنی بیشتری نسبت به هوش مصنوعی وجود دارد. حتی برای اجاق خانه شما هم مقررات ایمنی بیشتری نسبت به هوش مصنوعی وضع شده است.»
او افزود: «باید بپذیریم که قدرت هوش مصنوعی سریع‌تر از تدابیر ایمنی آن پیشرفت کرده است. اکنون ایمنی باید این فاصله را جبران کند و برای این کار به قوانین و مقررات تازه‌ای در حوزه ایمنی هوش مصنوعی نیاز داریم.»
به گفته اسمیت، عامل‌های هوش مصنوعی باید به سازوکارهای «توقف اضطراری» مجهز شوند تا کاربران بتوانند هنگام وقوع حادثه آن‌ها را فعال کنند. او همچنین خواستار آن شد که ارائه‌دهندگان خدمات هوش مصنوعی از نظر قانونی ملزم به گزارش حوادث امنیتی شوند.
اسمیت برای نشان دادن ابعاد نگرانی‌ها درباره این فناوری، به گزارش تازه‌ای از آنتروپیک اشاره کرد که بر اساس آن، ممکن است تنها چند ماه تا زمانی فاصله داشته باشیم که مدل‌های کوچک هوش مصنوعی رفتاری شبیه کرم‌های رایانه‌ای پیدا کنند و بتوانند با نسخه‌برداری از خود، از یک دستگاه متصل به اینترنت به دستگاه دیگر منتقل شوند.
شرکت‌های فناوری در رقابتی فشرده تلاش می‌کنند هوش مصنوعی قدرتمندتری را مستقیماً در گوشی‌های هوشمند، لپ‌تاپ‌ها، خودروها و لوازم خانگی جای دهند تا پردازش‌های آن به‌جای مراکز داده دوردست، روی خود دستگاه‌ها انجام شود. آنتروپیک هشدار داده است که چنین هوش مصنوعی‌ای ممکن است در نهایت بتواند به‌صورت خودکار از دستگاهی به دستگاه دیگر منتقل شود.
اسمیت در نشست دوبلین با لحنی طنزآمیز گفت: «واقعاً؟ من نمی‌خواهم کرم‌های هوش مصنوعی وارد یخچالم شوند. اصلاً دلم نمی‌خواهد هیچ نوع کرمی در یخچالم باشد و فکر می‌کنم بیشتر مردم هم همین احساس را دارند.»
سرعت پیشرفت و حفظ کنترل
آنتروپیک هشدار داده است که از بین بردن کرم هوش مصنوعی‌ای که بتواند از خود نسخه‌برداری کند، کار دشواری خواهد بود؛ زیرا در چنین شرایطی هیچ کلید خاموش‌کردن مرکزی وجود نخواهد داشت که بتوان با استفاده از آن جلوی گسترش کرم را گرفت.
هنا ویرکونن، مسئول ارشد فناوری اتحادیه اروپا، نیز در این نشست تأکید کرد که شرکت‌های هوش مصنوعی باید زمان بیشتری را صرف آزمایش سامانه‌های خود کنند تا بتوانند کنترل آن‌ها را حفظ کنند.
ویرکونن هنگام ورود به محل برگزاری نشست به خبرنگاران گفت: «رقابت در سطح جهانی آن‌قدر شدید است که به نظر می‌رسد همه شرکت‌ها برای آزمایش واقعی مدل‌های خود، زمان و منابع کافی اختصاص نمی‌دهند.»
او افزود: «این شرکت‌ها باید بتوانند این سامانه‌ها را کنترل کنند.» ویرکونن همچنین یادآور شد که اتحادیه اروپا برای همه شرکت‌های بزرگ هوش مصنوعی درخواست‌هایی ارسال کرده و از آن‌ها خواسته است توضیح دهند چه تدابیری برای تأمین ایمنی و امنیت سامانه‌هایشان در نظر گرفته‌اند.
کمیسیون اروپا در ماه اوت، بر اساس قانون هوش مصنوعی اتحادیه اروپا، اختیارات نظارتی و قانون‌گذاری تازه‌ای به دست آورد. این قانون که گسترده‌ترین مجموعه مقررات جهان برای مهار کاربردهای بالقوه خطرناک هوش مصنوعی به شمار می‌رود، با هدف کنترل خطرات این فناوری تدوین شده است.
با این حال، سارا فرایر، مدیر مالی اوپن‌ای‌آی، هشدار داد که باید میان ایمنی و نوآوری «تعادل» برقرار شود تا مقررات ایمنی به مانعی برای پیشرفت فناوری تبدیل نشوند.
او گفت: «ما می‌خواهیم رویکردی باز داشته باشیم و مطمئن شویم افراد واجد صلاحیت می‌توانند مدل‌ها را بررسی کنند. اما در عین حال باید مراقب باشیم این کار آن‌قدر سرعت ما را کاهش ندهد که در نهایت از کسانی عقب بمانیم که از این فناوری برای اهداف مخرب استفاده می‌کنند.»