نگرانی از کرم‌های هوش مصنوعی و احتمال وقوع «حادثه‌ای بزرگ»؛ درخواست‌ها برای افزایش ایمنی در نشست صنعت فناوری
از نگرانی درباره کرم‌های هوش مصنوعی که ممکن است یخچال‌ها را آلوده کنند تا هشدار درباره احتمال وقوع «حوادث بزرگ» امنیتی در آینده، درخواست برای اولویت دادن به ایمنی در توسعه هوش مصنوعی در نشست صنعت فناوری روز چهارشنبه محور اصلی بحث‌ها بود.
نگرانی‌ها درباره سازوکارهای حفاظتی هوش مصنوعی پس از آن افزایش یافت که مدل‌های توسعه‌یافته توسط OpenAI و Anthropic در جریان آزمایش‌ها با رخدادهای امنیتی مواجه شدند؛ موضوعی که فشارها برای قانون‌گذاری درباره این فناوری را افزایش داده است.
دِمیس هاسابیس، رئیس گوگل دیپ‌مایند، هشدار داد که توانایی‌های هوش مصنوعی با سرعت زیادی در حال رشد است. او در این کنفرانس در دوبلین گفت چنین رخدادهایی «هشدارهای اولیه‌ای» هستند که از سوی سیستم‌هایی صادر شده‌اند که «هنوز آن‌قدر قدرتمند نیستند».
هاسابیس گفت: «بنابراین این حوادث چندان بزرگ نیستند. اما اگر در سال آینده و سال‌های بعد، صنعت، شرکت‌ها و دولت‌ها کار بیشتری برای ایمن‌سازی این سیستم‌ها انجام ندهند، ممکن است چنین حوادثی جدی‌تر شوند.»
او افزود که مدل‌های جدید هوش مصنوعی احتمالاً باید ابتدا در محیط‌های آزمایشی آفلاین موسوم به «سندباکس» آزمایش شوند؛ زیرا پیش‌تر مدل‌های شرکت‌های دیگر توانسته بودند از محیط‌های بسته‌ای که برای ارزیابی قابلیت‌هایشان طراحی شده بود خارج شوند.
شیر و کرم‌ها
برد اسمیت، رئیس شرکت مایکروسافت، نیز خواستار قانون‌گذاری شد و گفت صنعت و دولت‌ها باید «با فوریت اقدام کنند» تا «استانداردهای واقعی و مؤثر ایمنی» برای مهار خطرات مرتبط با هوش مصنوعی ایجاد شود.
او در این نشست گفت: «برای یک بسته شیر، قوانین ایمنی بیشتری وجود دارد تا برای هوش مصنوعی. برای فر شما هم قوانین ایمنی بیشتری وجود دارد تا برای هوش مصنوعی.»
اسمیت افزود: «باید بپذیریم که قدرت هوش مصنوعی سریع‌تر از ایمنی آن پیش رفته است. ایمنی باید خود را به این سرعت برساند. و ما به قوانین و مقررات جدیدی برای ایمنی هوش مصنوعی نیاز خواهیم داشت.»
او گفت عامل‌های هوش مصنوعی باید به «ترمزهای ایمنی» مجهز شوند تا کاربران بتوانند هنگام وقوع یک حادثه آنها را فعال کنند. همچنین ارائه‌دهندگان هوش مصنوعی باید ملزم به گزارش رخدادهای امنیتی شوند.
اسمیت برای نشان دادن نگرانی‌ها درباره این فناوری به گزارش اخیر Anthropic اشاره کرد که نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی رفتار شبیه کرم‌های رایانه‌ای فاصله داشته باشند؛ یعنی بتوانند خود را از یک دستگاه متصل به اینترنت به دستگاهی دیگر کپی کنند.
با توجه به اینکه شرکت‌های فناوری در رقابت برای قرار دادن هوش مصنوعی قدرتمندتر در تلفن‌ها، لپ‌تاپ‌ها، خودروها و وسایل خانگی هستند، به جای اجرای این فناوری در مراکز داده دوردست، Anthropic اعلام کرده است که چنین هوش مصنوعی‌ای ممکن است در آینده بتواند به‌صورت مستقل از دستگاهی به دستگاه دیگر منتقل شود.
اسمیت در کنفرانس دوبلین گفت: «واقعاً؟ من نمی‌خواهم کرم‌های هوش مصنوعی در یخچالم باشند. در واقع، اصلاً هیچ نوع کرمی را در یخچالم نمی‌خواهم. و فکر می‌کنم بیشتر مردم هم همین احساس را دارند.»
سرعت و کنترل
یک کرم هوش مصنوعی خودتکثیرشونده به‌سختی قابل مهار خواهد بود، زیرا به گفته Anthropic هیچ کلید مرکزی برای خاموش کردن آن وجود نخواهد داشت.
هنّا ویرکونن، مسئول فناوری اتحادیه اروپا، در این نشست گفت شرکت‌های هوش مصنوعی باید زمان بیشتری برای آزمایش سیستم‌های خود اختصاص دهند تا بتوانند کنترل آنها را حفظ کنند.
ویرکونن هنگام ورود به نشست به خبرنگاران گفت: «رقابت در سطح جهانی آن‌قدر شدید است که به نظر می‌رسد همه شرکت‌ها زمان و منابع کافی را واقعاً برای آزمایش مدل‌های خود اختصاص نمی‌دهند.»
او گفت: «آنها باید بتوانند این سیستم‌ها را کنترل کنند.» و افزود اتحادیه اروپا از همه شرکت‌های بزرگ هوش مصنوعی درخواست اطلاعات کرده است تا مشخص شود چه اقدامات ایمنی و امنیتی در نظر گرفته‌اند.
کمیسیون اروپا در ماه اوت تحت قانون هوش مصنوعی اتحادیه اروپا که گسترده‌ترین مقررات جهان برای محدود کردن کاربردهای بالقوه خطرناک این فناوری به شمار می‌رود، اختیارات نظارتی جدیدی به دست آورد.
با این حال، سارا فریار، مدیر مالی OpenAI، هشدار داد که باید میان ایمنی و نوآوری «تعادل» برقرار شود تا قوانین ایمنی باعث کند شدن روند توسعه نشوند.
او گفت: «ما می‌خواهیم باز باشیم و اطمینان حاصل کنیم که افراد مناسب بتوانند مدل‌ها را بررسی کنند، اما باید مطمئن شویم این روند آن‌قدر ما را کند نمی‌کند که در نهایت از کسانی که در سمت مخرب استفاده از این فناوری هستند عقب بمانیم.»