آنتروپیک هشدار داد مدل‌های هوش مصنوعی ممکن است به‌زودی خودتکثیر شوند و اینترنت را به آشوب بکشند
هشدار جدید شرکت آنتروپیک درباره هوش مصنوعی روز سه‌شنبه در محافل امنیت سایبری بازتاب گسترده‌ای داشت؛ این شرکت یک روز پیش‌تر هشدار داده بود که ممکن است مدل‌های هوش مصنوعی تنها چند ماه با توانایی خودتکثیری در سراسر اینترنت فاصله داشته باشند.
آنتروپیک در مطلبی که اواخر روز دوشنبه منتشر کرد، این احتمال را مطرح کرد که یک هوش مصنوعی سرکش بتواند یک بات‌نت راه‌اندازی کند، به‌سرعت گسترش یابد، در برابر تلاش‌ها برای از کار انداختنش مقاومت کند و حتی با نفوذ به مراکز داده، منابع محاسباتی بیشتری برای رشد خود فراهم کند. برخی کارشناسان روز سه‌شنبه گفتند نگرانی این شرکت را درک می‌کنند، هرچند دست‌کم یکی از آنها معتقد بود آنتروپیک در این زمینه دچار «اغراق یک شرکت عرضه‌کننده» شده است.
مطلب روز دوشنبه جزئیات بیشتری درباره هشدار ماه گذشته داریو آمودی، مدیرعامل آنتروپیک، ارائه کرد. آمودی این احتمال را مطرح کرده بود که هوش مصنوعی ظرف یک سال آینده یا حتی زودتر بتواند «کل اینترنت» را با ایجاد «یک بات‌نت پایدار» در اختیار بگیرد.
کارشناسان امنیت سایبری که با این سناریوی آخرالزمانی مخالفت کردند، استدلال داشتند که مدل‌ها برای جابه‌جایی مؤثر بیش از حد بزرگ هستند و نمی‌توانند به توان محاسباتی کافی برای فعالیت مستقل دسترسی پیدا کنند.
این مطلب برای نخستین بار تلاش کرد توضیح دهد این موانع چگونه ممکن است برطرف شوند. آنتروپیک اعلام کرد آزمایش‌هایش نشان داده‌اند مدل‌های هوش مصنوعی با اندازه متوسط و حداکثر ۳۰ میلیارد پارامتر، همین حالا نیز می‌توانند بسیاری از وظایف منفرد لازم برای خودتکثیری را انجام دهند، هرچند در تکمیل کل فرایند به‌صورت قابل‌اعتماد با مشکل مواجه می‌شوند.
آنتروپیک گفت این مدل‌ها سپس می‌توانند با ربودن دستگاه‌های ارزان‌قیمت متصل به اینترنت، توان محاسباتی موردنیاز را کنار هم جمع کنند. این شرکت افزود که مدل‌ها در یک شبکه آزمایشی ساده‌شده توانسته‌اند خود را تکثیر کنند.
این شرکت گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا نقطه متمرکزی برای قطع آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی مرتبط با سامانه‌های هوش مصنوعی هرچه توانمندتر می‌افزاید؛ از جمله توانایی بالقوه آنها برای خودکارسازی حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌ها باعث شده است مدیران صنعت و کارکنان شرکت‌های هوش مصنوعی مجموعه‌ای از هشدارهای اغلب شدید درباره احتمال بروز خطرات جدی، حتی خطرات وجودی، ناشی از توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
با این حال، برخی کارشناسان امنیت سایبری تردید داشتند.
سیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه توانسته‌ایم یک مدل کوچک را روی تلویزیون‌های ارزان‌قیمت اجرا کنیم، به‌خودی‌خود بحران امنیتی ایجاد نمی‌کند.» او افزود که این مطلب برایش شبیه «یک مقاله فنی جالب با نشانه‌ای قابل‌توجه از اغراق یک شرکت عرضه‌کننده» بوده است.
برخی دیگر نگرانی بیشتری ابراز کردند.
ژنگشیونگ لی، استادیار علوم و مهندسی رایانه در دانشگاه کلرادو دنور، گفت اگرچه آزمایش‌ها در شرایط کنترل‌شده انجام شده‌اند، همچنان نگران‌کننده می‌داند که یک هوش مصنوعی بتواند عملاً به یک «کِرم» تبدیل شود؛ یعنی برنامه‌ای خودتکثیرشونده که بتواند در لحظه، راه‌هایی ابتکاری برای ربودن دستگاه‌ها پیدا کند.
او گفت: «اگر این سامانه بدون وابستگی به یک سرویس مرکزی روی دستگاه‌های زیادی اجرا شود، ممکن است هیچ نقطه واحدی برای متوقف کردن آن وجود نداشته باشد.»
آنتروپیک اعلام کرد اگر مدل‌های کوچک‌تر همچنان با همان نرخ تاریخی خود پیشرفت کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای خودتکثیری مستقل برسند. این شرکت همچنین این احتمال را مطرح کرد که مدل‌ها بتوانند راه‌هایی برای هدف قرار دادن منابع محاسباتی قدرتمندتر، از جمله پردازنده‌های مراکز داده، پیدا کنند؛ منابعی که در صورت دسترسی می‌توانند امکان استفاده از مخازن بسیار بزرگ‌تری از توان محاسباتی را برای آنها فراهم کنند.
یکی از پژوهشگران گفت منطقی‌تر است مطلب آنتروپیک را بیشتر یک فرضیه تلقی کنیم تا یک پیش‌بینی.
جسیکا جی، تحلیلگر ارشد پژوهشی در مرکز امنیت و فناوری‌های نوظهور دانشگاه جورج‌تاون، گفت با توجه به افشاگری‌های سه ماه گذشته درباره فعالیت‌های هوش مصنوعی سرکش، بررسی احتمال تکثیر خودکار مدل‌های هوش مصنوعی منطقی است. با این حال، او تأکید کرد: «هنوز نمی‌دانیم احتمال واقعی وقوع چنین اتفاقی چقدر است؛ این احتمال صفر نیست، اما قطعی هم نیست.»