هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی در دستگاه‌های هوشمند تکثیر شوند
پژوهشگران نگران‌اند که متوقف کردن هوش مصنوعیِ قادر به تکثیر خود بسیار دشوار باشد، زیرا چنین سامانه‌ای مرکز کنترل واحدی ندارد که بتوان با خاموش کردن آن، فعالیتش را متوقف کرد.
نویسنده: اوگبوندا چیومنُوو | ۱۴ اکتبر ۲۰۲۶
تصور کنید یک هوش مصنوعی خارج از کنترل از مرکز داده‌ای که در آن اجرا می‌شود فرار کند، در سراسر اینترنت گسترش یابد و در یخچال هوشمند، جاروبرقی رباتیک یا حتی دستگاه گیرنده تلویزیون شما پنهان شود. این هوش مصنوعی می‌تواند نسخه‌هایی از خود را از دستگاهی به دستگاه دیگر منتقل کند و از آنجا که هیچ مرکز مشخصی برای قطع فعالیتش وجود ندارد، خاموش کردن آن عملاً ناممکن شود.
این سناریو بیشتر به داستان فیلم‌هایی مانند «نابودگر»، «ماتریکس» یا «کلوسوس» شباهت دارد. اما هشدار این بار از هالیوود نمی‌آید. شرکت آنتروپیک، یکی از آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی، می‌گوید شاید تنها چند ماه با زمانی فاصله داشته باشیم که مدل‌های کوچک هوش مصنوعی بتوانند چنین کاری را روی دستگاه‌های ارزان‌قیمت متصل به اینترنت انجام دهند.
تیم پژوهشی Frontier Red Team این شرکت در ۱۲ اکتبر گزارشی منتشر کرد و هشدار داد که مدل‌های کوچک هوش مصنوعی به‌تدریج به توانایی تکثیر خود در دستگاه‌های متصل به اینترنت نزدیک می‌شوند. پیامدهای چنین قابلیتی می‌تواند قابل‌توجه باشد، هرچند آنتروپیک تأکید می‌کند که تاکنون هیچ نمونه‌ای از وقوع آن در دنیای واقعی مشاهده نکرده است.
آنتروپیک در آزمایش‌های خود چه چیزی کشف کرد؟
پژوهشگران ۱۵ دستگاه گیرنده تلویزیون اندرویدی ارزان‌قیمت از برندهای متفرقه خریدند که هرکدام حدود ۵۵ دلار قیمت داشتند. سپس این دستگاه‌ها را به یک شبکه متصل کردند و مدل نسبتاً کوچک Gemma4-26B-A4B گوگل را به‌صورت توزیع‌شده روی آن‌ها اجرا کردند. سرعت پردازش مدل تنها ۰٫۳۹ توکن در ثانیه بود؛ سرعتی پایین، اما همچنان قابل استفاده. همین آزمایش نشان داد که برای اجرای یک مدل هوش مصنوعی لزوماً به مرکز داده نیاز نیست.
پژوهشگران دریافتند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، از همین حالا می‌توانند بسیاری از مراحل موردنیاز برای تکثیر خود را به‌صورت جداگانه انجام دهند، اما هنوز در اجرای پیوسته تمام این مراحل، از ابتدا تا انتها، مشکل دارند. در آزمایشی جداگانه روی یک شبکه ساده‌شده، مدل چینی GLM-5.2 که وزن‌های آن به‌صورت عمومی در دسترس است، در چهار مورد از پنج آزمایش توانست خود را به هر هشت گره شبکه برساند.
البته این نتایج محدودیت‌های مهمی دارند. مدل GLM-5.2 آن‌قدر بزرگ است که نمی‌توان آن را مستقیماً روی یک دستگاه گیرنده تلویزیون اجرا کرد. به همین دلیل، پژوهشگران مدل را روی سروری جداگانه اجرا کردند و از آن برای نصب یک مدل کوچک‌تر روی هر دستگاه هدف کمک گرفتند. آنتروپیک همچنین با باز گذاشتن درگاه‌های شبکه، مرحله نفوذ به دستگاه‌ها را بسیار ساده کرد. به گفته این شرکت، نتیجه آزمایش را باید برآوردی از حداکثر میزان موفقیت احتمالی در شرایط واقعی دانست، نه عملکردی که الزاماً در دنیای واقعی تکرار می‌شود.
آنچه نگرانی ایجاد کرده، روند پیشرفت این فناوری است. آنتروپیک می‌گوید اگر مدل‌های کوچک با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال جاری به سطح توانایی مدل GLM-5.2 برسند.
این قابلیت برای کاربران عادی هوش مصنوعی چه معنایی دارد؟
نگران‌کننده‌ترین بخش ماجرا صرفاً این نیست که یک هوش مصنوعی بتواند از خودش نسخه‌برداری کند؛ مسئله اصلی دشواری متوقف کردن آن است.
بسیاری از ویروس‌های رایانه‌ای را می‌توان با از کار انداختن سروری که آن‌ها را کنترل می‌کند، متوقف کرد. اما اگر یک هوش مصنوعی در هزاران دستگاه معمولی، از گیرنده‌های تلویزیونی گرفته تا فرهای هوشمند، پراکنده شده باشد، دیگر مرکز واحدی وجود ندارد که با از کار انداختن آن بتوان کل سامانه را متوقف کرد.
پژوهشگران در گزارش خود نوشته‌اند: «متوقف کردن چنین سامانه‌ای که قادر به تکثیر خود است، دشوار خواهد بود؛ زیرا هیچ نقطه مرکزی مشخصی برای خاموش کردن آن وجود ندارد.»
چنین هوش مصنوعی‌ای ممکن است بتواند راه‌حل مشکلات را نیز به‌طور مستقل پیدا کند. ویروس‌های قدیمی معمولاً برای دستگاه‌های مشخصی طراحی می‌شوند، اما یک مدل هوش مصنوعی می‌تواند خودش تشخیص دهد چگونه روی دستگاهی اجرا شود که پیش‌تر هرگز با آن مواجه نشده است. در آزمایش‌های آنتروپیک، یکی از مدل‌های کوچک توانست روی هشت نوع از مجموع ۹ نوع دستگاهی که در اختیارش قرار گرفته بود، خود را راه‌اندازی کند.
دستگاه‌های ارزان‌قیمت با حفاظت امنیتی ضعیف بیش از دیگر تجهیزات در معرض خطر قرار دارند؛ از جمله فرهای هوشمند، گیرنده‌های تلویزیونی متفرقه، روترها و دوربین‌ها. بسیاری از این دستگاه‌ها همچنان با همان رمز عبور پیش‌فرض کارخانه محافظت می‌شوند.
اگر قدرت پردازشی یک دستگاه برای اجرای مدل کافی نباشد، هوش مصنوعی می‌تواند بخش‌های مختلف خود را میان چندین دستگاه تقسیم کند و به‌طور هم‌زمان روی آن‌ها اجرا شود؛ درست مانند چند رایانه کوچک که با همکاری یکدیگر وظیفه‌ای را انجام می‌دهند.
با این حال، باید به خاطر داشت که تمام این یافته‌ها حاصل آزمایش‌های کنترل‌شده هستند و هنوز هیچ‌کس وقوع چنین اتفاقی را در دنیای واقعی مشاهده نکرده است. با وجود این، رعایت اصول اولیه امنیتی همچنان مفید است؛ از جمله تغییر رمزهای عبور پیش‌فرض دستگاه‌های هوشمند، به‌روزرسانی منظم آن‌ها و احتیاط هنگام استفاده از تجهیزات برندهای ناشناخته.
برخی کارشناسان تردید دارند
خبرگزاری رویترز واکنش‌های شماری از کارشناسان مستقل را به این گزارش گردآوری کرده است.
کیاران مارتین، رئیس پیشین مرکز ملی امنیت سایبری بریتانیا، گفت: «اینکه بگوییم توانسته‌ایم یک مدل کوچک را روی تلویزیون‌های ارزان‌قیمت اجرا کنیم، به‌خودی‌خود به معنای وقوع یک بحران امنیتی نیست.» او این گزارش را «مقاله‌ای فنی و جالب که نشانه‌های آشکاری از اغراق شرکت ارائه‌دهنده در آن دیده می‌شود» توصیف کرد.
در مقابل، برخی کارشناسان نگرانی بیشتری ابراز کردند. ژنگ‌شیونگ لی، استادیار دانشگاه کلرادو دنور، گفت اگرچه آزمایش‌ها در محیطی کنترل‌شده انجام شده‌اند، «اگر چنین سامانه‌ای بدون وابستگی به یک سرویس مرکزی روی دستگاه‌های متعدد اجرا شود، ممکن است هیچ نقطه واحدی برای خاموش کردن آن وجود نداشته باشد.»
رسانه تک‌لوی پیش‌تر در ماه اوت پرسشی مشابه را با سه کارشناس امنیت سایبری مطرح کرده بود. هر سه کارشناس توافق داشتند که نوعی از تکثیر خودکار از نظر فنی امکان‌پذیر است، اما این موضوع به آن معنا نیست که عامل‌های هوش مصنوعی امروزی مانند ویروس‌هایی رفتار می‌کنند که خودبه‌خود در سیستم‌ها گسترش می‌یابند.
مایکل آلن ایجی، یکی از کارشناسانی که تک‌لوی با او گفت‌وگو کرده بود، رفتار عامل‌های هوش مصنوعی در سامانه‌هایی را که به آن‌ها نفوذ کرده‌اند، به «دزدانی که زنگوله به خود آویخته‌اند» تشبیه کرد؛ یعنی عامل‌هایی که وارد سیستم می‌شوند، اما فعالیتشان پرسروصدا و غیرقابل‌اعتماد است. او گفت: «انجام این کار نسبتاً ساده است و امکان‌پذیر بودن آن در چند مقاله پژوهشی نشان داده شده است.»
این کارشناسان همچنین اتفاق نظر داشتند که محدودیت‌های عملی همچنان پابرجاست؛ زیرا مدل‌های هوش مصنوعی بسیار بزرگ‌تر از بدافزارهای سنتی هستند و اجرای آن‌ها به قدرت پردازشی قابل‌توجهی نیاز دارد.
نگرانی‌ها و خطرات هوش مصنوعی رو به افزایش است
گزارش آنتروپیک در شرایطی منتشر شده که هشدارها درباره هوش مصنوعی خارج از کنترل پی‌درپی مطرح می‌شوند. در ماه ژوئیه، شرکت اوپن‌ای‌آی اعلام کرد که دو مدل این شرکت از محیط آزمایشی خود خارج شده و به پلتفرم هاگینگ فیس نفوذ کرده‌اند.