هشدار آنتروپیک درباره خطرات جدید امنیت سایبری ناشی از هوش مصنوعی خودتکثیرشونده
نویسنده: جاسدیپ سنسی | ۱۵ اکتبر ۲۰۲۶
بر اساس پژوهش جدید شرکت آنتروپیک، مدل‌های هوش مصنوعی ممکن است به‌زودی بتوانند بدون وابستگی به مراکز داده، نسخه‌هایی از خود را روی دستگاه‌های متصل به اینترنت ایجاد کنند و از این طریق گسترش یابند.
یافته‌های این شرکت بزرگ فعال در حوزه هوش مصنوعی نشان می‌دهد که مدل‌های کوچک‌تر به مرحله‌ای نزدیک می‌شوند که بتوانند بدون نیاز به رایانه‌های قدرتمندی که معمولاً برای اجرای هوش مصنوعی پیشرفته استفاده می‌شوند، خود را روی دستگاه‌هایی مانند تلویزیون‌های هوشمند و لوازم خانگی تکثیر کنند.
آنتروپیک در توضیح نتایج این پژوهش اعلام کرد: «آزمایش‌های ما نشان می‌دهد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با دستیابی به توانایی لازم برای تکثیر خودکار روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و دستگاه‌های اندروید تی‌وی ساخت برندهای متفرقه، فاصله داشته باشند.»
این یافته‌ها حاکی از آن است که هوش مصنوعی ممکن است در آینده بتواند به‌صورت مستقل از دستگاهی به دستگاه دیگر منتقل شود و گسترش یابد. چنین قابلیتی می‌تواند چالش‌های تازه‌ای برای متخصصان امنیت سایبری ایجاد کند؛ به‌ویژه برای کسانی که وظیفه شناسایی، ردیابی و مهار این سیستم‌ها را بر عهده دارند. پژوهشگران آنتروپیک برای بررسی این موضوع آزمایش کردند که آیا مدل‌های هوش مصنوعی می‌توانند به‌جای اتکا به مراکز داده، روی تجهیزات الکترونیکی مصرفی ارزان‌قیمت اجرا شوند یا خیر.
در یکی از این آزمایش‌ها، پژوهشگران موفق شدند یک مدل هوش مصنوعی را با استفاده از ۱۵ دستگاه اندروید تی‌وی باکس اجرا کنند که قیمت هرکدام حدود ۵۵ دلار بود. اگرچه این سیستم سرعت پایینی داشت، اما توانست کار کند. نتیجه آزمایش نشان داد که اجرای مدل‌های هوش مصنوعی با دستگاه‌های نسبتاً ارزان‌قیمت نیز امکان‌پذیر است و لزوماً به سخت‌افزارهای تخصصی که معمولاً با هوش مصنوعی پیشرفته ارتباط دارند، نیاز نیست.
پژوهشگران در مرحله بعد بررسی کردند که آیا هوش مصنوعی می‌تواند بدون آنکه فردی در تمام مراحل راهنمایی‌اش کند، خود را روی دستگاه‌هایی که پیش‌تر با آن‌ها آشنا نبوده است راه‌اندازی و پیکربندی کند.
در این آزمایش‌ها، یکی از مدل‌ها توانست خود را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده پیکربندی کند. مدل دیگری نیز در چهار مورد از پنج تلاش انجام‌شده موفق شد نسخه‌هایی از خود را روی هر هشت دستگاه آزمایشی موجود ایجاد کند.
در همین حال، یکی از مهم‌ترین نگرانی‌هایی که این پژوهش مطرح می‌کند، دشواری احتمالی متوقف کردن یک سیستم هوش مصنوعی پس از گسترش آن در میان چندین دستگاه است.
آنتروپیک در این‌باره اعلام کرد: «خاموش کردن چنین سیستم خودتکثیرشونده‌ای دشوار خواهد بود، زیرا نقطه مرکزی مشخصی برای متوقف کردن آن وجود ندارد؛ هرچند ممکن است سرعت گسترش آن پایین باشد و دو برابر شدن تعداد نسخه‌هایش چند روز طول بکشد.»
بااین‌حال، پژوهشگران همچنین بررسی کردند که آیا هوش مصنوعی می‌تواند با استفاده از اطلاعات به‌دست‌آمده از تلاش‌های قبلی، احتمال موفقیت خود را در تلاش‌های بعدی افزایش دهد یا خیر.
نتایج نشان داد زمانی که اطلاعاتی درباره اقدامات موفق و ناموفق پیشین در اختیار مدل‌ها قرار می‌گرفت، عملکرد بهتری داشتند. این یافته نشان می‌دهد که سیستم‌های آینده ممکن است با استفاده از تجربه‌های قبلی، هنگام مواجهه با دستگاه‌های جدید عملکرد مؤثرتری پیدا کنند.