آنتروپیک درباره خطر «تکثیر خودکار» مدل‌های هوش مصنوعی روی دستگاه‌های اینترنت اشیا هشدار داد

آنتروپیک اعلام کرده است نتایج جدیدترین آزمایش‌های این شرکت یک تهدید احتمالی تازه در حوزه هوش مصنوعی را آشکار کرده است: مدل‌های کوچک ممکن است طی چند ماه آینده آن‌قدر قدرتمند شوند که بتوانند روی دستگاه‌های اینترنت اشیا، مانند فرهای هوشمند یا گیرنده‌های دیجیتال ارزان‌قیمت، «خود را تکثیر کنند» و بدون دسترسی به مراکز داده فعالیت کنند.

در این مطالعه، تیم پژوهشی بررسی کرد که آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب‌پذیر را شناسایی کنند، خود را تکثیر کنند و این روند را بدون دخالت انسان ادامه دهند یا نه. پژوهشگران دستگاه‌های اینترنت اشیا را به‌عنوان تجهیزات آزمایشی انتخاب کردند، زیرا این دستگاه‌ها معمولاً از امنیت ضعیف‌تری برخوردار هستند.

نتایج نشان داد مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر می‌توانند «مراحل محاسباتی» موردنیاز برای تکثیر خود را انجام دهند، اما در حال حاضر در تکمیل کامل این فرآیند مشکل دارند. با این حال، زمانی که آزمایش‌ها ساده‌تر شد و برخی تدابیر امنیتی حذف شدند، مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرآیند تکثیر خود را به‌طور کامل انجام دهند. همچنین مدلی با ۹ میلیارد پارامتر توانست روی ۸ مورد از ۹ نوع دستگاه آزمایش‌شده اجرا شود.

پژوهشگران معتقدند اگر روند فعلی توسعه ادامه پیدا کند، مدل‌های کوچک‌تر ممکن است تا پایان سال ۲۰۲۶ به سطح لازم برای انجام چنین کاری برسند. ویژگی خاص این نوع حملات آن است که متوقف کردن آن‌ها دشوار خواهد بود، زیرا مدل‌های خودتکثیرشونده یک نقطه کنترل واحد نخواهند داشت که بتوان از طریق آن کل سامانه را خاموش کرد. با این حال، گسترش آن‌ها ممکن است آهسته باشد؛ به‌طوری که دو برابر شدن تعداد نسخه‌ها می‌تواند چند روز زمان ببرد.

آنتروپیک در گزارش خود خواستار تقویت امنیت دستگاه‌ها و آمادگی برای سناریوهایی شد که در آن عامل‌های هوش مصنوعی خودمختار روی تجهیزاتی بدون نظارت کافی فعالیت می‌کنند.