هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی در دستگاه‌های خانه هوشمند خودشان را تکثیر کنند
۱۲ اکتبر (رویترز) - شرکت آنتروپیک روز دوشنبه اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی تکثیر خودکار در دستگاه‌های متصل به اینترنت فاصله داشته باشند؛ قابلیتی که می‌تواند امکان گسترش سریع بات‌نت‌های هوش مصنوعی، مقاومت آن‌ها در برابر تلاش‌های حذف و حتی نفوذ به مراکز داده برای افزایش توان پردازشی را مطرح کند.
ماه گذشته، داریو آمودی، مدیرعامل آنتروپیک، برای نخستین بار این احتمال را مطرح کرد که هوش مصنوعی در سال آینده یا حتی زودتر بتواند «کل اینترنت» را با یک «بات‌نت پایدار» تحت کنترل خود درآورد؛ هشداری که واکنش‌هایی را در جامعه امنیت سایبری برانگیخت.
بات‌نت‌ها ــ شبکه‌های گسترده‌ای از دستگاه‌ها که توسط عوامل مخرب کنترل می‌شوند ــ از روزهای نخست اینترنت وجود داشته‌اند و همچنان فعال هستند.
این شبکه‌ها معمولاً شامل دستگاه‌های اینترنت اشیا (IoT) با امنیت ضعیف، مانند گیرنده‌های تلویزیون اندرویدی، لوازم هوشمند خانگی و دوربین‌های امنیتی هستند و هکرها از آن‌ها برای ارسال هرزنامه، انتشار بدافزار یا حمله به شرکت‌های هدف با حجم زیادی از ترافیک جعلی استفاده می‌کنند.
پست وبلاگی آنتروپیک در روز دوشنبه ظاهراً نخستین تلاش این شرکت برای توضیح چگونگی رخ دادن چنین سناریویی بود.
این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند که یک عامل هوش مصنوعی مخرب می‌تواند توان پردازشی دستگاه‌های ارزان‌قیمت متصل به اینترنت را به هم متصل کند تا مدل‌های هوش مصنوعی دیگر را اجرا کند. آنتروپیک همچنین افزود که این مدل‌ها در یک شبکه آزمایشی ساده‌شده توانسته‌اند خود را تکثیر کنند.
این شرکت گفت: «خاموش کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه مرکزی برای قطع کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی سیستم‌های هوش مصنوعی پیشرفته‌تر دامن می‌زند؛ از جمله احتمال خودکار شدن حملات سایبری، فعالیت با نظارت محدود انسانی و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران صنعت و کارکنان شرکت‌های فعال در این حوزه هشدارهای متعددی درباره احتمال وقوع خطرات شدید، حتی خطرات وجودی، در صورت توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
آنتروپیک اعلام کرد آزمایش‌های این شرکت نشان داده‌اند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه موردنیاز برای تکثیر خود را انجام دهند، اما هنوز در تکمیل کل این فرایند به‌صورت قابل اعتماد مشکل دارند.
در آزمایش‌های ساده‌شده‌ای که برخی مراحل امنیتی در آن‌ها حذف شده بود، آنتروپیک دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر توانایی تکثیر کامل از ابتدا تا انتها را دارند.
آنتروپیک گفت اگر مدل‌های کوچک‌تر با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای تکثیر مستقل برسند.
این شرکت افزود یک کرم هوش مصنوعی که روی سخت‌افزارهای کم‌توان اجرا شود، ممکن است برای تکمیل بخش‌هایی از فرایند تکثیر به چند روز زمان نیاز داشته باشد. با این حال، اگر دستگاه‌های آلوده بتوانند تعداد کافی دستگاه دیگر را آلوده کنند، چنین شبکه‌ای می‌تواند به رشد خود ادامه دهد؛ هرچند احتمالاً کندتر از برخی بدافزارهای سنتی خواهد بود.
آنتروپیک همچنین هشدار داد که سیستم‌های آینده ممکن است منابع محاسباتی قدرتمندتری، از جمله پردازنده‌های مراکز داده، را هدف قرار دهند؛ هرچند آزمایش‌های این شرکت نشان نداده‌اند که تکثیر خودکار از طریق مراکز داده تجاری امکان‌پذیر شده باشد.
گزارش از رافائل ساتر در واشنگتن و هارشیتا مری وارگسه در بنگلور؛ گزارش تکمیلی از گارگی گوپتا در بنگلور؛ ویرایش: جانین ونکاترامان و شینجینی گانگولی