هشدار آنتروپیک: مدل‌های هوش مصنوعی ممکن است به‌زودی خود را در دستگاه‌های خانه هوشمند تکثیر کنند
لوگوی آنتروپیک، یک صفحه‌کلید و یک دست رباتیک در این تصویر که در ۵ ژوئن ساخته شده است دیده می‌شود. رویترز-یونهاپ
شرکت آنتروپیک روز دوشنبه اعلام کرد که مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با توانایی خودتکثیری در میان دستگاه‌های متصل به اینترنت فاصله داشته باشند؛ موضوعی که می‌تواند به گسترش سریع بات‌نت‌های هوش مصنوعی، مقابله آن‌ها با تلاش‌های مهار و حتی نفوذ به مراکز داده برای افزایش توان پردازشی‌شان منجر شود.
ماه گذشته، داریو آمودی، مدیرعامل آنتروپیک، برای نخستین بار مطرح کرد که در یک سال آینده یا حتی زودتر، هوش مصنوعی ممکن است بتواند «کل اینترنت» را با ایجاد «یک بات‌نت پایدار» تحت کنترل خود درآورد؛ هشداری که واکنش‌های زیادی را در جامعه امنیت سایبری برانگیخت.
بات‌نت‌ها؛ یعنی شبکه‌های گسترده‌ای از دستگاه‌ها که توسط عوامل مخرب کنترل می‌شوند، از روزهای ابتدایی اینترنت وجود داشته‌اند و همچنان فعال هستند.
این شبکه‌ها معمولاً شامل دستگاه‌های اینترنت اشیا با امنیت ضعیف، مانند گیرنده‌های تلویزیون اندرویدی، لوازم هوشمند خانگی و دوربین‌های امنیتی هستند و هکرها از آن‌ها برای ارسال هرزنامه، انتشار بدافزار یا مختل کردن شرکت‌های هدف با حجم زیادی از ترافیک جعلی استفاده می‌کنند.
پست وبلاگی آنتروپیک در روز دوشنبه ظاهراً نخستین تلاش این شرکت برای توضیح چگونگی وقوع چنین سناریویی بود.
این شرکت اعلام کرد آزمایش‌هایش نشان داده‌اند یک عامل هوش مصنوعی مخرب می‌تواند توان پردازشی دستگاه‌های ارزان‌قیمت متصل به اینترنت را در کنار هم قرار دهد تا مدل‌های هوش مصنوعی دیگر را اجرا کند. آنتروپیک افزود که این مدل‌ها توانسته‌اند در یک شبکه آزمایشی ساده‌شده تکثیر شوند.
«متوقف کردن چنین تکثیرکننده‌ای دشوار خواهد بود، زیرا هیچ نقطه مرکزی برای خاموش کردن آن وجود ندارد.»
این گزارش به نگرانی‌های گسترده‌تر درباره خطرات امنیتی مرتبط با سیستم‌های هوش مصنوعی پیشرفته‌تر می‌افزاید؛ از جمله نگرانی درباره توانایی آن‌ها در خودکارسازی حملات سایبری، فعالیت با نظارت انسانی محدود و دور زدن سازوکارهای حفاظتی.
پیشرفت مدل‌های هوش مصنوعی باعث شده است مدیران صنعت و کارکنان شرکت‌های فعال در این حوزه هشدارهای متعددی درباره احتمال بروز خطرات شدید، حتی خطرات وجودی، در صورت توسعه کنترل‌نشده هوش مصنوعی مطرح کنند.
آنتروپیک گفت آزمایش‌های این شرکت نشان داده‌اند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، هم‌اکنون می‌توانند بسیاری از وظایف جداگانه مورد نیاز برای خودتکثیری را انجام دهند، هرچند هنوز در تکمیل کل فرایند به‌طور قابل اعتماد مشکل دارند.
آنتروپیک در آزمایش‌های ساده‌شده خود که در آن برخی مراحل امنیتی حذف شده بود، دریافت که مدل GLM-5.2 و مدل‌های قدرتمندتر توانایی تکثیر کامل از ابتدا تا انتها را دارند.
این شرکت اعلام کرد اگر مدل‌های کوچک‌تر با همان سرعت تاریخی خود بهبود پیدا کنند، ممکن است تا پایان سال ۲۰۲۶ به توانایی لازم برای خودتکثیری مستقل برسند.
آنتروپیک گفت یک کرم هوش مصنوعی که روی سخت‌افزارهای کم‌توان اجرا شود، ممکن است برای تکمیل برخی مراحل تکثیر به چند روز زمان نیاز داشته باشد. این شرکت افزود چنین شبکه‌ای می‌تواند با سرعتی کمتر از برخی بدافزارهای معمولی همچنان رشد کند، به شرط آنکه دستگاه‌های آلوده بتوانند تعداد کافی دستگاه دیگر را آلوده کنند.
آنتروپیک همچنین هشدار داد سیستم‌های آینده ممکن است منابع پردازشی قدرتمندتری، از جمله پردازنده‌های مراکز داده، را هدف قرار دهند؛ هرچند آزمایش‌های این شرکت نشان نداده‌اند که تکثیر مستقل از طریق مراکز داده تجاری امکان‌پذیر شده است.