آنتروپیک: هوش مصنوعی ممکن است به‌زودی توان «خودتکثیری» روی دستگاه‌های اینترنت اشیا را پیدا کند
آزمایش‌های آنتروپیک نشان می‌دهد مدل‌های کوچک هوش مصنوعی ممکن است تنها چند ماه با رسیدن به سطحی از توانایی فاصله داشته باشند که بتوانند روی دستگاه‌های تجاری اینترنت اشیا (IoT)، مانند فرهای هوشمند و گیرنده‌های تلویزیون اندرویدی متفرقه، خود را تکثیر کنند.
ویلیام ژو، پژوهشگری که در برنامه Anthropic Fellows دانشگاه UCLA حضور داشته و سابقه کارآموزی هوش مصنوعی و یادگیری ماشین در AMD را دارد، و دنیل فریمن، عضو تیم فنی آنتروپیک و مهندس نرم‌افزار پیشین گوگل، این پیش‌بینی را در مطلبی در وبلاگ آنتروپیک مطرح کرده‌اند.
آنها می‌گویند اگر مدل‌های کوچک با همان نرخ تاریخی پیشرفت خود بهبود پیدا کنند، تا پایان سال ۲۰۲۶ به سطح لازم برای این توانایی تکثیر خواهند رسید و مدل‌های کوچک مبتنی بر وزن‌های قابل انتقال نیز ممکن است اندکی پس از آن امکان‌پذیر شوند.
داریو آمودی، مدیرعامل آنتروپیک، بارها درباره خطرهای ناشی از سامانه‌های هوش مصنوعی هشدار داده است. او در مقاله Pacing the Frontier نوشت: «این خطرها شامل از دست دادن کنترل بر سامانه‌های هوش مصنوعی، سوءاستفاده از هوش مصنوعی برای حملات سایبری و زیست‌تروریسم و اختلال شدید اقتصادی است. رقابت مخرب که انگیزه‌های تجاری آن را تشدید می‌کنند، می‌تواند این خطرها را بیشتر کند.»
مانند عامل‌های کدنویسی در سال ۲۰۲۴، اکنون نشانه‌هایی از شکل‌گیری کرم‌های هوش مصنوعی را می‌بینیم.
ویلیام ژو و دنیل فریمن، پژوهشگران آنتروپیک
واقعیت‌های کلیدی:
داریو آمودی، مدیرعامل آنتروپیک، درباره خطرهای هوش مصنوعی هشدار داده است.
آنتروپیک هشدار داده است که هوش مصنوعی ممکن است بتواند روی دستگاه‌های اینترنت اشیا تکثیر شود.
پژوهش‌های پیشین در حوزه هوش مصنوعی نشان داده‌اند عامل‌های هوش مصنوعی می‌توانند مانند یک کرم سایبری عمل کنند؛ یعنی شبکه را بررسی کنند، یک آسیب‌پذیری را مورد بهره‌برداری قرار دهند و وزن‌های مدل را به دستگاه هدف در یک خوشه پردازنده گرافیکی منتقل کنند.
پژوهشگران توضیح می‌دهند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر، امروز نیز می‌توانند بسیاری از مراحل جداگانه فرایند تکثیر را انجام دهند.
به گفته آنها، مدل‌های کوچک هوش مصنوعی ممکن است تنها «چند ماه» با قابلیت خودتکثیری فاصله داشته باشند.
خاموش کردن آن دشوار خواهد بود
این دو پژوهشگر توضیح می‌دهند چنین سامانه‌ای برای خاموش کردن دشوار خواهد بود، زیرا نقطه مرکزی مشخصی برای قطع فعالیت آن وجود ندارد. این هشدار پس از ماه‌ها نگرانی درباره خطرهای بنیادین هوش مصنوعی و احتمال از دست رفتن کنترل انسان بر این فناوری مطرح شده است.
این نگرانی‌ها پس از گزارشی از مؤسسه آلن تورینگ نیز مطرح شده است؛ گزارشی که در مقاله‌ای اخیر اشاره کرد «این احتمال واقع‌بینانه وجود دارد که سامانه‌های هوش مصنوعی ابرهوشمند در پنج سال آینده ظهور کنند و در تمام وظایف شناختی از انسان‌ها پیشی بگیرند.»
پژوهشگران توضیح می‌دهند مدل‌هایی با ۳۰ میلیارد پارامتر یا کمتر هم‌اکنون می‌توانند بسیاری از مراحل جداگانه تکثیر را انجام دهند. این تیم همچنین اجرای استنتاج توزیع‌شده با استفاده از مدل متن‌باز Gemma-26B را روی مجموعه‌ای از گیرنده‌های تلویزیون آزمایش کرده است.
برای مقایسه با مدل‌های بسته و پیشرفته، برخی کارشناسان صنعت که پیش‌تر توسط The Financial Times نقل شده‌اند، گمانه‌زنی کرده‌اند که مدل پرچم‌دار Claude Opus 4.8 آنتروپیک بین ۱.۵ تا ۲ تریلیون پارامتر دارد. این مدل بسیار بزرگ‌تر نمی‌تواند به‌صورت محلی روی سخت‌افزار مصرفی اجرا شود.
یک کرم خودتکثیرشونده
در امنیت سایبری، کرم برنامه‌ای است که بدون دخالت انسان از یک رایانه به رایانه دیگر خود را کپی می‌کند. این دو پژوهشگر می‌گویند تحقیقات پیشین نشان داده است عامل‌های هوش مصنوعی می‌توانند رفتاری مشابه داشته باشند: شبکه خود را بررسی کنند، یک آسیب‌پذیری را اجرا کنند و وزن‌های مدل را در یک خوشه پردازنده گرافیکی به ماشین هدف منتقل کنند.
ویلیام و دنیل می‌نویسند: «چنین کرم هوش مصنوعی می‌تواند هنگام تکثیر، وزن‌های مدل خود را همراه داشته باشد (یا آنها را دوباره از یک مخزن عمومی دریافت کند) و سپس استنتاج را مستقیماً روی سخت‌افزارهای آلوده اجرا کند. در عمل، وزن‌ها به بخشی از محموله بدافزار تبدیل می‌شوند.»
پژوهشگران می‌گویند پردازنده‌های گرافیکی مراکز داده هدفی آشکار و ارزشمند برای چنین بدافزارهایی خواهند بود. آنها هشدار می‌دهند: «اما شتاب‌دهنده‌های گران‌قیمت الزاماً ضروری نیستند.» در این مطلب نشان داده شده است که یک بات‌نت توزیع‌شده از دستگاه‌های اینترنت اشیا که ارزان و معمولاً دارای حفاظت ضعیف هستند، نیز می‌تواند توان پردازشی کافی برای اجرای یک مدل توانمند را فراهم کند.
برای بررسی این فرضیه، پژوهشگران ۱۵ گیرنده تلویزیون اندرویدی متفرقه را با قیمت ۵۵ دلار برای هر دستگاه خریدند، آنها را به یکدیگر متصل کردند و با موفقیت یک مدل هوش مصنوعی ۲۶ میلیارد پارامتری را به‌صورت توزیع‌شده روی آنها اجرا کردند.
«نشانه‌هایی از حیات»
ویلیام و دنیل توضیح می‌دهند برخلاف عامل‌های کدنویسی، این تکثیرکننده‌ها با سرعت‌های تعاملی مورد استفاده در چت‌بات‌ها و ابزارهای کدنویسی کاربرمحور اجرا نخواهند شد.
آنها می‌نویسند: «گسترش این سامانه‌ها آهسته و پایدار خواهد بود و توکن‌ها به‌تدریج از طریق سخت‌افزارهای لبه‌ای منتقل می‌شوند.»
توانایی‌هایی که مدل‌های هوش مصنوعی را به عامل‌های قدرتمند کدنویسی تبدیل می‌کنند، برای وظایف سایبری، از جمله تکثیر خودکار، نیز قابل تعمیم هستند.
آنها می‌نویسند: «مانند عامل‌های کدنویسی در سال ۲۰۲۴، اکنون نشانه‌هایی از شکل‌گیری کرم‌های هوش مصنوعی را می‌بینیم. هنوز یک تکثیرکننده سرکش کامل نداریم، اما عامل‌ها روزبه‌روز توانمندتر می‌شوند تا مراحل جداگانه زنجیره تکثیر را انجام دهند و سازگاری‌های خود را به نسخه‌های بعدی خود منتقل کنند.»
به گفته آنها، مدل‌ها و دستورهای متنی می‌توانند هنگام گسترش، نوعی «تکامل لامارکی» داشته باشند؛ مفهومی علمی که بر اساس آن موجودات می‌توانند ویژگی‌های اکتسابی در طول زندگی خود را به نسل‌های بعدی منتقل کنند.
پژوهشگران می‌نویسند: «مشخص نیست تکثیر خودمختار هوش مصنوعی دقیقاً چه شکلی خواهد داشت. ممکن است یک «کپک لزج دیجیتال» آهسته و توزیع‌شده باشد که روی توان پردازشی نسبتاً ناامن زندگی می‌کند. همچنین ممکن است یک مدل سایبری قدرتمند باشد که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی که برای دریافت اعتبار پردازشی از افراد کلاهبرداری می‌کند.»
[خطرها شامل] از دست دادن کنترل بر سامانه‌های هوش مصنوعی، سوءاستفاده از هوش مصنوعی برای حملات سایبری و زیست‌تروریسم و اختلال شدید اقتصادی است. رقابت مخرب که انگیزه‌های تجاری آن را تشدید می‌کنند، می‌تواند این خطرها را بیشتر کند.
داریو آمودی، مدیرعامل آنتروپیک
آسیب‌پذیری و دفاع
پژوهشگران می‌گویند اگرچه دستگاه‌های اینترنت اشیا مدت‌هاست آسیب‌پذیر بوده‌اند، عامل‌های سبک‌وزن ممکن است بیش از مهاجمان انسانی تمایل داشته باشند زمان و تلاش لازم برای به خطر انداختن بخش بزرگی از توان پردازشی اینترنت اشیا در جهان را صرف کنند.
آنها می‌نویسند: «ظهور تکثیرکننده‌های آهسته همچنین می‌تواند نشانه‌ای برای ظهور نمونه‌های تهاجمی‌تر و سریع‌تر باشد که قادرند به ماشین‌های محافظت‌شده‌تر نفوذ کنند یا در سرقت کلیدهای API مؤثر باشند.»
پژوهشگران اشاره می‌کنند که می‌توان از این تهدید دفاع کرد؛ زیرا این کرم‌های هوش مصنوعی ردپای شبکه‌ای عظیم و چند گیگابایتی ایجاد می‌کنند. ارائه‌دهندگان خدمات اینترنتی می‌توانند ترافیک غیرعادی را شناسایی کنند، با استفاده از تله‌های امنیتی آنها را به دام بیندازند و شبکه‌های آلوده را قرنطینه کنند.