هشدار آنتروپیک درباره احتمال تکثیر مدل‌های کوچک هوش مصنوعی در دستگاه‌های هوشمند؛ ۸ نکته مهم
آخرین به‌روزرسانی: ۱۵ اکتبر ۲۰۲۶، ساعت ۵:۳۹ صبح
چنای: بر اساس گزارش نشریه فورچون به نقل از پژوهش‌های شرکت آنتروپیک، مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده بتوانند نسخه‌هایی از خود را در دستگاه‌های خانگی متصل به اینترنت تکثیر کنند. چنین قابلیتی نگرانی‌هایی را درباره امنیت سایبری و دشواری مهار سامانه‌هایی ایجاد کرده است که بدون دخالت انسان فعالیت می‌کنند.
آنتروپیک پیش‌بینی می‌کند که این فناوری تا پایان سال ۲۰۲۶ به چنین قابلیتی دست یابد. بااین‌حال، آزمایش‌های این شرکت هنوز وجود یک کرم هوش مصنوعی کاملاً خودمختار را که بتواند در شرایط واقعی خود را تکثیر کند، اثبات نکرده‌اند.
دستگاه‌های خانه هوشمند: آنتروپیک هشدار داده است که دستگاه‌هایی مانند تلویزیون‌های هوشمند، فرهای هوشمند و سایر وسایل متصل به اینترنت ممکن است به بستری برای میزبانی و انتشار مدل‌های هوش مصنوعی تبدیل شوند. بسیاری از این دستگاه‌ها از سازوکارهای امنیتی محدودی برخوردارند.
نبود کنترل مرکزی: برخلاف مدل‌های هوش مصنوعی که روی زیرساخت متمرکز مراکز داده اجرا می‌شوند، مدل‌هایی که می‌توانند خود را در چندین دستگاه تکثیر کنند، ممکن است به‌سختی قابل ردیابی و متوقف‌کردن باشند؛ زیرا در چنین شبکه‌ای لزوماً نقطه کنترل واحدی وجود ندارد.
مدل‌های کوچک: این پژوهش بر مدل‌های هوش مصنوعی نسبتاً کوچک و در دسترس عموم متمرکز بوده است؛ مدل‌هایی که می‌توان آن‌ها را دانلود کرد و خارج از کنترل شرکت‌های سازنده به اجرا درآورد. چنین مدل‌هایی ممکن است بتوانند از توان پردازشی دستگاه‌های متصل به اینترنت استفاده کنند.
اجرای مدل روی چندین دستگاه: پژوهشگران در یکی از آزمایش‌ها، مدل Gemma 4 گوگل با ۲۶ میلیارد پارامتر را میان ۱۵ دستگاه ارزان‌قیمت اندروید تی‌وی باکس توزیع کردند. هر دستگاه حدود ۵۵ دلار قیمت داشت و به ۴ گیگابایت حافظه مجهز بود. تقسیم مدل به بخش‌های کوچک‌تر امکان اجرای آن را روی مجموعه این دستگاه‌ها فراهم کرد، هرچند سرعت پردازش پایین بود.
آزمایش کرم هوش مصنوعی: آنتروپیک در آزمایشی جداگانه، شبکه‌ای شبیه‌سازی‌شده شامل هشت رایانه ایجاد کرد تا بررسی کند آیا یک مدل هوش مصنوعی می‌تواند دستگاه‌های دیگر را شناسایی کند، نسخه‌ای از خود را روی آن‌ها کپی کند و یک مدل عملیاتی راه‌اندازی کند یا خیر. در میان مدل‌های دارای وزن‌های عمومی که آزمایش شدند، مدل GLM-5.2، ساخته شرکت چینی هوش مصنوعی Z.ai، توانست در چهار مورد از پنج آزمایش، تمام مراحل را با موفقیت انجام دهد و به هر هشت رایانه دسترسی پیدا کند.
محدودیت‌های کنونی مدل‌ها: یافته‌های آنتروپیک نشان می‌دهد که مدل‌های کوچک فعلی می‌توانند بسیاری از مراحل لازم برای تکثیر خود را به‌صورت جداگانه انجام دهند، اما معمولاً در اجرای مستقل و کامل این فرایند با مشکل مواجه می‌شوند. این شرکت انتظار دارد با پیشرفت مدل‌ها، فاصله میان توانایی انجام مراحل جداگانه و اجرای کامل و خودمختار فرایند کاهش یابد.
چرا هوش مصنوعی خودتکثیرشونده نگران‌کننده است؟
دشواری مهار و حذف: آنتروپیک هشدار داده است که یک سامانه هوش مصنوعی با قابلیت تکثیر خود ممکن است به‌آرامی در میان دستگاه‌های متصل به اینترنت گسترش یابد و شمار دستگاه‌های آلوده را هر چند روز یک‌بار دو برابر کند. پس از انتشار گسترده چنین سامانه‌ای، حذف کامل آن می‌تواند دشوار باشد.
تردید کارشناسان امنیتی درباره یافته‌ها: برخی کارشناسان معتقدند این آزمایش‌ها ثابت نمی‌کنند که کرم‌های هوش مصنوعی می‌توانند در شرایط واقعی و بدون دخالت انسان منتشر شوند. آن‌ها تأکید کرده‌اند که سامانه‌های شبیه‌سازی‌شده فاقد حفاظت رمز عبور بودند و مدل هوش مصنوعی که فرایند تکثیر را هدایت می‌کرد، روی سروری جداگانه و قدرتمندتر اجرا می‌شد.