آنتروپیک هشدار می‌دهد: مدل‌های کوچک هوش مصنوعی ممکن است تا پایان سال ۲۰۲۶ توانایی تکثیر خود را پیدا کنند
نویسنده: جورج تساگکاراکیس
تا امروز، نگرانی از اینکه هوش مصنوعی بتواند خودش را از یک دستگاه به دستگاه دیگر در سراسر اینترنت کپی کند، بیشتر در حد فرضیه‌های نظری بوده است. اکنون شرکت آنتروپیک برای تحقق احتمالی این سناریو بازه زمانی تقریبی مشخصی مطرح کرده است. به گفته این شرکت، اگر مدل‌های کوچک هوش مصنوعی با سرعت فعلی به پیشرفت خود ادامه دهند، ممکن است تا پایان سال ۲۰۲۶ بتوانند نسخه‌هایی از خود را روی دستگاه‌های متصل به شبکه کپی کنند و گسترش دهند.
آزمایش‌های آنتروپیک بر مجموعه‌ای از سرورها در مراکز داده متمرکز نبود. در عوض، این پژوهش دستگاه‌های اندروید تی‌وی و تجهیزات خانه هوشمند را هدف قرار داد؛ ابزارهای ارزان‌قیمتی که اغلب سال‌ها در گوشه‌ای از خانه باقی می‌مانند، بی‌آنکه کسی وضعیت امنیتی آن‌ها را بررسی کند.
مدل‌های کوچک می‌توانند مراحل جداگانه را انجام دهند، اما هنوز در اجرای کل فرایند مشکل دارند
پژوهش بر پرسشی مشخص تمرکز داشت: آیا یک سامانه هوش مصنوعی می‌تواند دستگاه‌های آسیب‌پذیر را پیدا کند، نسخه‌هایی از خود را روی آن‌ها نصب کند و بدون هیچ‌گونه دخالت انسانی به گسترش خود ادامه دهد؟
نتایج مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر متفاوت بود. این مدل‌ها توانستند مراحل جداگانه فرایند را به پایان برسانند، اما در پیوند دادن همه مراحل و اجرای یکپارچه کل فرایند با مشکل روبه‌رو شدند.
سامانه‌های بزرگ‌تر عملکرد بهتری داشتند. مدل GLM-5.2 و مدل‌های قدرتمندتر توانستند فرایند تکثیر خود را از ابتدا تا انتها اجرا کنند. بااین‌حال، این موفقیت فقط در آزمایش‌های ساده‌شده‌ای به دست آمد که در آن‌ها برخی تدابیر امنیتی حذف شده بود.
پیش از نگرانی، محدودیت‌های نتایج را در نظر بگیرید
این شرط اهمیت زیادی دارد. اگر یک مدل فقط پس از حذف برخی لایه‌های دفاعی بتواند چنین کاری را انجام دهد، هنوز ثابت نکرده است که می‌تواند به شبکه‌ای با تدابیر امنیتی کامل نفوذ کند. بااین‌حال، یافته‌ها نشان می‌دهند فاصله میان توانایی انجام تک‌تک مراحل و توانایی اجرای همه آن‌ها به‌صورت یکپارچه در حال کاهش است.
پیش‌بینی مربوط به اواخر سال ۲۰۲۶ بر یک فرض اساسی تکیه دارد: مدل‌های کوچک باید با همان سرعت کنونی به پیشرفت ادامه دهند. آنتروپیک در بیان این احتمال از واژه «ممکن است» استفاده کرده است؛ قیدی که نقش مهمی در درک درست این پیش‌بینی دارد.
گسترشی آهسته که متوقف کردن آن دشوار خواهد بود
حتی اگر تکثیر خودکار هوش مصنوعی محقق شود، آنتروپیک پیش‌بینی نمی‌کند که این اتفاق به‌سرعت و در ابعادی گسترده رخ دهد. به ارزیابی این شرکت، گسترش احتمالی به‌آرامی صورت خواهد گرفت و به منابع محاسباتی در دسترس عموم وابسته خواهد بود؛ منابعی که از استانداردهای امنیتی پایینی برخوردارند.
مهار این فرایند چالش دشوارتری است. آنتروپیک هشدار داده که بدون یک «کلید خاموش‌سازی» مرکزی، کنترل و متوقف کردن این مدل‌ها دشوار خواهد بود. وقتی نسخه‌ای از یک مدل روی دستگاهی اجرا شود که کنترل آن در اختیار شما نیست، دیگر نقطه واحدی وجود ندارد که بتوان از طریق آن همه نسخه‌ها را خاموش کرد.
راهکاری که آنتروپیک پیشنهاد می‌کند، افزودن قابلیت ایمنی جدیدی به خود مدل‌ها نیست. این شرکت در عوض خواستار تقویت امنیت دستگاه‌ها در همه‌جا شده است؛ رویکردی که بخش بزرگی از مسئولیت را بر دوش تولیدکنندگان سخت‌افزار و صاحبان دستگاه‌ها می‌گذارد.
توصیه عملی ساده است: اگر در شبکه خانگی خود دستگاه اندروید تی‌وی یا هاب خانه هوشمندی دارید که از زمان خرید آن هیچ به‌روزرسانی میان‌افزاری دریافت نکرده است، دقیقاً با همان نوع سخت‌افزاری سروکار دارید که این پژوهش به آن اشاره می‌کند. چنین دستگاهی را به‌روزرسانی کنید یا اتصال آن را به شبکه قطع کنید.