پژوهش Anthropic از خطر هوش مصنوعی خودتکثیرشونده فراتر از مراکز داده خبر می‌دهد
بر اساس پژوهشی که Anthropic در ۱۲ اکتبر منتشر کرد، سامانه‌های هوش مصنوعی که قادر به انتشار در میان دستگاه‌های متصل هستند، ممکن است دیگر به سخت‌افزارهای قدرتمند مراکز داده نیاز نداشته باشند. این آزمایش‌ها نشان می‌دهد مدل‌های کوچک‌تر به توانایی‌هایی نزدیک می‌شوند که برای تکثیر خودکار لازم است؛ هرچند پژوهشگران هنوز یک تکثیرکننده سرکش و کامل را به نمایش نگذاشته‌اند.
ویلیام ژو و دنیل فریمن، پژوهشگران این مطالعه، یک مدل ۲۶ میلیارد پارامتری را روی ۱۵ دستگاه Android TV Box ارزان‌قیمت اجرا کردند که قیمت هرکدام حدود ۵۵ دلار بود. در آزمایشی جداگانه نیز یک مدل ۹ میلیارد پارامتری توانست فرایند استنتاج، یعنی اجرای یک مدل هوش مصنوعی، را روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده راه‌اندازی کند.
نتایج مربوط به تکثیر، محدودیت‌های مهمی دارد. مدل GLM-5.2 در چهار مورد از پنج آزمایش، به تمام هشت گره موجود در یک محیط آزمایشی کنترل‌شده دست یافت. با این حال، دسترسی به دستگاه‌ها عمداً ساده‌سازی شده بود و خود مدل هوش مصنوعی روی یک سرور جداگانه اجرا می‌شد. بنابراین این آزمایش توانایی تکثیر در شرایط مساعد را اندازه‌گیری کرد، نه اینکه وجود یک سامانه هوش مصنوعی مستقل و در حال انتشار روی دستگاه‌های مصرفی را ثابت کند.
پژوهشگران نوشتند: «ما هنوز یک تکثیرکننده سرکش کامل نداریم.» برآورد آن‌ها درباره امکان ظهور مدل‌های کوچک اما به‌اندازه کافی توانمند تا پایان سال ۲۰۲۶، بر روندهای تاریخی پیشرفت قابلیت‌های هوش مصنوعی استوار است، نه بر یک زمان‌بندی تأییدشده برای استقرار چنین سامانه‌ای.
این یافته‌ها بر پژوهش‌های پیشین مورد استناد Anthropic نیز تکیه دارد. یک پیش‌چاپ پژوهشی در ماه ژوئن با عنوان AI Agents Enable Adaptive Computer Worms، از یک کرم آزمایشی خبر داده بود که با استفاده از هوش مصنوعی، راهبردهای حمله متناسب با ماشین‌هایی که با آن‌ها مواجه می‌شدند توسعه می‌داد. نویسندگان این پژوهش، انتشار این کرم را در شبکه‌ای شامل دستگاه‌های لینوکس، ویندوز و اینترنت اشیا آزمایش کردند و از آسیب‌پذیری‌های رایج شبکه‌های سازمانی بهره گرفتند. دستگاه‌های آلوده نیز منابع محاسباتی لازم برای اجرای مدل‌های متن‌باز و پشتیبانی از حملات بعدی را فراهم می‌کردند.
این پژوهش پیشین نشان می‌دهد چرا محققان میان کرم‌های مبتنی بر هوش مصنوعی و بدافزارهای سنتی تفاوت قائل می‌شوند. کرم‌های معمولی اغلب به آسیب‌پذیری‌های از پیش تعیین‌شده وابسته‌اند، اما یک عامل هوش مصنوعی می‌تواند محیط ناشناخته را تفسیر کند و برای هدف موردنظر خود رویکردی ایجاد کند؛ موضوعی که می‌تواند ماهیت چالش پیش روی مدافعان امنیتی را تغییر دهد. نویسندگان پیش‌چاپ همچنین استدلال کردند سامانه‌هایی که روی سخت‌افزارهای آلوده اجرا می‌شوند، خارج از کنترل‌های معمول ارائه‌دهندگان تجاری هوش مصنوعی، از جمله محدودیت‌های استفاده و رد درخواست‌های سرویس، قرار خواهند گرفت.
در مجموع، این مطالعات به یک مسئله امنیتی اشاره می‌کنند که فراتر از زیرساخت متمرکز هوش مصنوعی است. برای سازمان‌ها، پیام عملی این است که امنیت دستگاه‌های متصل باید در کنار حاکمیت و مدیریت مدل‌های هوش مصنوعی مورد توجه قرار گیرد؛ زیرا سخت‌افزاری که در راهبرد هوش مصنوعی یک شرکت نقش اصلی ندارد، همچنان ممکن است به بخشی از شبکه محاسباتی یک مهاجم تبدیل شود.