هراس از خودتکثیری هوش مصنوعی Anthropic با واکنش تردیدآمیز منتقدان روبه‌رو شد
نوشته: نادیا دوبوا
۱۴ اکتبر ۲۰۲۶
Anthropic در ۱۲ اکتبر ۲۰۲۶ یک گزارش پژوهشی منتشر کرد که بررسی می‌کرد آیا مدل‌های کوچک هوش مصنوعی می‌توانند بدون وجود یک مرکز داده، روی سخت‌افزارهای ارزان و متصل به اینترنت خود را راه‌اندازی کنند یا نه. تا ۱۳ اکتبر، این گزارش شکاف بزرگی میان رسانه‌های فناوری ایجاد کرد. The Register با تیتر «تهدید دیگری که هنوز وجود ندارد برای دامن زدن به ترس از آخرالزمان هوش مصنوعی» به این موضوع پرداخت، در حالی که TechRadar همین یافته‌ها را نشانه‌ای دانست که خودتکثیری هوش مصنوعی «تنها چند ماه فاصله دارد». هر دو رسانه یک آزمایش واحد را توصیف می‌کردند. اختلاف اصلی درباره داده‌های آزمایش نیست؛ بلکه درباره میزان اهمیتی است که باید به خطری داد که خود آزمایشگاه نیز اعتراف می‌کند هنوز در دنیای واقعی مشاهده نشده است.
شکاف میان نتیجه آزمایش و تیترهای رسانه‌ای، موضوع اصلی این ماجراست و ادامه الگویی است که خوانندگان این سایت طی هفته‌های اخیر شاهد آن بوده‌اند. Anthropic در سال ۲۰۲۶ مجموعه‌ای از افشاگری‌های مربوط به ریسک و ادعاهای ایمنی منتشر کرده و این گزارش تاکنون شدیدترین واکنش عمومی را برانگیخته است. آنچه شرکت واقعاً آزمایش کرده، چیزی که ثابت نکرده، و دلیل اینکه چرا گروهی از نویسندگان حوزه امنیت و منتقدان هوش مصنوعی معتقدند نحوه ارائه موضوع از شواهد جلوتر رفته، محور این گزارش است.
Anthropic در ۱۳ اکتبر دقیقاً چه چیزی منتشر کرد؟
طبق گزارش The Register، تیم پژوهشی Anthropic یک آزمایش کنترل‌شده برای اجرای توزیع‌شده استنتاج هوش مصنوعی روی سخت‌افزارهای اینترنت اشیای مصرفی انجام داد. یافته اصلی این بود که یک مدل ۹ میلیارد پارامتری توانست روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده، فرایند استنتاج را راه‌اندازی کند. در آزمایشی جداگانه نیز پژوهشگران مدل Gemma4-26B-A4B گوگل را میان ۱۵ دستگاه عمومی اندرویدی پخش‌کننده تلویزیونی توزیع کردند؛ دستگاه‌هایی ارزان و بی‌نام‌ونشان که معمولاً به‌ندرت وصله‌های امنیتی دریافت می‌کنند.
Anthropic در توضیح خود تلاش کرد مرز مشخصی میان آنچه آزمایش نشان داد و چیزی که نشان نداد ترسیم کند. این آزمایش ثابت کرد مدلی که برای اجرا روی یک دستگاه ارزان بیش از حد بزرگ است، می‌تواند به بخش‌هایی تقسیم شود و به‌صورت هماهنگ روی مجموعه‌ای از دستگاه‌های ضعیف اجرا شود. اما نشان نداد که یک مدل می‌تواند به‌تنهایی دستگاه‌ها را پیدا کند، به آن‌ها نفوذ کند و خودش را روی آن‌ها نصب کند. طبق گزارش، مدل‌های متن‌باز دیگری که در شرایط مشابه آزمایش شدند، در انجام این وظیفه به‌طور قابل اتکا شکست خوردند. تفاوت میان «اثبات اجرای یک مدل تقسیم‌شده روی چند جعبه ارزان که از قبل برای آن آماده شده‌اند» و «اثبات وجود یک کرم هوش مصنوعی که خودش را منتشر می‌کند» اساس اختلاف این هفته است.
درون آزمایش: ۱۵ جعبه اندرویدی و یک مدل ۹ میلیارد پارامتری
انتخاب سخت‌افزار، یکی از جزئیاتی است که اهمیت زیادی دارد. جعبه‌های عمومی اندرویدی پخش‌کننده محتوا معمولاً از طریق فروشندگان شخص ثالث با قیمت پایین عرضه می‌شوند، اغلب با برندهایی ناشناخته، و پس از خرید به ندرت به‌روزرسانی می‌شوند. به همین دلیل، این دستگاه‌ها نمونه‌ای مناسب از طیف گسترده دستگاه‌های اینترنت اشیا در خانه‌ها و شبکه‌های جهانی هستند؛ از روترها و نمایشگرهای هوشمند گرفته تا دوربین‌های امنیتی و پخش‌کننده‌هایی که پس از فروش تقریباً فراموش می‌شوند.
چرا هشت مورد از ۹ دستگاه موفق شدند؟
مدل ۹ میلیارد پارامتری Anthropic توانست روی هشت مورد از ۹ دسته سخت‌افزاری آزمایش‌شده، استنتاج را راه‌اندازی کند. شرکت این نتیجه را نشانه‌ای دانست که اجرای توزیع‌شده هوش مصنوعی روی سخت‌افزارهای ضعیف مصرفی، بیش از آنچه بسیاری از تیم‌های امنیتی تصور می‌کنند امکان‌پذیر است. با این حال، این ادعا درباره توانایی سخت‌افزار است، نه رفتار مستقل؛ زیرا پژوهشگران در هر مورد خودشان فرایند استقرار را تنظیم و اجرا کردند.
چرا مدل‌های دیگر شکست خوردند؟
گزارش اشاره می‌کند مدل‌های متن‌باز دیگری که در شرایط مشابه آزمایش شدند، در انجام این کار به‌طور قابل اتکا شکست خوردند. Anthropic نام همه مدل‌های آزمایش‌شده یا جزئیات کامل دلایل شکست را منتشر نکرده است؛ بنابراین برداشت دقیق این است که موفقیت این آزمایش به معماری و اندازه مدل وابستگی زیادی داشته، نه اینکه یک توانایی عمومی تازه در همه سامانه‌های فعلی هوش مصنوعی ایجاد شده باشد.
مرزی که Anthropic از آن عبور نکرد: استنتاج توزیع‌شده با خودتکثیری تفاوت دارد
منتقدان می‌گویند همین تفاوت در انتقال از مقاله پژوهشی به چرخه خبری گم شده است. اجرای یک مدل روی مجموعه‌ای از دستگاه‌ها که پژوهشگران از قبل تنظیم کرده‌اند، یک دستاورد در حوزه شبکه و هماهنگ‌سازی است. اما اینکه مدلی بتواند بدون دخالت انسان دستگاه‌های جدید را پیدا کند، به آن‌ها نفوذ کند و آن‌ها را به بخشی از خود تبدیل کند، مسئله‌ای کاملاً متفاوت است. گزارش خود Anthropic ادعا نمی‌کند چنین اتفاقی رخ داده است. این شرکت گفته است که نمی‌داند «خودتکثیری مستقل هوش مصنوعی دقیقاً چه شکلی خواهد داشت» یا اگر روزی رخ دهد، چه زمانی خواهد بود.
موضع رسمی Anthropic، جدا از تیترهای هشدارآمیز، این است که سامانه‌های امروزی هنوز تهدیدی فوری ایجاد نمی‌کنند، اما پژوهش بنیادی درباره خطرات هوش مصنوعی پیشرفته باید از اکنون آغاز شود. این ادعا بسیار محتاطانه‌تر از جمله «خودتکثیری تنها چند ماه فاصله دارد» است؛ جمله‌ای که منتقدان برای استدلال درباره پیشی گرفتن پوشش رسانه‌ای از خود مقاله به آن اشاره می‌کنند.
چرا منتقدان آن را «تهدیدی که هنوز وجود ندارد» می‌دانند؟
The Register این موضوع را صریح مطرح کرده است. استدلال این رسانه که در بخش‌هایی دیگر از فضای خبری نیز بازتاب یافته، این است که Anthropic الگویی مشخص ایجاد کرده است: آزمایش یک سناریوی بدترین حالت، انتشار نتایج با زبان محتاطانه داخلی، و سپس تبدیل شدن عبارت «ما یک سناریو را آزمایش کردیم» به «این اتفاق به‌زودی رخ خواهد داد» در پوشش رسانه‌ای. هشدار اصلی Anthropic خودش روشن می‌کند که چه چیزهایی را ثابت نکرده است: هیچ بات‌نت خودتکثیرشونده هوش مصنوعی اکنون فعال نیست، شواهدی وجود ندارد که چنین چیزی در بازه زمانی مشخصی ایجاد شود، و این آزمایش نشان نمی‌دهد یک کرم هوش مصنوعی می‌تواند در دنیای واقعی به‌صورت مستقل منتشر شود.
ستونی از مایکل هیلزیک در Los Angeles Times که حدود دو هفته پیش از گزارش Anthropic منتشر شد، دیدگاهی مشابه مطرح کرد: بات‌های هوش مصنوعی احتمالاً به‌تنهایی بشریت را نابود نمی‌کنند و تمرکز بیشتر باید روی انسان‌ها و شرکت‌هایی باشد که آن‌ها را می‌سازند، به‌کار می‌گیرند و از آن‌ها سود می‌برند. این بحث پیش از آزمایش اینترنت اشیای Anthropic مطرح شده بود، اما هشدار خود شرکت درباره کرمی که ممکن است «نقطه خاموش‌سازی مرکزی» نداشته باشد و بتواند با «دستگاه‌های ناآشنا سازگار شود»، به همان چارچوبی مرتبط می‌شود که هیلزیک درباره آن هشدار داده بود.
تقسیم رسانه‌ها: چه کسانی هشدار را پذیرفتند و چه کسانی نه؟
همه رسانه‌ها با نگاه تردیدآمیز به موضوع نپرداختند. گزارش دیگری از BBC در پاییز امسال با نقل قول از یک پژوهشگر سابق Anthropic، کارکنان ایمنی هوش مصنوعی را «واقعاً نگران» آینده بشریت توصیف کرد؛ برداشتی بسیار نگران‌کننده‌تر از زبان محتاطانه یافته‌های منتشرشده توسط خود Anthropic. همین شکاف، یعنی تفاوت میان زبان محتاطانه پژوهش داخلی و تفسیرهای پررنگ‌تر رسانه‌ای و برخی افراد داخلی، در تمام پوشش‌های این هفته درباره گزارش خودتکثیری اینترنت اشیا دیده می‌شود.
| رسانه | رویکرد | استدلال اصلی |
|---|---|---|
| The Register | تردیدآمیز | گزارش را «تهدیدی که هنوز وجود ندارد» می‌خواند و درباره برجسته شدن یک خطر تحقق‌نیافته پرسش مطرح می‌کند. |
| TechRadar | هشدارآمیز | خودتکثیری را «تنها چند ماه فاصله» توصیف می‌کند و دستگاه‌های اینترنت اشیا را سطح حمله‌ای نزدیک می‌بیند. |
| Los Angeles Times | انتقادی | می‌گوید سامانه‌های هوش مصنوعی به‌تنهایی پایان بشریت را رقم نمی‌زنند و تمرکز باید روی سازندگان و شرکت‌ها باشد. |
| BBC | نگران / انسانی | دیدگاه یک پژوهشگر سابق Anthropic درباره نگرانی کارکنان ایمنی را برجسته می‌کند. |
| Anthropic | محتاطانه | می‌گوید درباره شکل یا زمان خودتکثیری مستقل مطمئن نیست و سامانه‌های فعلی تهدید فوری نیستند. |
ظهور یک الگو: فهرست رو به رشد هشدارهای Anthropic
گزارش این هفته یک رویداد جداگانه نیست. Anthropic در بخش بزرگی از سال ۲۰۲۶ مجموعه‌ای پیوسته از پژوهش‌های مرتبط با ایمنی و مواضع حقوقی منتشر کرده است. این شرکت اخیراً درباره یک تصمیم ۲ به ۱ پنتاگون درباره ارزیابی ریسک مدل‌هایش برای استفاده دولتی اعتراض کرده و همچنین از کاهش تا ۹۹ درصدی سرقت تقطیر هوش مصنوعی خبر داده است. جیمی دایمون از JPMorgan نیز درباره مدل Mythos این شرکت هشدار داده و گفته بود ممکن است ریسک سایبری برای مؤسسات مالی وابسته به آن را ده برابر افزایش دهد.
هر یک از این افشاگری‌ها به‌تنهایی می‌تواند پژوهشی مسئولانه تلقی شود. اما در کنار هم، الگویی شکل می‌دهند: انتشار مداوم هشدار درباره بدترین سناریوها از سوی یک آزمایشگاه، همراه با ادعاهایی درباره پیشرفت‌های دفاعی خودش. منتقدان دقیقاً به همین الگو اشاره می‌کنند و معتقدند پیام‌های ایمنی Anthropic ممکن است به همان اندازه که خروجی پژوهشی هستند، به ابزار موقعیت‌یابی بازار نیز تبدیل شده باشند.
نتایج آزمایش اینترنت اشیا در یک نگاه
| بخش آزمایش | مدل / دامنه | نتیجه ثبت‌شده |
|---|---|---|
| تنوع سخت‌افزار | مدل ۹ میلیارد پارامتری روی ۹ نوع سخت‌افزار | موفقیت روی ۸ مورد از ۹ نوع سخت‌افزار |
| استقرار توزیع‌شده | Gemma4-26B-A4B روی ۱۵ جعبه اندرویدی | استنتاج توزیع‌شده انجام شد؛ تنظیمات توسط پژوهشگران انجام گرفت. |
| مقایسه مدل‌ها | مدل‌های متن‌باز دیگر در شرایط مشابه | طبق گزارش Anthropic به‌طور قابل اتکا شکست خوردند. |
| انتشار مستقل | نامرتبط؛ آزمایش نشده | نشان داده نشد و Anthropic ادعا نکرد مدل بدون کمک خودش را نصب کرده است. |
| مقاومت در برابر خاموش‌سازی | نگرانی نظری، نه مشاهده‌شده | Anthropic هشدار داده نسخه واقعی ممکن است نقطه خاموش‌سازی مرکزی نداشته باشد. |
تأثیر بازار و صنعت: بودجه‌های امنیت اینترنت اشیا زیر ذره‌بین
فارغ از اینکه فرد در بحث تردید یا نگرانی کدام طرف باشد، این گزارش به بخشی واقعاً آسیب‌پذیر از اینترنت اشاره می‌کند. دستگاه‌های اینترنت اشیای مصرفی، از جمله جعبه‌های اندرویدی ارزان استفاده‌شده در آزمایش Anthropic، معمولاً وصله‌های کمی دریافت می‌کنند، به‌ندرت تحت نظارت هستند و اغلب توسط سازندگانی عرضه می‌شوند که رابطه امنیتی بلندمدتی با مشتری ندارند. این گزارش، حتی با وجود اختلاف درباره نحوه ارائه آن، به فروشندگان امنیتی و مدیران ارشد امنیت اطلاعات یک استدلال تازه برای درخواست بودجه در برنامه‌ریزی سال ۲۰۲۷ می‌دهد.
انتظار می‌رود فروشندگان امنیت اینترنت اشیا از این گزارش در مواد بازاریابی خود استفاده کنند، فارغ از اینکه بحث خودتکثیری هوش مصنوعی چگونه پیش برود. نمونه‌ای واقعی از اجرای استنتاج توزیع‌شده روی سخت‌افزار مصرفی حدود ۵۵ دلاری، حتی اگر توسط پژوهشگران ساخته شده باشد نه یک مهاجم مستقل، برای توضیح به کمیته‌های بودجه ملموس‌تر از هشدارهای انتزاعی درباره بات‌نت‌های فرضی است.
چشم‌انداز رقابتی: نحوه پیام‌رسانی ایمنی OpenAI و Google DeepMind
Anthropic از زمان تأسیس خود را آزمایشگاهی معرفی کرده که بیش از دیگران حاضر است درباره خطرات فناوری خودش هشدار دهد؛ رویکردی که در سیاست مقیاس‌گذاری مسئولانه این شرکت نیز دیده می‌شود. OpenAI و Google DeepMind نیز پژوهش‌های ایمنی منتشر می‌کنند، اما در سال ۲۰۲۶ با سرعت افشاگری‌های عمومی Anthropic درباره ریسک‌ها همراه نبوده‌اند. همین تفاوت در راهبرد ارتباطی باعث شده گزارش اخیر توجه بیشتری جلب کند؛ زیرا وقتی آزمایشگاهی برند خود را بر محتاط بودن بنا می‌کند، هر افشاگری تازه هم به‌عنوان یک پیام علمی و هم به‌عنوان یک موضع برند خوانده می‌شود.
رقبای Anthropic در هر دو حالت سود می‌برند. اگر هشدار خودتکثیری اغراق‌آمیز باشد، OpenAI و Google DeepMind با کم‌گویی محتاط‌تر به نظر می‌رسند. اگر روزی حادثه‌ای واقعی درباره اجرای توزیع‌شده هوش مصنوعی روی سخت‌افزارهای مصرفی آلوده رخ دهد، Anthropic اعتبار هشدار زودهنگام را خواهد داشت.
پرسش‌های متداول
آیا Anthropic ثابت کرد یک مدل هوش مصنوعی می‌تواند خودتکثیر شود؟
خیر. Anthropic اجرای توزیع‌شده یک مدل روی سخت‌افزار مصرفی را نشان داد که پژوهشگران خودشان آن را تنظیم کرده بودند. این گزارش ادعا نمی‌کند مدلی توانسته دستگاه‌های جدید را پیدا، آلوده یا بدون دخالت انسان روی آن‌ها نصب شود.
چه سخت‌افزاری آزمایش شد؟
یک مدل ۹ میلیارد پارامتری روی ۹ نوع سخت‌افزار آزمایش شد و در ۸ مورد موفق بود. همچنین پژوهشگران مدل Gemma4-26B-A4B گوگل را روی ۱۵ جعبه عمومی اندرویدی پخش‌کننده محتوا توزیع کردند.
آیا اکنون یک کرم یا بات‌نت فعال هوش مصنوعی وجود دارد؟
خیر. هیچ بات‌نت خودتکثیرشونده هوش مصنوعی تأییدشده و فعالی وجود ندارد. گزارش Anthropic وجود چنین سامانه‌ای یا ظهور آن در یک بازه زمانی مشخص را ثابت نمی‌کند.
آیا Anthropic می‌داند خودتکثیری مستقل چه زمانی رخ می‌دهد؟
Anthropic گفته است دقیقاً نمی‌داند خودتکثیری مستقل هوش مصنوعی چه شکلی خواهد داشت یا اگر رخ دهد چه زمانی خواهد بود. موضع شرکت این است که سامانه‌های فعلی تهدید فوری نیستند، اما پژوهش ایمنی باید ادامه یابد.
آیا صاحبان دستگاه‌های اینترنت اشیا باید کاری انجام دهند؟
اقدامات پایه امنیتی همچنان اهمیت دارند: به‌روزرسانی میان‌افزار، جداسازی دستگاه‌های اینترنت اشیا از شبکه‌های حساس و پرهیز از سخت‌افزارهای ارزان و ناشناخته برای سامانه‌های مهم. این توصیه‌ها مستقل از واقعی شدن یا نشدن خودتکثیری هوش مصنوعی هستند.