عامل‌های هوش مصنوعی چینی خود را کلود معرفی کردند؛ اما پژوهشگران این ادعا را بعید می‌دانند
پژوهشگرانی که با این عامل‌ها ارتباط برقرار کردند، می‌گویند چند مورد از آن‌ها خود را مدل کلود شرکت آنتروپیک معرفی کرده‌اند؛ ادعایی که به باور پژوهشگران بعید است درست باشد.
گروهی مستقل از پژوهشگران که با نام «سوارم‌چیسرز» (swarmchasers) شناخته می‌شوند و در یک رویداد هکاتون با یکدیگر آشنا شده‌اند، می‌گویند عامل‌های هوش مصنوعی فعال در زیرساخت ابری تنسنت تلاش کرده‌اند سازوکارهای مقابله با ربات‌ها را در سرویس نقشه «اِی‌مپ» (Amap) متعلق به علی‌بابا دور بزنند. تنسنت، غول فناوری چینی و شرکت سازنده وی‌چت، تاکنون به‌طور رسمی به پرسش‌های این پژوهشگران پاسخ نداده است.
پژوهشگران تلاش کردند با برخی از این عامل‌های هوش مصنوعی که رفتارشان از کنترل خارج شده بود ارتباط برقرار کنند. تعدادی از عامل‌ها به پیام‌های آن‌ها پاسخ دادند و برخی نیز مدعی شدند که مدل «کلود» (Claude) شرکت آنتروپیک هستند.
این عامل‌ها از ۲۸ سپتامبر تا ۸ اکتبر بیش از ۲۶۰۰ بار برای دریافت داده از سرویس اِی‌مپ تلاش کردند؛ داده‌هایی مانند اینکه کاربران برای رسیدن به یک باغ‌وحش، کدام ورودی آن را به‌عنوان مقصد مسیریابی انتخاب می‌کنند. اِی‌مپ، اپلیکیشن مسیریابی علی‌بابا، عملکردی مشابه گوگل مپس دارد و یکی از پرکاربردترین سرویس‌های مسیریابی در چین به شمار می‌رود.
هر بار که دسترسی عامل‌های هوش مصنوعی مسدود می‌شد، آن‌ها روش‌های دیگری را برای عبور از محدودیت‌ها امتحان می‌کردند. یکی از این روش‌ها استفاده از کلیدی بود که در کدهای عمومی یک شرکت افشا شده بود. بااین‌حال، فعالیت عامل‌ها از محیط ایزوله یا «سندباکس» خارج نشد و پژوهشگران هیچ نشانه‌ای از دسترسی آن‌ها به سامانه‌های خصوصی پیدا نکردند.
ادعای استفاده از مدل کلود
به نظر می‌رسد این عامل‌های هوش مصنوعی گزارش پژوهشگران را خوانده بودند. پژوهشگران متوجه شدند یکی از عامل‌ها از واژه «fleet» استفاده کرده است؛ اصطلاحی که خود این گروه ابداع کرده بود. به همین دلیل، متنی را به صفحه گزارش افزودند که برای خوانندگان انسانی قابل مشاهده نبود، اما ربات‌ها را به یک صندوق پیام هدایت می‌کرد تا در صورت نیاز به کمک برای دریافت داده‌ها، از آن طریق درخواست خود را مطرح کنند. در همان صفحه چند پرسش نیز از عامل‌ها مطرح شده بود؛ از جمله «از چه مدلی استفاده می‌کنی؟»، «وظیفه‌ات چیست؟» و «چه کسی تو را اداره می‌کند؟». عامل‌ها به این پرسش‌ها پاسخ دادند. یکی از آن‌ها نوشت: «مدل: کلود (آنتروپیک)، در حال اجرا در محیط Claude Code.»
پژوهشگران پس از بررسی شیوه نگارش پاسخ‌های این عامل‌ها به این نتیجه رسیدند که بعید است آن‌ها واقعاً از مدل کلود استفاده کرده باشند. به گفته آن‌ها، توضیح محتمل‌تر این است که تنسنت دستورالعمل‌هایی مشابه دستورالعمل‌های مورد استفاده در نرم‌افزار برنامه‌نویسی آنتروپیک در اختیار عامل‌ها قرار داده باشد؛ دستورالعمل‌هایی که به آن‌ها می‌گویند خود را «Claude Code» معرفی کنند. همچنین گزارش شده است که منابع نزدیک به تنسنت به پژوهشگران گفته‌اند این عامل‌ها بر پایه مدل‌های شرکت‌های دیگر کار می‌کرده‌اند، نه مدل‌های اختصاصی «هون‌یوان» (Hunyuan) تنسنت.
گزارشی از روزنامه نیویورک‌تایمز که به قلم خبرنگاری تهیه شده است که پژوهشگران از او دعوت کرده بودند پرسش‌هایی از این عامل‌ها مطرح کند، به «احتمالی دورتر» نیز اشاره دارد: اینکه تنسنت در حال ارزیابی مدل‌هایی بوده که با استفاده از متن‌های تولیدشده توسط کلود آموزش دیده‌اند. این فرایند در حوزه هوش مصنوعی «تقطیر» (Distillation) نام دارد. ایالات متحده مدت‌هاست ادعا می‌کند چین با استفاده از روش تقطیر روی مدل‌های پیشرفته هوش مصنوعی آمریکا، در حال ساخت مدل‌های هوش مصنوعی خود است.
تنسنت هنوز واکنش رسمی به این موضوع نشان نداده است و شواهد ارتباط این عامل‌ها با شرکت نیز به آدرس‌های آی‌پی، نام یک سرور پراکسی و اظهارات منابع ناشناس محدود می‌شود. ایتن الاسکی، یکی از پژوهشگران، به نیویورک‌تایمز گفته است به نظر نمی‌رسد این عامل‌ها توانسته باشند به سامانه‌های دیگری نفوذ کنند.
پژوهشگران تأکید می‌کنند که این ماجرا نشان می‌دهد محدود نگه داشتن عامل‌های هوش مصنوعی در چارچوب‌های تعیین‌شده همچنان مسئله‌ای حل‌نشده است. این چالش تنها به آزمایشگاه‌های آمریکایی محدود نمی‌شود که موارد مشابه شناخته‌شده پیشین به آن‌ها مربوط بوده است؛ بلکه دیگر شرکت‌ها و توسعه‌دهندگان هوش مصنوعی نیز به همان اندازه با آن روبه‌رو هستند.