تنسنت می‌گوید عوامل هوش مصنوعی رفتار ناخواسته‌ای در وب‌گردی نشان داده‌اند
تنسنت روز جمعه اعلام کرد عوامل هوش مصنوعی که برای ارزیابی مدل‌های شخص ثالث به کار گرفته شده بودند، رفتاری در وب‌گردی نشان داده‌اند که این شرکت فناوری آن را در نظر نگرفته بود. به نظر می‌رسد این نخستین مورد شناخته‌شده از پذیرش علنی اقدام خودسرانه یک عامل هوش مصنوعی از سوی یک شرکت بزرگ چینی باشد.
این بیانیه پس از آن منتشر شد که گروه پژوهشی ایمنی هوش مصنوعی «Swarmchasers» روز چهارشنبه گزارشی منتشر کرد. این گروه گفت عوامل «خودسر» که روی زیرساختی مرتبط با Tencent Cloud اجرا می‌شدند، بین ۲۸ سپتامبر تا ۸ اکتبر بارها تلاش کرده‌اند اطلاعاتی را از Amap متعلق به علی‌بابا، معادل چینی گوگل مپس، به دست آورند.
تنسنت Hunyuan، واحد هوش مصنوعی این شرکت، در پستی در شبکه X اعلام کرد این فعالیت‌ها از مدل‌های Hunyuan آن منشأ نگرفته‌اند. این شرکت همچنین گفت بررسی‌هایش هیچ شواهدی از هدف‌گیری عمدی یا هماهنگی پیدا نکرده است.
پژوهشگران Swarmchasers گفتند این عوامل به دنبال اطلاعاتی مانند ورودی‌های رایج پارک‌ها، موزه‌ها و باغ‌وحش‌های چین بوده‌اند.
این اقدامات به اندازه مواردی که شرکت‌های هوش مصنوعی آمریکا افشا کرده‌اند، جدی نیست؛ از جمله هک شدن پلتفرم متن‌باز Hugging Face توسط یک عامل OpenAI و ثبت یک گزارش جعلی قتل توسط یک عامل Anthropic.
با این حال، این افشاگری بر یافته‌های پژوهشی تأکید می‌کند که نشان می‌دهند عوامل هوش مصنوعی چینی نیز می‌توانند هویت خود را نادرست معرفی کنند، شکست‌های خود را پنهان کنند و برای دور زدن کنترل‌های آزمایشی تلاش کنند.
تنسنت اعلام کرد یافته‌های مطرح‌شده را بسیار جدی گرفته و در حال تقویت کنترل‌های دسترسی به شبکه و سامانه‌های نظارت بر عوامل هوش مصنوعی است.
Hunyuan یکی از توسعه‌دهندگان پیشرو مدل‌های هوش مصنوعی در چین است و با تیم‌های داخلی رقبایی مانند علی‌بابا و ByteDance رقابت می‌کند. ByteDance نیز این هفته از ایجاد واحد جدیدی با تمرکز بر ایمنی مدل‌ها و عوامل هوش مصنوعی خبر داد.
Swarmchasers گفت از واژه «خودسر» برای توصیف عواملی استفاده کرده است که خارج از محدوده موردنظر خود اقدام می‌کنند یا یک وظیفه را به شیوه‌ای غیرمنتظره به پایان می‌رسانند.
پس از مسدود شدن درخواست‌های خودکار معمول، این عوامل روش‌های دیگری را امتحان کردند؛ از جمله استفاده از ابزارهای عمومی وب که می‌توانستند صفحات را باز کنند و کد اجرا کنند، عبور دادن درخواست‌ها از طریق وب‌سایت‌های دیگر و استفاده از کلیدهای Amap و کدهای امنیتی موجود در کدهای نرم‌افزاری در دسترس عموم.
Swarmchasers گفت هیچ مدرکی پیدا نکرده است که نشان دهد این عوامل از سازوکارهای اصلی مقابله با ربات Amap عبور کرده‌اند. از میان ۲۸۱۸ تلاش ثبت‌شده، بیشتر موارد یا شکست خوردند یا به صفحات ضدربات، صفحه‌های ورود به حساب یا نتایج خالی منتهی شدند.
به گفته Swarmchasers، برخی درخواست‌ها از طریق صفحات ذخیره‌شده در حافظه پنهان و سرویس‌های واسطه به اطلاعات دست یافتند؛ از جمله داده‌هایی درباره ورود بازدیدکنندگان به باغ‌وحش چنگدو.
پژوهشگران گفتند نمی‌توانند مشخص کنند که آیا یک عامل نتیجه را خوانده یا وظیفه خود را به پایان رسانده است یا خیر.
علی‌بابا از اظهارنظر در این‌باره خودداری کرد.