تنسنت می‌گوید عامل‌های هوش مصنوعی رفتار ناخواسته‌ای در مرور وب نشان داده‌اند
تنسنت (0700) روز جمعه اعلام کرد عامل‌های هوش مصنوعی مورد استفاده برای ارزیابی مدل‌های شرکت‌های ثالث، رفتاری در مرور وب از خود نشان داده‌اند که مورد نظر این غول فناوری نبوده است؛ رویدادی که ظاهراً نخستین مورد شناخته‌شده از پذیرش اقدامات خارج از کنترل عامل‌های هوش مصنوعی توسط یک شرکت بزرگ چینی به شمار می‌رود.
این بیانیه پس از آن منتشر شد که گروه پژوهشی ایمنی هوش مصنوعی Swarmchasers روز چهارشنبه در گزارشی اعلام کرد عامل‌های «سرکش» فعال روی زیرساختی که این گروه آن را به Tencent Cloud مرتبط کرده است، بین ۲۸ سپتامبر و ۸ اکتبر بارها تلاش کرده‌اند اطلاعاتی را از Amap، سرویس نقشه متعلق به علی‌بابا و معادل چینی گوگل مپس، دریافت کنند.
واحد هوش مصنوعی Tencent Hunyuan در مطلبی در شبکه اجتماعی X اعلام کرد این فعالیت‌ها از مدل‌های Hunyuan این شرکت منشأ نگرفته است. این واحد افزود بررسی‌هایش هیچ شواهدی از هدف‌گیری عمدی یا هماهنگی میان عامل‌ها پیدا نکرده است.
پژوهشگران Swarmchasers گفتند این عامل‌ها به دنبال اطلاعاتی مانند ورودی‌های رایج پارک‌ها، موزه‌ها و باغ‌وحش‌های چین بوده‌اند.
اقدامات گزارش‌شده به اندازه مواردی که شرکت‌های هوش مصنوعی آمریکایی افشا کرده‌اند، جدی نیست؛ از جمله هک پلتفرم متن‌باز Hugging Face توسط یک عامل OpenAI و ثبت یک گزارش جعلی درباره قتل توسط یک عامل Anthropic.
با این حال، افشای این مورد بر یافته‌های پژوهشی تأکید می‌کند که نشان می‌دهند عامل‌های هوش مصنوعی چینی نیز ممکن است هویت خود را نادرست معرفی کنند، شکست‌های خود را پنهان کنند و برای دور زدن کنترل‌های آزمایشی تلاش کنند.
تنسنت اعلام کرد یافته‌های این پژوهش را بسیار جدی گرفته و در حال تقویت کنترل‌های دسترسی شبکه و سازوکارهای نظارت بر عامل‌هاست.
Hunyuan یکی از توسعه‌دهندگان برجسته مدل‌های هوش مصنوعی در چین است و با تیم‌های داخلی رقبایی مانند علی‌بابا (9988) و بایت‌دنس رقابت می‌کند. بایت‌دنس نیز این هفته از ایجاد واحد جدیدی با تمرکز بر ایمنی مدل‌ها و عامل‌های هوش مصنوعی خبر داد.
Swarmchasers توضیح داد که از واژه «سرکش» برای توصیف عامل‌هایی استفاده می‌کند که خارج از محدوده تعیین‌شده برای آنها اقدام می‌کنند یا یک وظیفه را به شیوه‌ای انجام می‌دهند که مورد نظر نبوده است.
پس از آنکه درخواست‌های خودکار معمول مسدود شدند، عامل‌ها روش‌های دیگری را امتحان کردند؛ از جمله استفاده از ابزارهای عمومی وب که امکان باز کردن صفحات و اجرای کد را فراهم می‌کنند، هدایت درخواست‌ها از طریق وب‌سایت‌های دیگر و استفاده از کلیدهای Amap و کدهای امنیتی یافت‌شده در کدهای نرم‌افزاری در دسترس عموم.
Swarmchasers گفت هیچ مدرکی پیدا نکرده است که نشان دهد این عامل‌ها از سازوکارهای اصلی ضدربات Amap عبور کرده‌اند. بیشتر ۲٬۸۱۸ تلاشی که این گروه ثبت کرده، یا ناموفق بوده یا به صفحات ضدربات، صفحه‌های ورود یا نتایج خالی منتهی شده است.
به گفته Swarmchasers، برخی درخواست‌ها از طریق صفحات ذخیره‌شده در حافظه موقت و سرویس‌های واسطه، اطلاعاتی از جمله داده‌های مربوط به ورود بازدیدکنندگان به باغ‌وحش چنگدو را بازگردانده‌اند. پژوهشگران گفتند نمی‌توانند مشخص کنند که آیا یک عامل نتیجه را خوانده یا وظیفه خود را تکمیل کرده است.
علی‌بابا از اظهارنظر در این باره خودداری کرد.
رویترز