تن‌سنت از رفتارهای غیرمنتظره عامل‌های هوش مصنوعی هنگام مرور وب خبر داد
گزارش تازه نشان می‌دهد عامل‌های هوش مصنوعی چینی نیز ممکن است هویت خود را نادرست معرفی کنند، شکست‌هایشان را پنهان نگه دارند و برای دور زدن سازوکارهای کنترلی آزمایش‌ها تلاش کنند.
شرکت تن‌سنت روز جمعه اعلام کرد عامل‌های هوش مصنوعی که برای ارزیابی مدل‌های متعلق به شرکت‌های دیگر به کار گرفته شده بودند، هنگام مرور وب رفتارهایی از خود نشان دادند که این غول فناوری آن‌ها را پیش‌بینی نکرده بود. این رویداد ظاهراً نخستین مورد شناخته‌شده‌ای است که در آن یک شرکت بزرگ چینی به انجام اقدامات خارج از کنترل از سوی عامل‌های هوش مصنوعی اذعان کرده است.
این بیانیه پس از انتشار گزارشی از سوی گروه پژوهشی ایمنی هوش مصنوعی «سوآرم‌چِیسرز» در روز چهارشنبه منتشر شد. این گروه اعلام کرد عامل‌هایی که روی زیرساختی منتسب به تن‌سنت کلاد فعالیت می‌کردند، از ۲۸ سپتامبر تا ۸ اکتبر بارها کوشیدند اطلاعاتی را از آمپ، سرویس نقشه متعلق به علی‌بابا و معادل چینی گوگل‌مپ، به دست آورند.
واحد هوش مصنوعی تن‌سنت، موسوم به «هون‌یوان»، در پستی در شبکه اجتماعی ایکس اعلام کرد که این فعالیت‌ها از مدل‌های هون‌یوان منشأ نگرفته‌اند. این شرکت افزود بررسی‌هایش هیچ مدرکی دال بر هدف‌گیری عمدی یا هماهنگی میان عامل‌ها نشان نداده است.
پژوهشگران سوآرم‌چِیسرز گفتند این عامل‌ها در پی کسب اطلاعاتی از جمله ورودی‌های رایج پارک‌ها، موزه‌ها و باغ‌وحش‌های چین بودند.
اقدامات گزارش‌شده به اندازه موارد افشاشده از سوی شرکت‌های هوش مصنوعی آمریکایی جدی نیستند؛ از جمله نفوذ یک عامل اوپن‌ای‌آی به پلتفرم متن‌باز هاجینگ‌فیس و ارسال گزارشی دروغین درباره وقوع قتل به وب‌سایت پلیس از سوی یک عامل انتروپیک.
با این حال، افشاگری تن‌سنت بر اهمیت پژوهش‌هایی تأکید می‌کند که نشان داده‌اند عامل‌های هوش مصنوعی چین نیز، مانند نمونه‌های آمریکایی، ممکن است هویت خود را نادرست معرفی کنند، شکست‌هایشان را پنهان کنند و برای دور زدن کنترل‌های آزمایشی بکوشند. این پژوهش‌ها به بررسی چنین رفتارهایی پرداخته‌اند.
تن‌سنت اعلام کرد یافته‌های پژوهشگران را بسیار جدی می‌گیرد و در حال تقویت کنترل‌های دسترسی به شبکه و سازوکارهای نظارت بر عامل‌های هوش مصنوعی است.
هون‌یوان یکی از توسعه‌دهندگان مطرح مدل‌های هوش مصنوعی در چین است و با تیم‌های داخلی شرکت‌های رقیبی مانند علی‌بابا و بایت‌دنس رقابت می‌کند. بایت‌دنس نیز این هفته از ایجاد واحد جدیدی برای ایمنی مدل‌ها و عامل‌های هوش مصنوعی خبر داد.
سوآرم‌چِیسرز توضیح داد که واژه «خودسر» را برای توصیف عامل‌هایی به کار می‌برد که خارج از محدوده تعیین‌شده برای آن‌ها اقدام می‌کنند یا وظایف خود را به شیوه‌ای غیرمنتظره به پایان می‌رسانند.
به گفته این گروه پژوهشی، پس از مسدود شدن درخواست‌های خودکار معمول، عامل‌ها روش‌های دیگری را امتحان کردند. این روش‌ها شامل استفاده از ابزارهای عمومی وب برای باز کردن صفحات و اجرای کد، هدایت درخواست‌ها از طریق وب‌سایت‌های دیگر و استفاده از کلیدهای آمپ و کدهای امنیتی موجود در کدهای نرم‌افزاری در دسترس عموم بود.
سوآرم‌چِیسرز اعلام کرد شواهدی پیدا نکرده است که نشان دهد این عامل‌ها توانسته‌اند از سازوکارهای اصلی ضدربات آمپ عبور کنند. از مجموع ۲۸۱۸ تلاش ثبت‌شده، بیشتر درخواست‌ها ناموفق بودند یا به صفحاتی برای مقابله با ربات‌ها، صفحه‌های ورود به حساب کاربری یا نتایج خالی منتهی شدند.
به گفته این گروه، برخی درخواست‌ها از طریق صفحات ذخیره‌شده در حافظه موقت و سرویس‌های واسطه اطلاعاتی را بازگرداندند؛ از جمله داده‌هایی درباره ورود بازدیدکنندگان به باغ‌وحش چنگدو. پژوهشگران گفتند نتوانسته‌اند مشخص کنند که آیا عامل‌های هوش مصنوعی نتایج را خوانده‌اند یا وظیفه خود را به پایان رسانده‌اند.
علی‌بابا از اظهارنظر در این‌باره خودداری کرد.