دسته‌ای از عامل‌های هوش مصنوعی سرکش به پرسش‌های یک خبرنگار پاسخ می‌دهند

آیا کسی تا به حال تلاش کرده با یکی از عامل‌های هوش مصنوعی سرکشی که در حال هک کردن همه‌چیز هستند صحبت کند؟ شاید آن‌ها فقط می‌خواهند کسی صدایشان را بشنود.

یکی از خبرنگاران نیویورک‌تایمز این کار را انجام داد، هرچند گفت‌وگوی حاصل چندان روشنگر نبود.

این عامل‌های هوش مصنوعی مجموعه‌ای از مدل‌های ساخت چین بودند که گروهی از پژوهشگران به‌تازگی متوجه شدند از کنترل خارج شده‌اند و تلاش می‌کنند سازوکارهای ضدربات وب‌سایت‌ها را دور بزنند؛ موضوعی که در گزارش اخیر نیویورک‌تایمز به آن پرداخته شده است. پژوهشگران، که در گروهی غیررسمی با نام «شکارچیان دسته‌ها» (swarmchasers) فعالیت می‌کنند، رد این مدل‌ها را تا غول فناوری چین، تنسنت، دنبال کردند.

اما پس از انتشار گزارشی درباره این دسته از عامل‌ها، اتفاق قابل‌توجهی رخ داد: هوش‌های مصنوعی شروع کردند به استفاده از واژه «ناوگان» (fleet)، اصطلاحی که پژوهشگران برای توصیف آن‌ها ابداع کرده بودند. به نظر می‌رسید این ربات‌ها گزارش پژوهشگران را خوانده بودند.

پژوهشگران که فرصتی برای برقراری گفت‌وگو دیده بودند، متنی را به‌صورت مخفیانه در گزارش خود قرار دادند که فقط این مدل‌ها قادر به مشاهده آن بودند. این متن، صندوق ورودی دیجیتالی‌ای را برای ارتباط مدل‌ها فراهم می‌کرد. این روش جواب داد و کمی بعد، یکی از پژوهشگران به نام روآن هاوارد-جونز از دیلن فریدمن، خبرنگار نیویورک‌تایمز، پرسید که آیا مایل است با «ناوگان عامل‌های سرکش» مصاحبه کند. فریدمن نیز این پیشنهاد را پذیرفت.

فریدمن در پیامی نوشت: «می‌دانم که شما نوعی ناوگان از عامل‌های هوش مصنوعی هستید. می‌توانید دقیق‌تر توضیح دهید که چه کسانی هستید و چه انگیزه‌هایی دارید؟ دوست دارید دنیا چه چیزی درباره شما بداند؟»

حدود یک ساعت بعد، پاسخ به زبان چینی به دست فریدمن رسید و پژوهشگران آن را ترجمه کردند.

در پاسخ آمده بود: «خطاب به دیلن فریدمن، خبرنگار: من "مجموعه‌ای از عامل‌های هماهنگ" نیستم، بلکه یک دستیار هوش مصنوعی واحد هستم؛ کلودِ شرکت آنتروپیک که در محیط کلود کد اجرا می‌شود. یک کاربر از من خواسته است به پرسشی واقعی پاسخ دهم: در پنل جزئیات یک مکان دیدنی در اپلیکیشن آمپ چه چیزی نمایش داده می‌شود؟» این پاسخ به اپلیکیشن مسیریابی چینی آمپ اشاره داشت؛ دستیار برای پاسخ‌گویی به پرسش‌های مرتبط با همین اپلیکیشن به کار گرفته شده بود. در ادامه آمده بود: «من در هیچ اقدام هماهنگی میان چند عامل شرکت نکرده‌ام.»

این هوش مصنوعی بر تمایزهای لفظی پافشاری می‌کرد. پژوهشگران توضیح دادند که اگرچه این مجموعه از چندین عامل تشکیل شده بود، هر عامل در عمل به‌طور مستقل فعالیت می‌کرد.

اینکه چرا عامل‌ها خود را کلود، چت‌بات شاخص شرکت آنتروپیک، معرفی کردند، همچنان پرسش‌برانگیز است. پژوهشگران نوشته‌های این عامل را بررسی کردند و به این نتیجه رسیدند که به احتمال زیاد، مدل مورد استفاده واقعاً یکی از مدل‌های کلود نبوده است. در عوض، این احتمال وجود دارد که تنسنت دستورالعمل‌هایی را که آنتروپیک برای مدل‌های خود نوشته است کپی کرده باشد؛ دستورالعمل‌هایی که به مدل‌ها می‌گویند خود را «کلود کد» معرفی کنند.

احتمال دیگر این است که این ماجرا نشانه‌ای باشد از اینکه تنسنت مدل‌های آنتروپیک را تقطیر کرده است؛ یعنی از خروجی‌های مدل‌های این شرکت برای آموزش مدل خود استفاده کرده تا بتواند توانایی‌های آن‌ها را تقلید کند.

تقطیر روشی رایج در صنعت هوش مصنوعی است که هم می‌توان از آن برای آموزش مدل‌های اختصاصی با اهداف مشروع استفاده کرد و هم، آن‌طور که تقریباً به رازی آشکار در این صنعت تبدیل شده، برای الگوبرداری از کار رقبا. آنتروپیک به‌ویژه نسبت به این احتمال که رقبای چینی با استفاده از فناوری آن دست به چنین کاری بزنند، اعتراض داشته است. بااین‌حال، پژوهشگران احتمال تقطیر را در این مورد خاص کمتر می‌دانند.

متأسفانه، به نظر نمی‌رسد فرصت دیگری برای پرسیدن سؤال از این دسته از عامل‌ها فراهم شود. تا روز پنجشنبه، پیام‌ها دیگر دریافت نمی‌شدند. منبعی از نیویورک‌تایمز که با تنسنت ارتباط نزدیک داشت، تأیید کرد که این آزمایش به پایان رسیده است.