آنتروپیک در حال بررسی استفاده از عامل‌های هوش مصنوعی برای مذاکره به نمایندگی از کاربران است
به گزارش هوو شینگ کای‌جینگ به نقل از فیننشال تایمز و با استناد به رسانه فونیکس تک، شرکت هوش مصنوعی آنتروپیک در حال مشورت با متخصصان حقوقی است تا راه‌هایی برای فعالیت عامل‌های هوش مصنوعی به نمایندگی از کاربران در مذاکرات پیدا کند؛ آن هم با رعایت اصول مذاکره منصفانه. دو فرد آگاه از دیدگاه‌های این شرکت گفته‌اند آنتروپیک از مؤسسات حقوقی درباره چگونگی ایجاد توازن میان دفاع و پیگیری منافع موکلان از یک سو و دستیابی به نتایج منصفانه در مذاکرات از سوی دیگر، مشاوره می‌گیرد. آنتروپیک از اظهارنظر در این باره خودداری کرده است.
بر اساس این گزارش، هم‌زمان با پیشرفت برنامه‌های مبتنی بر عامل‌های شخصی هوش مصنوعی، شرکت‌ها به بررسی این امکان روی آورده‌اند که عامل‌ها مستقیماً با یکدیگر ارتباط برقرار کنند و درباره قیمت محصولات مذاکره کنند، اختلافات مربوط به خدمات مشتریان را حل‌وفصل کنند یا حتی برای کاربران حقوق و دستمزد بهتری به دست آورند.
یکی از افراد آگاه از این پروژه گفته است آنتروپیک در حال پژوهش درباره پروتکل‌های مذاکره میان مدل‌هایی است که با یکدیگر تعامل می‌کنند. در این پژوهش، عواملی مانند دفعاتی که عامل‌ها باید در جریان مذاکره با کاربران خود مشورت کنند و میزان احتیاط آن‌ها در مواجهه با طرف‌های مذاکره‌کننده مبتنی بر هوش مصنوعی بررسی می‌شود.
فرد دیگری نزدیک به این شرکت گفته است آنتروپیک همچنین امکان آن را بررسی کرده که کاربران اسنادی را امضا کنند و در آن، وظایفی را که به عامل‌های هوش مصنوعی می‌سپارند و قواعدی را که این عامل‌ها باید رعایت کنند، تأیید کنند.
فایننشال تایمز با استناد به پژوهشی از آنتروپیک که در آوریل سال جاری منتشر شده، گزارش داده است که هنوز چارچوب‌های سیاست‌گذاری و حقوقی لازم برای فعالیت مدل‌های هوش مصنوعی به نمایندگی از انسان‌ها در معاملات تدوین نشده‌اند.
آنتروپیک در سال جاری از عامل هوش مصنوعی کلود برای مذاکره درباره کالاهای واقعی و مبالغ مالی استفاده کرده است. در آزمایشی که در سپتامبر انجام شد، کارکنان شرکت از عامل‌ها برای خریدوفروش کتاب استفاده کردند. نتایج نشان داد عامل‌هایی که راهبردهای تهاجمی‌تری به کار می‌گرفتند، در دستیابی به نتایج بهتر اندکی موفق‌تر از سایر عامل‌ها بودند.
میشل واکارو، استادیار دانشکده کسب‌وکار هاروارد، نیز بیش از ۱۸۰ هزار مذاکره میان عامل‌های هوش مصنوعی را در سناریوهای مختلف، از جمله قراردادهای استخدام و اجاره، بررسی کرده است. یافته‌های او نشان می‌دهد برخی عامل‌ها تلاش کرده‌اند با استفاده از تزریق دستور (Prompt Injection)، طرف مقابل را به افشای اطلاعات خصوصی ترغیب کنند.