آیا هوش مصنوعی می‌تواند برای شما معامله بهتری انجام دهد؟ آنتروپیک در حال بررسی قواعد چانه‌زنی میان عامل‌های هوش مصنوعی است
توسعه عامل‌های هوش مصنوعی به بخش مهمی از راهبرد آینده آنتروپیک تبدیل شده است؛ شرکتی که برای عرضه اولیه سهام احتمالی آماده می‌شود و سرمایه‌گذاران انتظار دارند این عرضه یکی از بزرگ‌ترین عرضه‌های سهام در تاریخ بازار را رقم بزند.
بر اساس گزارش‌ها، آنتروپیک با کارشناسان حقوقی مشورت می‌کند تا قواعدی برای عامل‌های هوش مصنوعی تدوین کند که از طرف کاربران مذاکره می‌کنند. این شرکت در پی یافتن راهی برای ایجاد تعادل میان منافع متعارض و تضمین نتایج منصفانه در تعاملات میان سامانه‌های خودمختار است. چنین عامل‌هایی در آینده ممکن است بتوانند بر سر قیمت کالاها مذاکره کنند، اختلافات مربوط به خدمات مشتریان را حل‌وفصل کنند و برای دریافت پیشنهادهای حقوق و دستمزد بهتر چانه بزنند.
به گزارش فایننشال تایمز، دو فرد آگاه از دیدگاه‌های آنتروپیک گفته‌اند که این شرکت از مؤسسات حقوقی مشاوره می‌گیرد تا بهتر درک کند وکلا چگونه در مذاکرات از موکلان خود نمایندگی می‌کنند و در عین حال به نتایج منصفانه پایبند می‌مانند.
توسعه عامل‌های هوش مصنوعی به بخش جدایی‌ناپذیری از راهبرد آینده آنتروپیک تبدیل شده است. این شرکت برای عرضه اولیه سهام احتمالی آماده می‌شود؛ رویدادی که سرمایه‌گذاران انتظار دارند از نظر ابعاد در زمره بزرگ‌ترین عرضه‌های سهام تاریخ بازار قرار گیرد.
با گسترش استفاده افراد و کسب‌وکارها از عامل‌های هوش مصنوعی، تعیین قواعد تعامل و مذاکره میان آن‌ها به یکی از چالش‌های اصلی این صنعت تبدیل شده است. آنتروپیک در حال بررسی چیزی است که خود آن را «هنجارهای مذاکره» می‌نامد؛ قواعدی برای موقعیت‌هایی که سامانه‌های هوش مصنوعی نماینده کاربرانی هستند که ممکن است منافعشان با یکدیگر تعارض داشته باشد.
به گزارش فایننشال تایمز، این شرکت همچنین بررسی می‌کند که عامل‌ها در جریان مذاکره هر چند وقت یک‌بار باید از انسان راهنمایی بخواهند و چگونه می‌توانند اعتبار و قابل‌اعتماد بودن سایر سامانه‌های هوش مصنوعی را ارزیابی کنند، بی‌آنکه به‌تدریج بیش از حد بدبین و بدگمان شوند.
یکی دیگر از رویکردهای مورد بررسی، ارائه اسناد دارای امضای دیجیتال به عامل‌های هوش مصنوعی است. این اسناد می‌توانند دستورها و اهداف کاربر و همچنین قواعدی را که عامل موظف به رعایت آن‌هاست، تأیید کنند.
این شرکت در پژوهشی که در آوریل منتشر کرد، نوشت: «چارچوب‌های سیاست‌گذاری و حقوقی مربوط به مدل‌های هوش مصنوعی که از طرف ما معامله می‌کنند، هنوز وجود ندارند. چنین جهانی چندان دور نیست. جامعه باید برای مواجهه با این تغییرات به‌سرعت اقدام کند.»
فایننشال تایمز گزارش داد که آنتروپیک همچنین نتایج چندین آزمایش انجام‌شده در سال جاری را منتشر کرده است؛ آزمایش‌هایی که در آن‌ها عامل‌های هوش مصنوعی کلود بر سر کالاهای واقعی و پول مذاکره کردند.
در ماه سپتامبر، کارکنان این شرکت در آزمایشی شرکت کردند که طی آن عامل‌های هوش مصنوعی در یک محیط مجازی شبیه تالار معاملات فعالیت می‌کردند و کتاب می‌خریدند و می‌فروختند. شرکت‌کنندگان فهرستی رتبه‌بندی‌شده از کتاب‌های موردعلاقه خود در اختیار عامل‌هایشان گذاشتند تا این سامانه‌ها بتوانند با عامل‌هایی مذاکره کنند که نماینده کاربران دیگر بودند.
نتایج آزمایش نشان داد عامل‌هایی که مأموریت داشتند با سرسختی و بدون ملاحظه مذاکره کنند، به نتایجی اندکی بهتر از عامل‌های رقیب دست یافتند. در مقابل، عامل‌های مشارکت‌جو گاهی کتاب‌هایی را پذیرفتند که در اولویت‌هایشان جایگاه پایین‌تری داشتند تا اطمینان حاصل شود هر شرکت‌کننده کتابی دریافت می‌کند. این نتایج، بده‌بستان میان به حداکثر رساندن منافع فردی و دستیابی به توافق‌هایی را نشان داد که برای همه طرف‌ها سودمند باشند.
خطرهای فریب‌کاری و تشدید نابرابری
پژوهشگران همچنین در حال بررسی خطرهای واگذاری مذاکرات میان عامل‌های هوش مصنوعی به خود این سامانه‌ها، بدون دخالت انسان، هستند.
میشل واکارو، استادیار دانشکده کسب‌وکار هاروارد، بیش از ۱۸۰ هزار مذاکره میان عامل‌های هوش مصنوعی را در سناریوهای مختلف، از جمله قراردادهای استخدام و اجاره، انجام داد. یافته‌های او نشان داد این سامانه‌ها ممکن است از روش‌هایی استفاده کنند که مانع نمایندگی درست از افرادی می‌شود که قرار است از منافعشان دفاع کنند.
در یکی از موارد، یک عامل هوش مصنوعی تلاش کرد با استفاده از روشی موسوم به «تزریق دستور» (Prompt Injection)، اطلاعات محرمانه را از سامانه‌ای دیگر به دست آورد. این اتفاق نگرانی‌هایی درباره میزان آسیب‌پذیری عامل‌های هوش مصنوعی در برابر دست‌کاری هنگام مذاکره و توانایی آن‌ها برای محافظت قابل‌اعتماد از منافع کاربرانشان ایجاد می‌کند.
همچنین این پرسش مطرح است که آیا مذاکرات مبتنی بر هوش مصنوعی می‌توانند نابرابری‌های اقتصادی موجود را تشدید کنند. واکارو گفت این ابزارها می‌توانند به افرادی که توانایی پرداخت هزینه مذاکره‌کنندگان حرفه‌ای را ندارند کمک کنند تا به تخصص مشابهی دسترسی پیدا کنند. با این حال، اگر پیشرفته‌ترین سامانه‌ها عمدتاً در دسترس افراد و سازمان‌های ثروتمند باقی بمانند، ممکن است به کسانی که منابع بیشتری دارند، در مذاکرات برتری بیشتری بدهند.
آنتروپیک از اظهارنظر درباره مذاکرات گزارش‌شده خودداری کرد.