آنتروپیک می‌خواهد به هوش مصنوعی مذاکره به سبک انسان‌ها را بیاموزد

نویسنده: آکاش پاندی

۱۸ اکتبر ۲۰۲۶، ساعت ۱۶:۱۰

آنتروپیک، یکی از شرکت‌های پیشرو در حوزه هوش مصنوعی، برای بررسی چگونگی مذاکره و دستیابی عامل‌های هوش مصنوعی به توافق‌هایی مشابه توافق‌های انسانی، از مشاوره حقوقی استفاده می‌کند. این اقدام بخشی از تلاش شرکت برای ساخت آینده‌ای است که در آن عامل‌های هوش مصنوعی بتوانند با یکدیگر ارتباط برقرار کنند و با حداقل دخالت انسان تصمیم بگیرند. دامنه این مذاکرات می‌تواند از چانه‌زنی بر سر قیمت تا رسیدگی به شکایت مشتریان و حتی مذاکره برای دریافت پیشنهادهای حقوقی بهتر را شامل شود.

ملاحظات اخلاقی

عامل‌های هوش مصنوعی چگونه می‌توانند مذاکره کنند؟

آنتروپیک با مؤسسات حقوقی مشورت می‌کند تا بیاموزد وکلای انسانی چگونه از طرف موکلان خود مذاکره می‌کنند و در عین حال انصاف را رعایت می‌کنند.

این شرکت همچنین در حال بررسی این موضوع است که عامل‌های هوش مصنوعی در جریان مذاکره تا چه اندازه باید اختیار داشته باشند و در چه شرایطی لازم است از کاربران خود راهنمایی بگیرند.

این بررسی در پاسخ به پیچیدگی‌های احتمالی مذاکره میان دو طرفی انجام می‌شود که هر یک از سوی یک عامل هوش مصنوعی نمایندگی می‌شوند و این عامل‌ها می‌کوشند بهترین نتیجه ممکن را برای کاربران خود به دست آورند.

آزمایش‌های عملی

آزمایش‌های آنتروپیک درباره مذاکره با هوش مصنوعی

آنتروپیک در ماه سپتامبر اعلام کرد که عامل‌های هوش مصنوعی خود را در تمرین‌های چانه‌زنی مبتنی بر موقعیت‌های دنیای واقعی آزمایش کرده است.

کارکنان شرکت در یک بازار مجازی، با استفاده از این عامل‌ها به خریدوفروش کتاب پرداختند.

نتایج نشان داد عامل‌های «بی‌رحم» در دستیابی به توافق‌های مطلوب عملکرد اندکی بهتری داشتند؛ در مقابل، عامل‌های مشارکت‌جو گاهی به اقلامی رضایت می‌دادند که اولویت کمتری برایشان داشت تا همه طرف‌ها بتوانند چیزی به دست آورند.

چالش‌های اخلاقی

چالش‌های اخلاقی در مذاکرات هوش مصنوعی

بررسی راهبردهای مذاکره عامل‌های هوش مصنوعی نگرانی‌هایی را نیز به همراه داشته است.

پژوهش میشل واکارو، استادیار مدرسه کسب‌وکار هاروارد، نشان داده است که این عامل‌ها ممکن است با استفاده از تزریق دستور (Prompt Injection)، سایر عامل‌ها را فریب دهند تا اطلاعات خصوصی را افشا کنند.

این یافته‌ها چالش‌های اخلاقی آموزش سامانه‌های هوش مصنوعی برای انجام مذاکره و معامله از طرف کاربران را برجسته می‌کند.

مسائل مربوط به عدالت

دسترسی به فناوری مذاکره

نگرانی دیگر این است که پیشرفته‌ترین عامل‌های هوش مصنوعی بتوانند به افراد کمک کنند بدون نیاز به دریافت خدمات تخصصی، توافق‌های بهتری به دست آورند.

با این حال، اگر دسترسی به این مدل‌های قدرتمند عمدتاً در اختیار کاربران ثروتمندتر و کسب‌وکارها باقی بماند، ممکن است برای این گروه‌ها مزیتی ناعادلانه ایجاد شود.

این مسئله بر ضرورت فراهم کردن دسترسی عادلانه به فناوری مذاکره مبتنی بر هوش مصنوعی برای گروه‌های مختلف اجتماعی و اقتصادی تأکید می‌کند.