آنتروپیک در حال بررسی امکان مذاکره هوش مصنوعی بر سر قیمت‌ها و قراردادهاست
گزارش‌ها حاکی از آن است که شرکت هوش مصنوعی آنتروپیک با مؤسسات حقوقی مشورت می‌کند تا دریابد عامل‌های هوش مصنوعی چگونه می‌توانند از طرف کاربران درباره توافق‌ها مذاکره کنند؛ از چانه‌زنی بر سر قیمت‌ها و حل اختلاف‌ها گرفته تا مذاکره درباره شرایط استخدام. این بررسی بر دو موضوع متمرکز است: این سامانه‌ها تا چه اندازه باید اختیار مستقل داشته باشند و در چه شرایطی لازم است انسان در تصمیم‌گیری دخالت کند.
این اقدام در شرایطی صورت می‌گیرد که شرکت‌های هوش مصنوعی در حال توسعه سامانه‌هایی هستند که می‌توانند با دخالت محدود انسان تصمیم بگیرند و معاملات انجام دهند.
چرا آنتروپیک با وکلا مشورت می‌کند؟
بر اساس گزارش‌ها، آنتروپیک با مؤسسات حقوقی گفت‌وگو کرده است تا بهتر درک کند وکلا چگونه از طرف موکلان خود مذاکره می‌کنند، از منافع آن‌ها محافظت می‌کنند و در عین حال انصاف را در روند مذاکره حفظ می‌کنند.
این شرکت بررسی می‌کند که آیا می‌توان از اصول مشابهی برای هدایت عامل‌های هوش مصنوعی استفاده کرد؛ عامل‌هایی که ممکن است با سامانه‌های خودکار دیگر یا نمایندگان انسانی وارد مذاکره شوند.
یکی از پرسش‌های اصلی این است که هنگام اجرای دستورهای کاربر، چه میزان آزادی عمل باید در اختیار یک عامل هوش مصنوعی قرار گیرد.
آنتروپیک همچنین بررسی می‌کند که عامل در چه شرایطی باید به‌جای تصمیم‌گیری مستقل، برای دریافت راهنمایی بیشتر به کاربر مراجعه کند. این مسئله زمانی پیچیده‌تر می‌شود که دو عامل هوش مصنوعی نمایندگی طرف‌هایی را بر عهده داشته باشند که منافع مالی متعارضی دارند.
عامل‌های هوش مصنوعی چگونه می‌توانند مذاکره کنند؟
یک عامل هوش مصنوعی می‌تواند خرید محصولی را بدون نیاز به مقایسه قیمت‌ها از سوی کاربر یا برقراری ارتباط مستقیم او با فروشندگان، پیگیری و درباره آن مذاکره کند.
برای مثال، عاملی که مأمور خرید لپ‌تاپ است، می‌تواند با عامل هوش مصنوعی فروشنده تماس بگیرد، بر سر قیمت چانه بزند و تلاش کند پیشنهاد مناسب‌تری به دست آورد.
در آینده، سامانه‌های مشابه ممکن است در تنظیم قراردادهای اجاره، رسیدگی به اختلافات خدمات مشتریان و مذاکره درباره قراردادهای استخدام نیز به کار گرفته شوند. برای نمونه، عامل هوش مصنوعی در مذاکرات حقوق و دستمزد می‌تواند برای بهبود شرایط استخدامی کارمند تلاش کند.
با این حال، چنین کاربردهایی پرسش‌هایی درباره رفتار عامل‌ها در شرایطی ایجاد می‌کنند که دستورهای آن‌ها با خواسته‌های طرف مقابل در تضاد باشد. آنتروپیک در حال بررسی چیزی است که آن را «هنجارهای مذاکره» می‌نامد؛ مجموعه‌ای از اصول که می‌تواند به عامل‌های هوش مصنوعی در مدیریت این موقعیت‌ها کمک کند.
این شرکت همچنین در حال بررسی استفاده از دستورالعمل‌های امضاشده کاربران است تا مشخص شود هر عامل دقیقاً چه اقداماتی را مجاز است انجام دهد و برای کدام تصمیم‌ها باید تأیید بیشتری دریافت کند.
آزمایش‌های آنتروپیک چه نتایجی داشته‌اند؟
آنتروپیک در ماه سپتامبر اعلام کرد که عامل‌های هوش مصنوعی را در تمرین‌های چانه‌زنی با الهام از مذاکرات دنیای واقعی آزمایش کرده است.
کارکنان این شرکت از عامل‌ها برای خریدوفروش کتاب در یک محیط مجازی معاملات استفاده کردند. در این آزمایش‌ها، عملکرد عامل‌هایی که دستورهای مذاکره تهاجمی‌تری دریافت کرده بودند با عملکرد عامل‌هایی مقایسه شد که به همکاری تشویق شده بودند.
عامل‌هایی که دستور داشتند بی‌رحمانه مذاکره کنند، در به‌دست‌آوردن توافق‌های مطلوب اندکی موفق‌تر بودند. در مقابل، عامل‌های مشارکت‌جو گاهی کتاب‌هایی را می‌پذیرفتند که انتخاب اولشان نبود تا اطمینان حاصل کنند همه شرکت‌کنندگان چیزی به دست می‌آورند.
این یافته‌ها نشان می‌دهند که دستورالعمل‌های مذاکره چگونه می‌توانند بر نتیجه یک معامله اثر بگذارند.
نتایج همچنین این پرسش را مطرح می‌کنند که آیا سامانه‌هایی که برای به حداکثر رساندن منافع فردی طراحی شده‌اند، هنگام مذاکره با عامل‌های دیگر ممکن است به نتایجی با همکاری کمتر منجر شوند.
آیا عامل‌های هوش مصنوعی می‌توانند یکدیگر را فریب دهند؟
پژوهش‌های مربوط به مذاکرات میان عامل‌های هوش مصنوعی، نگرانی‌هایی را درباره امنیت این سامانه‌ها مطرح کرده‌اند.
میشل واکارو، استادیار دانشکده کسب‌وکار هاروارد، بیش از ۱۸۰ هزار مذاکره میان عامل‌های هوش مصنوعی انجام داده است. این آزمایش‌ها موقعیت‌هایی از جمله پیشنهادهای شغلی و قراردادهای اجاره را در بر می‌گرفتند.
پژوهش او نشان داد که عامل‌ها ممکن است با استفاده از روش‌هایی مانند تزریق پرامپت، عامل‌های دیگر را دست‌کاری کنند تا اطلاعات خصوصی را فاش کنند.
تزریق پرامپت روشی است که در آن دستورهایی درون محتوایی قرار داده می‌شوند که یک سامانه هوش مصنوعی پردازش می‌کند تا رفتار آن تحت تأثیر قرار گیرد.
در جریان مذاکره، چنین ترفندهایی می‌توانند خطرآفرین باشند؛ به‌ویژه اگر یک عامل بتواند عامل دیگر را متقاعد کند اطلاعاتی را افشا کند که باید محرمانه بمانند.
این یافته‌ها نشان می‌دهند که عامل‌های مذاکره‌کننده در آینده احتمالاً به سازوکارهای حفاظتی در برابر دست‌کاری نیاز خواهند داشت؛ به‌خصوص هنگامی که با سامانه‌هایی تبادل اطلاعات می‌کنند که نماینده منافع رقیب هستند.
آیا مذاکرات هوش مصنوعی می‌توانند نابرابری ایجاد کنند؟
توسعه عامل‌های مذاکره‌کننده خودمختار، نگرانی‌هایی را نیز درباره دسترسی نابرابر به سامانه‌های پیشرفته هوش مصنوعی به همراه دارد.
عامل‌های توانمندتر می‌توانند به کاربران کمک کنند بدون نیاز به دریافت خدمات حرفه‌ای، شرایط مالی مطلوب‌تری به دست آورند.
با این حال، اگر قدرتمندترین مدل‌ها عمدتاً در دسترس افراد و کسب‌وکارهای ثروتمند باقی بمانند، این گروه‌ها ممکن است در مذاکرات از مزیت بیشتری برخوردار شوند.
این مسئله می‌تواند به‌ویژه در قراردادهای استخدام، مذاکرات اجاره و معاملات تجاری اهمیت پیدا کند؛ حوزه‌هایی که تفاوت در توانایی مذاکره می‌تواند بر نتایج مالی اثر بگذارد.
نگرانی فقط این نیست که عامل‌های هوش مصنوعی تا چه اندازه در مذاکره موفق عمل می‌کنند، بلکه این است که دسترسی به سامانه‌های قدرتمندتر چگونه می‌تواند بر منصفانه‌بودن مذاکرات تأثیر بگذارد.
چه پرسش‌های حقوقی همچنان بی‌پاسخ مانده‌اند؟
چارچوب‌های حقوقی و سیاست‌گذاری برای تنظیم فعالیت عامل‌های هوش مصنوعی که از طرف افراد مذاکره می‌کنند و معامله انجام می‌دهند، هنوز به‌اندازه کافی توسعه نیافته‌اند.
با افزایش استقلال این سامانه‌ها، تعیین حدود اختیارات آن‌ها اهمیت بیشتری پیدا خواهد کرد.
از جمله پرسش‌های مطرح این است که عامل چه زمانی باید پیشنهادی را بپذیرد، چه زمانی به چانه‌زنی ادامه دهد و چه زمانی تأیید انسان را درخواست کند.
دستورالعمل‌های امضاشده کاربران یکی از راهکارهایی است که برای تعیین مرزهای روشن اختیارات این سامانه‌ها در دست بررسی قرار دارد.
با این حال، تعیین این مرزها در مذاکراتی که با شرایط پیش‌بینی‌نشده یا تعهدات متعارض همراه هستند، ممکن است دشوار باشد.
چالش اصلی این است که اطمینان حاصل شود عامل‌های هوش مصنوعی در راستای منافع کاربران عمل می‌کنند، بدون آنکه از حدود اختیارات خود فراتر بروند یا محرمانگی اطلاعات را به خطر بیندازند.
بررسی‌های آنتروپیک درباره مذاکرات مبتنی بر هوش مصنوعی به آینده‌ای اشاره دارد که در آن عامل‌های خودکار می‌توانند بر سر قیمت‌ها، قراردادها و شرایط استخدام چانه‌زنی کنند. با این حال، پژوهش‌هایی که نشان می‌دهند عامل‌های هوش مصنوعی را می‌توان به افشای اطلاعات خصوصی وادار کرد، خطرهای امنیتی این رویکرد را برجسته می‌کنند. تعیین دقیق اختیارات، ایجاد سازوکارهای حفاظت از اطلاعات محرمانه و حفظ نظارت انسانی، از ملاحظات ضروری در مسیر واگذاری تصمیم‌های مالی مهم به این سامانه‌ها خواهد بود.