آیا عامل هوش مصنوعی شما برای تصمیم‌گیری درباره گام بعدی به یک مدل زبانی بزرگ نیاز دارد؟

thenewstack.io

انتشار در منبع: انتشار در سایت ما:

مقاله اصلی · English

اگر به یک عامل هوش مصنوعی صبح‌به‌خیر بگویید، ممکن است پیش از پاسخ‌دادن، سراغ حافظه بلندمدت خود برود. در بخشی از این سامانه، سرویسی برای جست‌وجوی معنایی اجرا می‌شود تا مشخص کند آیا این سلام‌واحوال‌پرسی به شناخت ترجیحات شما درباره نوشیدنی نیاز دارد یا نه. حتی اگر قهوه برایتان موضوع بسیار مهمی باشد، استفاده از چنین زیرساختی برای پاسخ به دو کلمه، بیش از حد پیچیده به نظر می‌رسد.

آیا این درخواست واقعاً به مدلی قدرتمندتر از گزینه‌های متداول نیاز دارد؟ آیا اطلاعات بازیابی‌شده از حافظه مرتبط هستند؟ آیا فرایند باید برای دریافت نظر یک انسان متوقف شود؟

مایک چمبرز، مهندس ارشد توسعه تجربه برنامه‌نویسی هوش مصنوعی در شرکت AWS، این ناکارآمدی و سردرگمی در تصمیم‌گیری را فرصتی برای بهبود می‌داند. او ماه گذشته، در رویداد AGNTCon + MCPCon North America 2026 در سن‌خوزه کالیفرنیا، در گفت‌وگو با نیک لوچزی، سردبیر ارشد The New Stack، توضیح داد که توسعه‌دهندگان چگونه می‌توانند از مدل‌های تصمیم‌گیر برای مدیریت قضاوت‌های کوچک و متعددی استفاده کنند که در مجموع، عملکرد یک عامل هوش مصنوعی را شکل می‌دهند.

مدل‌های تصمیم‌گیر که با نام‌های مدل‌های تصمیم‌گیری یا مدل‌های سیستم یک نیز شناخته می‌شوند، مدل‌های تخصصی هوش مصنوعی هستند که از میان مجموعه‌ای ثابت از گزینه‌ها انتخاب می‌کنند یا ورودی‌ها را بر اساس یک مقیاس امتیازدهی می‌کنند. خروجی آن‌ها احتمال‌هایی کالیبره‌شده است و برخلاف مدل‌های زبانی مولد، متن آزاد تولید نمی‌کنند. این مدل‌ها که با معرفی Jev از شرکت TypeSafe AI بیشتر شناخته شدند، امکان انجام قضاوت‌های سریع با تأخیر کم و همراه با امتیاز اطمینان مشخص را در نرم‌افزارها و گردش‌کارهای عامل‌محور فراهم می‌کنند. شرکت Strands Labs متعلق به AWS نیز اول اکتبر مدل تصمیم‌گیر متن‌باز خود را با نام Strands Decider 2B و با دو میلیارد پارامتر منتشر کرد.

یک دستور شرطی if با درک زبان طبیعی

چمبرز این رویکرد را چنین توصیف می‌کند: «انگار یک دستور if مبتنی بر عامل هوش مصنوعی را داخل کد خود قرار داده‌اید.»

توسعه‌دهندگان سال‌هاست از مدل‌های طبقه‌بندی استفاده می‌کنند. اما به گفته چمبرز در گفت‌وگو با The New Stack، ویژگی جالب نسل جدید مدل‌های تصمیم‌گیر این است که به لطف پیش‌آموزش عمومی، می‌توان آن‌ها را برای یک وظیفه طبقه‌بندی جدید به کار گرفت، بی‌آنکه ابتدا لازم باشد مدل اختصاصی خود را آموزش دهید. کافی است زمینه و اطلاعات موردنیاز را به زبان طبیعی در اختیار مدل بگذارید، پرسشی درباره آن مطرح کنید و یک امتیاز عددی دریافت کنید تا برنامه بر اساس آن مسیر بعدی را انتخاب کند.

در مدل‌هایی که چمبرز درباره آن‌ها صحبت می‌کند، این امتیاز تنها با یک گذر رو به جلو از شبکه عصبی محاسبه می‌شود. مدل نیازی به تولید دنباله‌ای از توکن‌ها ندارد. همین ویژگی باعث می‌شود مدل تصمیم‌گیر برای انتخاب‌هایی مناسب باشد که در مسیر اصلی پردازش هر درخواست قرار دارند. برای مثال، یک مسیریاب مدل می‌تواند با استفاده از امتیاز دریافتی، درخواست‌های معمولی را به مدل کوچک‌تر بفرستد و مدل قدرتمندتر را برای وظایف دشوارتر نگه دارد. صرفه‌جویی احتمالی در این روش، هم از سریع‌تر انجام‌شدن فرایند مسیریابی ناشی می‌شود و هم از کاهش هزینه پردازش‌های بعدی.

چه زمانی عامل هوش مصنوعی می‌تواند از جست‌وجوی حافظه صرف‌نظر کند؟

چمبرز این ایده را با استفاده از چارچوب متن‌باز Strands و سرویس Amazon Bedrock AgentCore Memory آزمایش کرد. او مدل Strands Decider را پیش از مرحله جست‌وجو در حافظه قرار داد تا مشخص کند آیا پیام ورودی به بازیابی اطلاعاتی از مکالمات قبلی نیاز دارد یا خیر. در این ساختار، یک سلام ساده می‌تواند بدون جست‌وجو مستقیماً پردازش شود؛ اما درخواستی که به اطلاعاتی وابسته است که کاربر قبلاً بیان کرده، همچنان جست‌وجوی حافظه را فعال می‌کند.

او کاربرد دیگری را نیز پس از بازیابی اطلاعات آزمایش کرد. سرویس حافظه ممکن است چند نتیجه برتر مرتبط با یک پرس‌وجو را برگرداند، اما همه این نتایج لزوماً ارتباط زیادی با وظیفه فعلی ندارند. مدل تصمیم‌گیر می‌تواند میزان ارتباط هر نتیجه را ارزیابی کند تا عامل فقط اطلاعات مرتبط را در زمینه‌ای قرار دهد که برای مدل ارسال می‌کند. تصمیم نخست می‌تواند از یک فراخوانی اضافی به سرویس جلوگیری کند و تصمیم دوم نیز حجم اطلاعات نامرتبطی را که مدل باید بررسی کند کاهش می‌دهد.

خروجی قابل پیش‌بینی همچنان به آزمایش نیاز دارد

قرارگرفتن یک مقدار عددی در فیلدی مشخص از یک خروجی JSON، اتصال مدل تصمیم‌گیر به برنامه را آسان می‌کند. اما برای اطمینان از اینکه این عدد به‌اندازه کافی قابل اعتماد است، باید آن را آزمایش کرد. چمبرز در این‌باره گفت: «اینکه آیا عدد به‌دست‌آمده درست است یا نه، چیزی است که باید با آزمایش بررسی کنید تا مشخص شود واقعاً چنین است یا خیر.»

چمبرز آزمایش خود درباره حافظه را همچنان کاری تجربی می‌داند. در این مصاحبه، موضوع پیامدهای افزایش حساسیت تصمیم‌ها نیز مطرح می‌شود. اگر عامل هوش مصنوعی یک ترجیح شخصی را نادیده بگیرد، ممکن است صرفاً پیشنهاد قهوه نامناسبی ارائه کند؛ اما شرایط زمانی متفاوت است که قرار باشد عامل پولی خرج کند. چمبرز معتقد است برای چنین موقعیت‌هایی باید سازوکارهای کنترلی خارج از چرخه تصمیم‌گیری عامل در نظر گرفته شوند و تصمیم‌هایی که بازگرداندن آن‌ها دشوار است، پیش از اجرا به تأیید انسان برسند.

برای تماشای توضیحات چمبرز درباره آزمایش حافظه و آشنایی با مسیرهای جدید استفاده توسعه‌دهندگان از مدل‌های تصمیم‌گیر متن‌باز، از کاربرد در اسناد گرفته تا رباتیک، مصاحبه کامل را در کانال یوتیوب The New Stack تماشا کنید.