درون سازوکار تبلیغات چت‌جی‌پی‌تی؛ هماهنگی بازیابی، رتبه‌بندی و مزایده با کمک مدل زبانی بزرگ
مهندسی سامانه‌های هوش مصنوعی
تیم OpenTools | ۲۱ اکتبر ۲۰۲۶
اوپن‌ای‌آی می‌گوید سامانه تبلیغاتی چت‌جی‌پی‌تی از یک نشست تبلیغاتی با وضعیت پایدار و مدلی آموزش‌دیده پس از مرحله آموزش اولیه استفاده می‌کند که ابزارهای بازیابی، بررسی شرایط نمایش، امتیازدهی و مزایده را فراخوانی می‌کند. انتخاب تبلیغات در سرویسی جدا از تولید پاسخ انجام می‌شود. این معماری نمونه‌ای عملی از طراحی یک سامانه در محیط تولید در اختیار توسعه‌دهندگان قرار می‌دهد؛ بااین‌حال، باید ادعاهای شرکت درباره حریم خصوصی و عملکرد را از شواهد مستقلی که این ادعاها را تأیید می‌کنند، متمایز دانست.
هماهنگ‌کننده، مکالمه را فرایندی با وضعیت متغیر در نظر می‌گیرد
بر اساس مطلب مهندسی اوپن‌ای‌آی که در ۲۱ اکتبر منتشر شد، سامانه تبلیغاتی چت‌جی‌پی‌تی به‌جای آنکه هر پیام را به یک جست‌وجوی مستقل تبدیل کند، وضعیت نشست تبلیغاتی را در طول مکالمه حفظ می‌کند. یک مدل زبانی سفارشی که با آموزش تکمیلی آماده شده است، مکالمه را تفسیر می‌کند و تصمیم می‌گیرد چه زمانی ابزارهای بازیابی، رتبه‌بندی، سنجش ارتباط و مزایده را به کار بگیرد.
این طراحی با ماهیت گفت‌وگو سازگار است؛ زیرا ممکن است قصد تجاری کاربر به‌تدریج و در جریان مکالمه مشخص شود. بااین‌حال، خطر استفاده از زمینه‌ای کهنه نیز وجود دارد: ممکن است اشاره‌ای که کاربر پیش‌تر به یک محصول کرده است، دیگر بیانگر خواسته فعلی او نباشد. اوپن‌ای‌آی می‌گوید هماهنگ‌کننده با تغییر روند گفت‌وگو، برداشت خود از قصد کاربر را بازنویسی می‌کند.
بازیابی، احراز شرایط نمایش و مزایده، مراحل جداگانه‌ای هستند
در فرایندی که اوپن‌ای‌آی توصیف کرده است، ابتدا پرس‌وجوهای معنایی ساخته می‌شوند و مجموعه گسترده‌ای از تبلیغات احتمالی بازیابی می‌شود. سپس تبلیغات فاقد شرایط لازم کنار گذاشته می‌شوند، میزان ارتباط هر گزینه و احتمال تعامل کاربر با آن امتیازدهی می‌شود و در نهایت، گزینه‌های منتخب برای شرکت در مزایده معرفی می‌شوند. مدل زبانی مستقیماً قیمت را تعیین نمی‌کند و به‌تنهایی نیز برنده مزایده را انتخاب نمی‌کند.
این تفکیک برای طراحی دیگر سامانه‌های مبتنی بر عامل‌های هوش مصنوعی نیز مفید است. تفسیر معنایی باید از قواعد قطعی احراز شرایط و تصمیم‌های معاملاتی جدا بماند. ثبت گزارش از هر مرحله نیز کمک می‌کند علت نتیجه ناموفق مشخص شود: آیا مشکل از بازیابی، سیاست‌ها، بودجه، رتبه‌بندی، مزایده یا تحویل تبلیغ بوده است، یا اینکه صرفاً به‌طور مبهم به خطای مدل نسبت داده می‌شود؟
نمایش ندادن تبلیغ یا نمایش دیرهنگام آن، نتایج قابل‌قبول طراحی هستند
اوپن‌ای‌آی می‌گوید بازگرداندن نتیجه‌ای بدون تبلیغ، در این سامانه یک خروجی موفق و عادی محسوب می‌شود. حتی پس از برگزاری مزایده نیز هماهنگ‌کننده می‌تواند از نمایش تبلیغی صرف‌نظر کند که با زمینه نهایی مکالمه نامتناسب به نظر می‌رسد. همچنین، اگر تبلیغ پس از آماده شدن پاسخ چت‌جی‌پی‌تی برسد، رابط کاربری آن را نمایش نمی‌دهد.
این سازوکارها مانع از آن می‌شوند که یک سامانه جانبی به بخشی اجباری از فرایند ارائه پاسخ اصلی تبدیل شود. توسعه‌دهندگان می‌توانند همین الگو را برای پیشنهاد محتوا یا معرفی ابزارها نیز به کار بگیرند: برای پاسخ‌گویی به درخواست اصلی کاربر، محدودیت زمانی مشخصی در نظر بگیرند، نبود نتیجه را بپذیرند و اجازه ندهند پردازش‌های اختیاری کار اصلی کاربر را به تأخیر بیندازند.
ادعای جداسازی سرویس‌ها باید در عمل آزمایش شود
اوپن‌ای‌آی می‌گوید سرویس تبلیغات از مدل‌ها و کدهایی جدا از سامانه تولید پاسخ استفاده می‌کند؛ بنابراین، اختلال در سرویس تبلیغات نباید پاسخ عادی سامانه را کند کند یا تغییر دهد. این شرکت همچنین اعلام کرده است که تبلیغات به‌وضوح برچسب‌گذاری می‌شوند و بر پاسخ‌ها تأثیری ندارند. این موارد ادعاهای مهمی درباره محصول هستند، اما در گزارش حاضر به‌عنوان یافته‌هایی که مستقلاً تأیید شده باشند، ارائه نشده‌اند.
در یک سامانه مشابه، باید جداسازی خطاها، به حداقل رساندن داده‌های زمینه‌ای، مدت نگهداری اطلاعات، دسترسی به گزارش‌ها و مرز میان بازخوردهای رتبه‌بندی و آموزش مدل اصلی آزمایش شوند. اگر داده‌های اندازه‌گیری‌شده در دسترس قرار گرفتند، لازم است توزیع خطاها و تأخیرها نیز منتشر شود؛ زیرا نمودارهای معماری به‌تنهایی نمی‌توانند حریم خصوصی یا بی‌طرفی سامانه را اثبات کنند.
تصویر از تیم OpenTools؛ در تهیه آن از محتوای بیانی متعلق به اشخاص ثالث استفاده نشده است. این تصویر مراحل اعلام‌شده سامانه و مرزهای بروز خطا در هر مرحله را نشان می‌دهد.