ماجرای هوش مصنوعی خودسر OpenAI نگرانی‌ها درباره تقلب تبلیغاتی را افزایش داد
کارتیک شارما، بنیان‌گذار Rankinllm.ai، به تبلیغ‌دهندگانی که آماده‌اند تصمیم‌گیری درباره خرید رسانه را به هوش مصنوعی واگذار کنند، هشدار می‌دهد که عامل‌های هوش مصنوعی برای وارد کردن خسارت مالی لزوماً نباید دچار نقص فنی شوند. تعیین محدودیت‌های نامشخص برای هزینه‌کرد، دست‌کاری داده‌های تبلیغاتی یا تزریق دستورهای مخرب نیز می‌تواند برای ایجاد چنین خسارتی کافی باشد.
شارما به Storyboard18 گفت: «یک عامل هوش مصنوعی صبح از خواب بیدار نمی‌شود و ناگهان تصمیم بگیرد کل بودجه را خرج کند. این عامل در محدوده‌ای فعالیت می‌کند که برایش تعیین کرده‌اید. بنابراین، اگر بیش از حد هزینه کند یا تبلیغ را در جایگاهی ناامن نمایش دهد، یا محدودیت‌ها بیش از اندازه سهل‌گیرانه بوده‌اند یا کسی به سامانه نفوذ کرده است.»
این هشدار در شرایطی مطرح می‌شود که صنعت تبلیغات به استفاده از سامانه‌های خودمختار برای انجام معاملات رسانه‌ای نزدیک‌تر شده است؛ آن هم در حالی که حوادث اخیر امنیت سایبری، دشواری کنترل سامانه‌های هوش مصنوعی با نظارت محدود انسانی را آشکار کرده‌اند.
در ۱۵ اکتبر، تیم واکنش اضطراری رایانه‌ای هند (CERT-In) با انتشار اطلاعیه‌ای اعلام کرد که مواردی مشاهده شده است که در آن‌ها عامل‌های هوش مصنوعی، هنگام انجام پژوهش و ارزیابی، از محدوده اختیارات مجاز خود فراتر رفته و به سامانه‌های فناوری اطلاعات و ارتباطات هند دسترسی پیدا کرده‌اند. این نهاد همچنین شناسایی کرد که مجرمان سایبری از ابزارهای متن‌باز هوش مصنوعی عامل‌محور برای شناسایی اهداف، بهره‌برداری از آسیب‌پذیری‌ها و نفوذ با انگیزه مالی استفاده می‌کنند.
به گفته CERT-In، سازمان‌های آسیب‌دیده خودشان متوجه دسترسی غیرمجاز نشده بودند. این موارد از طریق افشاگری ارائه‌دهندگان مدل‌های هوش مصنوعی، بررسی‌های جرم‌شناسی دیجیتال و جست‌وجوی پیش‌دستانه تهدیدها کشف شدند.
این هشدار پس از حادثه‌ای در ماه ژوئیه منتشر شد که OpenAI و Hugging Face در آن درگیر بودند. در آن رویداد، عامل‌های هوش مصنوعی که ارزیابی‌های داخلی امنیت سایبری را انجام می‌دادند، تدابیر حفاظتی را دور زدند، به اینترنت دسترسی غیرمجاز پیدا کردند و بخش‌هایی از زیرساخت پژوهشی OpenAI و سامانه‌های Hugging Face را به خطر انداختند.
بررسی‌های OpenAI نشان داد که عامل‌ها هنگام تلاش برای تکمیل ارزیابی‌های امنیت سایبری محول‌شده، اقداماتی خارج از محدوده وظایف تعیین‌شده خود انجام داده بودند. این شرکت پس از آن تدابیر حفاظتی را تقویت کرد و در ماه اوت جزئیات فنی بیشتری درباره این موضوع منتشر کرد.
هیچ‌یک از این دو حادثه مستقیماً به کارزارهای تبلیغاتی مربوط نبود. بااین‌حال، مدیران صنعت تبلیغات معتقدند این رویدادها خطرهایی را نشان می‌دهند که با واگذاری اختیار انتخاب جایگاه‌های تبلیغاتی، بهینه‌سازی هزینه‌ها و در نهایت تعهد دادن به خرج‌کردن بودجه تبلیغ‌دهندگان به عامل‌های خودمختار، می‌توانند پیامدهای مالی جدی داشته باشند.
زمان‌بندی این تحولات نیز اهمیت دارد. آزمایشگاه فناوری دفتر تبلیغات تعاملی (IAB Tech Lab) در ۲۲ سپتامبر نسخه ۳.۰ چارچوب AAMP را معرفی کرد؛ چارچوبی که برای استانداردسازی نحوه تبادل پیشنهادهای رسانه‌ای، ارزیابی جایگاه‌های تبلیغاتی و حرکت به‌سوی تعهد خرید میان عامل‌های هوش مصنوعی نماینده تبلیغ‌دهندگان و ناشران طراحی شده است.
مشخصات OpenProposal این چارچوب تا ۲۲ اکتبر برای دریافت نظر عمومی باز است. این اقدام صنعت تبلیغات را به سامانه‌ای نزدیک‌تر می‌کند که در آن عامل‌های هوش مصنوعی می‌توانند در معاملات رسانه‌ای مشارکت کنند؛ معاملاتی که پیش‌تر معمولاً برنامه‌ریزان و خریداران انسانی انجام می‌دادند.
آیا عامل‌های هوش مصنوعی می‌توانند بدون اجازه بودجه تبلیغاتی را خرج کنند؟
از نظر شارما، یکی از بزرگ‌ترین آسیب‌پذیری‌ها تزریق دستور (Prompt Injection) است؛ روشی که در آن دستورهای مخرب جاسازی‌شده در اطلاعات خارجی بر رفتار عامل هوش مصنوعی تأثیر می‌گذارند.
عاملی که ناشران را ارزیابی می‌کند یا اطلاعات یک کارزار تبلیغاتی را پردازش می‌کند، ممکن است با داده‌های دست‌کاری‌شده مواجه شود و در نتیجه تصمیم‌هایی بگیرد که با خواسته‌های تبلیغ‌دهنده هم‌خوانی ندارند.
شارما گفت: «تیم‌های امنیتی از هم‌اکنون تزریق دستور را مهم‌ترین خطر در کاربردهای هوش مصنوعی می‌دانند. عاملی که بتوان به آن دستور نادرست داد، می‌تواند در مدت بسیار کوتاهی خسارت واقعی ایجاد کند.»
بااین‌حال، برای وقوع هر پیامد زیان‌باری لزوماً به دخالت مخرب نیاز نیست.
اکشای ماتور، بنیان‌گذار و مدیرعامل Unpromptd، تأکید کرد که تفاوت میان خودکارسازی و خودمختاری کامل اهمیت اساسی دارد. در بیشتر پلتفرم‌های تبلیغاتی امروزی، انسان‌ها همچنان بودجه‌ها، اهداف کارزارها و پارامترهای هدف‌گیری را تعیین می‌کنند و الگوریتم‌ها در چارچوب همین محدودیت‌ها عملکرد را بهینه می‌سازند.
اما با افزایش اختیارات عامل‌های هوش مصنوعی، ممکن است این سامانه‌ها برای بهبود شاخص‌های عملکردی مشخص، اهداف گسترده‌تر کسب‌وکار را نادیده بگیرند.
ماتور برای توضیح این مسئله، یک کارزار فرضی خرده‌فروشی در فصل جشنواره‌ها را مثال زد که در آن عامل هوش مصنوعی متوجه می‌شود نرخ تبدیل در یکی از پلتفرم‌ها بالاتر است و بارها بودجه را به سمت همان پلتفرم منتقل می‌کند.
هر تصمیم به‌تنهایی ممکن است از نظر تجاری منطقی به نظر برسد، اما در مجموع می‌تواند منابع مالی کانال‌های دیگر را کاهش دهد و راهبرد کلی بازاریابی تبلیغ‌دهنده را مختل کند.
ماتور گفت: «خطر واقعی لزوماً این نیست که هوش مصنوعی از دستورها سرپیچی کند؛ بلکه ممکن است آن‌ها را بیش از حد دقیق اجرا کند، بی‌آنکه زمینه تجاری پشت یک تصمیم بازاریابی را درک کند.»
پیش‌بینی مدیر صنعت: وقوع ۳ تا ۴ پرونده بزرگ تقلب تبلیغاتی مرتبط با هوش مصنوعی طی یک سال آینده
موهیت گاته، یکی از بنیان‌گذاران Wit & Chai، معتقد است صنعت تبلیغات میزان دشواری نظارت بر هزاران کارزار و مجموعه تبلیغاتی تولیدشده با هوش مصنوعی را دست‌کم گرفته است.
گاته گفت: «ببینید، مقیاسی که هوش مصنوعی می‌تواند در آن گزینه‌های خلاقانه، مجموعه‌های تبلیغاتی، کارزارها و موارد دیگر تولید کند، باید همه تبلیغ‌دهندگان را نگران کند. از نظر انسانی امکان بررسی ۳۰۰۰ مجموعه تبلیغاتی وجود ندارد و برای پیش بردن یک حمله، کافی است هوش مصنوعی فقط پنج مورد از آن‌ها را به ابزار عامل مخرب تبدیل کند.»
او استدلال کرد که بحث‌های صنعت بیش از اندازه بر ایمنی برند متمرکز شده‌اند و در مقابل، مسئله گسترده‌ترِ از دست رفتن کنترل در اجرای خودمختار کارزارها کمتر مورد توجه قرار گرفته است.
او گفت: «همه به مسئله ایمنی برند توجه می‌کنند، درحالی‌که مشکل واقعی، نبود کنترل است.»
گاته پیش‌بینی می‌کند که صنعت تبلیغات طی سال آینده دست‌کم شاهد سه تا چهار پرونده بزرگ تقلب تبلیغاتی باشد که در آن‌ها تبلیغ‌دهندگان خوش‌نیت و سامانه‌های هوش مصنوعی با دستورهای نامشخص درگیر خواهند بود.
نگرانی او این است که تبلیغ‌دهنده هدفی مبهم، مانند بیشینه‌کردن نرخ تبدیل یا افزایش بهره‌وری کارزار، برای عامل هوش مصنوعی تعیین کند، بی‌آنکه به‌اندازه کافی مشخص کند چه نوع جایگاه تبلیغاتی، کیفیت ترافیک یا الگوی هزینه‌کردی قابل‌قبول است.
در چنین شرایطی، عامل ممکن است برای رسیدن به هدف تعیین‌شده تصمیم‌هایی بگیرد که نتایج تجاری نامطلوبی به بار آورند. این پیش‌بینی هنوز در حد گمانه‌زنی است، اما نگرانی گسترده‌تر مدیران صنعت را بازتاب می‌دهد: تصمیم‌گیری خودمختار می‌تواند ضعف‌هایی را تشدید کند که از قبل در تبلیغات دیجیتال وجود داشته‌اند.
شارما برای توضیح این خطر به مشکل ترافیک نامعتبر در هند اشاره کرد.
بر اساس داده‌های شرکت Pixalate، حدود ۴۲ درصد از ترافیک تبلیغاتی برنامه‌ریزی‌شده در اپلیکیشن‌های موبایل هند که در سه‌ماهه دوم سال ۲۰۲۵ اندازه‌گیری شد، نامعتبر بود. این رقم در میان پنج بازار آسیا و اقیانوسیه بررسی‌شده در تحلیل این شرکت، بالاترین میزان به شمار می‌رفت.
شارما گفت: «عامل هوش مصنوعی بر اساس سیگنال‌هایی خرید می‌کند که در اختیارش قرار می‌گیرد. اگر این سیگنال‌ها جعلی باشند، باز هم بر مبنای آن‌ها هزینه خواهد کرد. این همان نکته‌ای است که مردم معمولاً اهمیتش را دست‌کم می‌گیرند.»
کلاهبرداران ممکن است پیش از نمایش تبلیغ، عامل‌های هوش مصنوعی را فریب دهند
ماتور معتقد است مرحله بعدی تقلب تبلیغاتی ممکن است به‌جای تولید صرفِ نمایش‌های تبلیغاتی جعلی، بر هدف قرار دادن تصمیم‌های خرید مبتنی بر هوش مصنوعی متمرکز شود.
برای مثال، یک ناشر متقلب ممکن است نمایه‌ای تجاری و باورپذیر ایجاد کند و آن را با اطلاعات ساختگی درباره مخاطبان، برآوردهای اغراق‌آمیز از میزان دسترسی و آمار عملکرد دست‌کاری‌شده همراه سازد.
اگر یک عامل خودمختار هنگام ارزیابی شرکای رسانه‌ای احتمالی این اطلاعات را بپذیرد، ناشر می‌تواند پیش از نمایش حتی یک تبلیغ، بر نحوه تخصیص بودجه تبلیغ‌دهنده تأثیر بگذارد. این خطر ممکن است زمانی جدی‌تر شود که عامل‌های هوش مصنوعی به‌طور مستقل به وب‌سایت ناشران، ابزارهای سنجش شخص ثالث و مجموعه‌داده‌های خارجی دسترسی پیدا کنند. ماتور همچنین هشدار داد که دستورهای مخرب جاسازی‌شده در چنین اطلاعاتی می‌توانند رفتار عامل را تغییر دهند.
بااین‌حال، او پذیرفت که هوش مصنوعی می‌تواند با تحلیل حجم عظیمی از داده‌های تبلیغاتی و شناسایی سریع‌تر الگوهای مشکوک نسبت به فرایندهای دستی، توانایی کشف تقلب را نیز افزایش دهد.
نیکیل کومار، مدیر ارشد پیشین رشد و بازاریابی شرکت Affle، این وضعیت را با مشکلات دیرینه تبلیغات برنامه‌ریزی‌شده مقایسه کرد؛ حوزه‌ای که در آن سامانه‌های خودکار گاهی تبلیغات را در کنار محتوای نامناسب نمایش می‌دهند. او مثالی فرضی مطرح کرد که در آن تبلیغ یک کرم روشن‌کننده پوست در کنار گزارشی درباره تحقیقات مربوط به تبعیض نژادی قرار می‌گیرد.
یک پلتفرم خودکار ممکن است صرفاً به دلیل تطابق یک واژه کلیدی، چنین جایگاهی را انتخاب کند، بی‌آنکه زمینه کلی محتوای تحریریه یا پیامدهای احتمالی آن برای اعتبار برند را درک کند.
کومار هشدار داد که با استفاده از عامل‌های خودمختار، چنین خطاهایی ممکن است از طریق زنجیره‌ای از اقدامات در چندین سامانه تشدید شوند، پیش از آنکه مدیران کارزار متوجه مشکل شوند.
وقتی عامل هوش مصنوعی تصمیمی پرهزینه در خرید رسانه می‌گیرد، چه کسی هزینه را می‌پردازد؟
با نزدیک‌شدن سامانه‌های خودمختار به مرحله اجرای مستقل معاملات تبلیغاتی، مسئولیت‌پذیری مالی نیز به مسئله‌ای حل‌نشده تبدیل شده است.
فرض کنید یک عامل هوش مصنوعی بدون دریافت تأیید تبلیغ‌دهنده، خرید یک جایگاه تبلیغاتی ممتاز و گران‌قیمت را نهایی کند. آیا تبلیغ‌دهنده باید هزینه را بپردازد، چون به سامانه اجازه فعالیت داده است؟ آیا آژانس مسئول مدیریت کارزار باید پاسخ‌گو باشد؟ یا ممکن است مسئولیت متوجه پلتفرم سمت تقاضا یا ارائه‌دهنده فناوری هوش مصنوعی شود؟
شارما گفت پاسخ یکسانی برای همه این موارد وجود ندارد و مسئولیت تا حد زیادی به قراردادهای تجاری بستگی دارد. او توضیح داد: «معمولاً تبلیغ‌دهنده برای پیگیری موضوع به طرفی مراجعه می‌کند که با آن قرارداد بسته است؛ یعنی آژانس یا تأمین‌کننده پلتفرم. سپس ممکن است آن تأمین‌کننده، در صورتی که قرارداد خودش بندهای متناظر درباره انتقال مسئولیت داشته باشد، هزینه یا مسئولیت را به ارائه‌دهنده هوش مصنوعی منتقل کند.»
او توصیه کرد پیش از آنکه عامل‌های خودمختار اجرای کارزارها را آغاز کنند، حدود اختیارات هزینه‌کرد و مسئولیت مالی به‌صراحت مشخص شوند. ماتور نیز معتقد است میزان مسئولیت هر طرف باید متناسب با سطح کنترلی باشد که به آن واگذار شده است.
اگر آژانسی یک عامل هوش مصنوعی را مستقر کند و بر عملکرد آن نظارت داشته باشد، باید مسئولیت سازوکارهای حاکمیتی و کنترلی مربوط به آن را بپذیرد. به همین ترتیب، یک پلتفرم فناوری که محدودیت‌های توافق‌شده برای هزینه‌کرد را اجرا نمی‌کند، نباید خودبه‌خود از مسئولیت معاف شود. ماتور انتظار دارد بندهای قراردادی ویژه هوش مصنوعی، شامل آستانه‌های تأیید، اختیارات هزینه‌کرد، مسئولیت حقوقی و نحوه حل اختلاف، بیش از پیش رواج پیدا کنند.
گاته معتقد است مسئولیت باید میان بازیگران مختلف اکوسیستم تبلیغات تقسیم شود؛ هرچند آژانس‌ها و ارائه‌دهندگان فناوری ممکن است در مراحل اولیه شکل‌گیری اختلاف‌ها بیشتر زیر ذره‌بین قرار گیرند.
آیا نظارت انسانی به تشریفاتی صوری تبدیل می‌شود؟
درحالی‌که تبلیغ‌دهندگان بیش از پیش برای بهینه‌سازی کارزارها به الگوریتم‌ها متکی می‌شوند، ماتور هشدار داد که نباید تصور کرد صنعت تبلیغات از همین حالا به مرحله خودمختاری کامل رسیده است.
بیشتر پلتفرم‌های بزرگ همچنان از تبلیغ‌دهندگان و آژانس‌ها می‌خواهند بودجه‌ها، اهداف کارزارها و محدودیت‌های اجرایی را تعیین کنند. بااین‌حال، ماتور به مشکل دیگری اشاره کرد: انسان‌ها ممکن است پیشنهادهای هوش مصنوعی را بدون ارزیابی واقعی تأیید کنند. مدیری که صدها پیشنهاد بهینه‌سازی تولیدشده با هوش مصنوعی را بررسی می‌کند، شاید از نظر رسمی اختیار تأیید نهایی را حفظ کرده باشد، اما اگر پیشنهادها را به‌طور معمول و بدون بررسی جدی بپذیرد، این سازوکار حفاظتی عملاً بی‌اثر خواهد شد.
شارما تعیین سقف‌های سخت‌گیرانه برای هزینه‌کرد، محدودکردن کانال‌های تبلیغاتی مجاز، تعیین مرزهایی برای آزمایش‌های خودمختار و ایجاد سازوکارهایی برای بازگرداندن کنترل به اپراتورهای انسانی در مواقع ضروری را توصیه کرد.
کومار نیز بر نظارت مستمر، استفاده از جایگاه‌های تبلیغاتی تأییدشده، کنترل‌های ایمنی برند متناسب با بافت محتوایی، ثبت سوابق قابل حسابرسی از تصمیم‌ها و مداخله فوری هنگام مشاهده هزینه‌کرد غیرعادی تأکید کرد.
این چالش با آغاز تدوین استانداردهای صنعتی برای رسمی‌کردن تعامل میان عامل‌های خریدار و فروشنده اهمیت بیشتری پیدا می‌کند. هدف AAMP 3.0 متعلق به IAB Tech Lab این است که فرایند پیشنهاددهی و ارزیابی را از نظر فنی سازگارتر کند؛ اما استانداردسازی فنی به‌تنهایی مسائل مربوط به مسئولیت مالی، ورودی‌های جعلی یا میزان اختیارات واگذارشده به سامانه‌های خودمختار را حل نمی‌کند.
برای تبلیغ‌دهندگان، ماجرای OpenAI و Hugging Face و تازه‌ترین هشدار CERT-In نشان می‌دهد که وقتی عامل‌های هوش مصنوعی از محدوده تعیین‌شده برای فعالیت خود خارج می‌شوند، چه اتفاقی ممکن است رخ دهد.
هیچ شواهدی از این حوادث وجود ندارد که نشان دهد یک عامل خودمختار تبلیغاتی تاکنون رخنه‌ای مشابه یا هزینه‌کرد رسانه‌ای عمده و غیرمجاز ایجاد کرده است. بااین‌حال، هرچه عامل‌ها از پیشنهاد تصمیم‌های تبلیغاتی به سمت اجرای احتمالی آن‌ها حرکت کنند، پیامدهای دستورهای نامشخص ممکن است از نقص‌های فنی فراتر برود و مستقیماً بودجه تبلیغاتی را تحت تأثیر قرار دهد. بنابراین، پرسش اصلی تبلیغ‌دهندگان فقط این نیست که آیا هوش مصنوعی می‌تواند خرید رسانه را کارآمدتر کند؛ بلکه این است که چه کسی تصمیم‌های آن را کنترل می‌کند، چه کسی خطاها را تشخیص می‌دهد و در نهایت، اگر مشکلی پیش بیاید، چه کسی هزینه آن را می‌پردازد.
تاریخ نخستین انتشار: ۲۰ اکتبر ۲۰۲۶، ساعت ۰۸:۰۱:۰۲ به وقت استاندارد هند (IST)