توقف موقت Just Eat در استفاده از تصاویر غذایی تولیدشده با هوش مصنوعی؛ ۳ نکته کلیدی
شرکت Just Eat پس از آن عذرخواهی کرد که تصاویر غذایی تولیدشده با هوش مصنوعی در اپلیکیشن این شرکت منتشر شد و در یکی از آن‌ها، تخم‌مرغ سرخ‌شده و سوسیس داخل لیوانی پر از نوشابه کولا شناور بودند. شرکت اعلام کرده است که تصاویر نادرست را حذف می‌کند و تا زمان توسعه بیشتر این ابزار، اجرای آن را موقتاً متوقف کرده است. این تصاویر در جریان آزمایشی تولید شده بودند که هدف آن، افزودن عکس به غذاهای منو فاقد تصویر بود؛ اما نتایج این آزمایش به‌سرعت در شبکه‌های اجتماعی و رسانه‌های بریتانیا دست‌به‌دست شد.
این اتفاق از نظر مالی احتمالاً محدود است، اما درس‌های مهمی دارد. اپلیکیشن سفارش غذا در واقع وعده‌ای به مشتری می‌دهد: غذایی که در تصویر می‌بیند، باید تا حد زیادی با چیزی که به دستش می‌رسد مطابقت داشته باشد. وقتی یک ماشین تصویری خیالی تولید می‌کند، این اعتماد متزلزل می‌شود. ابزارهای تولید تصویر با هوش مصنوعی به‌سرعت در حال پیشرفت‌اند؛ برای نمونه، مدل تولید تصویر Craft شرکت Canva در نخستین حضور خود در رتبه چهارم DesignArena قرار گرفت. بااین‌حال، بهتر شدن عملکرد کلی این ابزارها به معنای از بین رفتن خطاهایی نیست که می‌توانند با انتشار یک تصویر در فضای مجازی خبرساز شوند.
در این بررسی، آنچه Just Eat رسماً تأیید کرده، خطاهایی که رسانه‌ها گزارش داده‌اند، اطلاعاتی که شرکت هنوز منتشر نکرده و پیامدهای این اتفاق برای پلتفرم‌های سفارش غذا و رستوران‌های وابسته به آن‌ها بررسی می‌شود. همچنین پنج پیش‌بینی درباره مسیر آینده تصاویر غذایی تولیدشده با هوش مصنوعی ارائه شده است.
چه اتفاقی افتاد؟ عذرخواهی Just Eat و توقف ابزار
Just Eat پس از انتشار تصاویر تولیدشده با هوش مصنوعی که غذاهای منو را به‌اشتباه نمایش می‌دادند، عذرخواهی کرد. روزنامه ایندیپندنت، بی‌بی‌سی، Restaurant Online، Grocery Gazette و چند رسانه دیگر این ماجرا را پوشش دادند. نخستین گزارش‌ها حدود ۱۹ اکتبر منتشر شدند و پیگیری‌های خبری تا ۲۳ اکتبر ادامه یافت. الجزیره نیز عذرخواهی شرکت را گزارش کرد و به گسترش خبر فراتر از رسانه‌های تخصصی صنعت غذا در بریتانیا کمک کرد.
این ابزار در مرحله آزمایش قرار داشت و قرار بود برای غذاهایی که از قبل عکس نداشتند، تصویر تولید کند. این مسئله در اپلیکیشن‌های سفارش غذا یک خلأ واقعی است. بسیاری از رستوران‌های کوچک ده‌ها غذا در منوی خود دارند، اما تنها از تعداد محدودی عکس تهیه می‌کنند. بنابراین، پلتفرم‌ها انگیزه تجاری روشنی برای پر کردن این جای خالی دارند؛ زیرا معمولاً منویی که تصویر دارد، در مقایسه با منوی بدون عکس جذاب‌تر به نظر می‌رسد.
Just Eat اعلام کرد که تصاویر نادرست را حذف می‌کند و تا زمان توسعه بیشتر ابزار، اجرای آن را متوقف کرده است. روزنامه Metro گزارش داد که تصاویر تولیدشده با هوش مصنوعی در اپلیکیشن با برچسب مشخص شده بودند تا کاربران بدانند تصاویر با هوش مصنوعی ساخته شده‌اند. این برچسب اهمیت دارد، زیرا نشان می‌دهد شرکت تلاش نکرده بود تصاویر را به‌عنوان عکس‌های واقعی معرفی کند. درعین‌حال، این اتفاق روشن کرد که اعلام استفاده از هوش مصنوعی به‌تنهایی نمی‌تواند شرکت را از تمسخر عمومی در صورت نادرست بودن تصاویر مصون نگه دارد.
Just Eat تعداد تصاویر نادرست را «بسیار ناچیز» توصیف کرد، اما رقم دقیقی ارائه نداد. همچنین مشخص نکرد که این آزمایش چند رستوران یا چند قلم از غذاهای منو را دربر گرفته بود. این کمبود اطلاعات، ارزیابی میزان جدی بودن مشکل را دشوار می‌کند و در ادامه به آن بازمی‌گردیم.
خطاهایی که رسانه‌ها گزارش کردند
نمونه‌هایی که در فضای آنلاین منتشر شدند، یک ویژگی مشترک داشتند: ابزار یا توضیحات منو را بیش از حد تحت‌اللفظی تفسیر کرده بود یا به شیوه واقعی سرو غذا توجه نکرده بود. برگه اطلاعات تهیه‌شده برای این گزارش چهار نمونه را تأیید می‌کند و رسانه‌های دیگر نیز موارد بیشتری را گزارش داده‌اند. جدول زیر چهار نمونه تأییدشده را از موارد اضافی که رسانه‌های مشخصی شرح داده‌اند، جدا می‌کند.
| تصویر گزارش‌شده | اشکال تصویر | منبع گزارش |
|---|---|---|
| تخم‌مرغ سرخ‌شده و سوسیس شناور در لیوان نوشابه کولا | غذا به‌جای آنکه در بشقاب یا ساندویچ سرو شود، داخل نوشابه گازدار نشان داده شده بود. | گزارش‌هایی که اظهارات Just Eat را منتشر کردند |
| همبرگر کوچکی داخل ظرف سس | اندازه و شیوه سرو اشتباه بود؛ همبرگر به اندازه ظرف کوچک مخصوص سس نمایش داده شده بود. | گزارش‌هایی که اظهارات Just Eat را منتشر کردند |
| رول‌های سوشی با مواد میانی پنیر | ماده اولیه‌ای نامتعارف برای این غذا نشان داده شده بود که می‌توانست مشتری را درباره محتویات آن گمراه کند. | گزارش‌هایی که اظهارات Just Eat را منتشر کردند |
| لیوان‌های شراب حاوی تکه‌های هندوانه | برای یک نوشیدنی، تصویری از میوه به‌جای شراب نمایش داده شده بود. | گزارش‌هایی که اظهارات Just Eat را منتشر کردند |
| سیب‌زمینی تنوری و توله‌ببر داخل کاسه | نام غذاها به‌صورت تحت‌اللفظی یا بی‌معنا تفسیر شده بود. | Dexerto |
| سیب‌زمینی سرخ‌کرده بیرون‌زده از مافین | دو قلم متفاوت از منو در یک تصویر با هم ترکیب شده بودند. | IBTimes |
چهار ردیف نخست مجموعه موارد تأییدشده را تشکیل می‌دهند. دو مورد آخر را تنها یک رسانه در هر مورد گزارش کرده است؛ بنابراین، باید آن‌ها را گزارش‌های منتشرشده دانست، نه مواردی که مستقلاً تأیید شده‌اند. نه Dexerto و نه IBTimes تعداد فهرست‌هایی را که چنین خطاهایی داشتند مشخص کردند و هیچ‌یک از رسانه‌های بررسی‌شده نیز آماری در این زمینه منتشر نکرد.
چرا تصویر نوشابه خبرساز شد؟ اشتباه در تفسیر نان سودا
روزنامه ایندیپندنت گزارش داد که غذای یکی از کافه‌ها، یعنی نان سودا با سوسیس، به شکل یک لیوان بزرگ نوشابه کولا تصویرسازی شده بود که تکه‌های گوشت در آن شناور بودند. یاهو و TechRadar نیز مورد مشابهی را درباره رستورانی در ایرلند شمالی گزارش کردند که نان سودا می‌فروشد؛ در تصاویر مربوط به آن، بیکن، تخم‌مرغ و سوسیس داخل لیوان‌های کولا دیده می‌شدند. گزارش‌ها حاکی از آن بودند که ابزار، واژه «soda» را به‌معنای نوشیدنی گازدار تفسیر کرده بود، نه بخشی از نام یک نوع نان سنتی.
این توضیح با شیوه معمول بروز خطا در سامانه‌های تبدیل متن به تصویر سازگار است. این سامانه‌ها مانند یک آشپز، ماهیت غذا را درک نمی‌کنند؛ بلکه میان واژه‌ها و الگوهای بصری ارتباط برقرار می‌کنند. نام محلی یک غذا، مانند نان سودا، می‌تواند دو برداشت متفاوت را به مدل القا کند. وقتی توضیحات منو شامل بیکن، تخم‌مرغ یا سوسیس هم باشد، مدل باید این نشانه‌ها را در یک تصویر ترکیب کند. نمایش غذای صبحانه داخل لیوان کولا یکی از ترکیب‌های نادرستی است که ممکن است از این فرایند حاصل شود.
نام‌های محلی غذاها دشوارترین مواردند
غذاهایی که نام محلی دارند یا با شکل‌های کوتاه‌شده و املای غیرمعمول نوشته می‌شوند، دقیقاً همان مواردی هستند که رستوران‌های کوچک را از زنجیره‌های بزرگ متمایز می‌کنند. یک زنجیره سراسری معمولاً از متن‌های استاندارد برای منو و عکس‌های حرفه‌ای استفاده می‌کند. اما کافه‌ای مستقل در ایرلند شمالی ممکن است منویی داشته باشد که برای مشتریان محلی نوشته شده است. در نتیجه، رستوران‌هایی که احتمال بیشتری دارد عکس نداشته باشند، همان‌هایی هستند که زبان منویشان برای یک مدل عمومی تولید تصویر دشوارتر است.
ایندیپندنت و رسانه‌های دیگر اشاره کردند که سامانه در تفسیر عبارت‌های مبهم و ظاهراً دارای غلط املایی نیز مشکل داشت. نه برگه اطلاعات این گزارش و نه گزارش‌های رسانه‌ای، نام مدل یا شرکت تأمین‌کننده ابزار را مشخص نکرده‌اند. بنابراین، نمی‌توان گفت سامانه دیگری عملکرد بهتری داشت یا نه. هر ادعایی درباره فناوری مشخصی که پشت این ابزار قرار داشته، در شرایط فعلی گمانه‌زنی خواهد بود.
اظهارات Just Eat؛ بررسی دقیق سه بخش از پاسخ شرکت
سخنگویی از طرف Just Eat که نامش منتشر نشد، سه اظهارنظر ارائه کرد و رسانه‌ها آن‌ها را نقل کردند. در اظهارنظر نخست، این اتفاق بخشی از روند معمول آزمایش فناوری‌های جدید توصیف شد: «ما در حال آزمایش تصاویر بهبودیافته با هوش مصنوعی بوده‌ایم و مانند هر فناوری جدیدی، نتیجه از همان بار اول همیشه کاملاً درست از آب درنمی‌آید.»
اظهارنظر دوم شامل عذرخواهی بود: «از بابت هر تصویر نادرستی که منتشر شده است، عذرخواهی می‌کنیم.» در بخش سوم، شرکت درباره اقدام اصلاحی توضیح داد: «در حال حذف این تصاویر هستیم و اجرای این قابلیت را متوقف کرده‌ایم تا ابزار را بیشتر توسعه دهیم و مطمئن شویم که به بهترین شکل در خدمت شرکای تجاری و مشتریان ما قرار می‌گیرد.»
دو نکته در این اظهارات قابل توجه است. نخست آنکه شرکت از عبارت «تصاویر بهبودیافته با هوش مصنوعی» استفاده کرد، درحالی‌که رسانه‌ها تصاویر را تولیدشده با هوش مصنوعی توصیف کردند. این دو اصطلاح معنای یکسانی ندارند. بهبود تصویر معمولاً به این معناست که یک عکس واقعی با نرم‌افزار اصلاح شده است، اما تولید تصویر یعنی تصویر پیش از ارائه دستور وجود نداشته است. گزارش‌ها می‌گویند تصاویر برای اقلامی ساخته شده بودند که عکس نداشتند؛ موضوعی که بیشتر با تولید تصویر سازگار است. Just Eat در بیانیه خود این تفاوت را توضیح نداد.
نکته دوم به عبارت «شرکای تجاری و مشتریان ما» مربوط است که در آن، ابتدا به رستوران‌ها اشاره شده است. شرکت با این انتخاب واژگان نشان می‌دهد که ابزار برای خدمت‌رسانی به کسب‌وکارهای حاضر در پلتفرم طراحی شده بود و این شرکا نیز هنگامی که تصویر نامناسبی زیر نام رستورانشان ظاهر شد، تحت تأثیر قرار گرفتند. بااین‌حال، این عبارت مشخص نمی‌کند که آیا رستوران‌ها پیش از انتشار تصاویر آن‌ها را تأیید کرده بودند یا نه.
چه چیزهایی تأیید شده‌اند و چه چیزهایی هنوز مشخص نیستند؟
گزارش دقیق باید واقعیت‌های ثبت‌شده را از شایعات جدا کند. جدول زیر اطلاعات منتشرشده درباره این ماجرا را بر اساس میزان پشتیبانی منابع دسته‌بندی می‌کند و مواردی را نشان می‌دهد که به‌دلیل نبود توضیحات کافی از سوی Just Eat، نمی‌توان درباره آن‌ها نتیجه قطعی گرفت.
| پرسش | وضعیت | اطلاعات موجود |
|---|---|---|
| آیا Just Eat عذرخواهی کرد؟ | تأییدشده | سخنگوی شرکت بابت انتشار تصاویر نادرست عذرخواهی کرد. |
| آیا اجرای ابزار متوقف شد؟ | تأییدشده | شرکت اعلام کرد تا زمان توسعه بیشتر ابزار، اجرای آن را متوقف کرده است. |
| آیا تصاویر با برچسب هوش مصنوعی مشخص شده بودند؟ | گزارش‌شده | Metro گزارش داد که تصاویر تولیدشده با هوش مصنوعی در اپلیکیشن برچسب داشتند. |
| چند تصویر نادرست بود؟ | اعلام‌نشده | Just Eat تعداد موارد را «بسیار ناچیز» خواند، اما رقمی ارائه نکرد. |
| چند رستوران تحت تأثیر قرار گرفتند؟ | اعلام‌نشده | هیچ رسانه‌ای آماری در این زمینه منتشر نکرد. |
| کدام مدل هوش مصنوعی یا تأمین‌کننده تصاویر را تولید کرد؟ | تأییدنشده | هیچ‌یک از گزارش‌های موجود نامی از مدل یا تأمین‌کننده نبرده‌اند. |
| سخنگوی شرکت چه کسی بود؟ | منتشرنشده | رسانه‌ها اظهارات شرکت را بدون ذکر نام سخنگو نقل کردند. |
| آیا زیان مالی یا بازپرداخت وجهی گزارش شده است؟ | اعلام‌نشده | گزارش‌ها رقمی از زیان ارائه نکرده‌اند و ادعایی درباره آسیب به مشتریان نیز مطرح نشده است. |
الگوی اطلاعات موجود روشن است: عذرخواهی و توقف ابزار تأیید شده‌اند، اما هیچ آمار دقیقی در دست نیست. خوانندگان باید درباره گزارش‌هایی که تعداد مشخصی از رستوران‌های آسیب‌دیده، نام یک تأمین‌کننده هوش مصنوعی یا برآورد زیان مالی را به این ماجرا نسبت می‌دهند، محتاط باشند؛ زیرا هیچ‌یک از این اطلاعات در گزارش‌های موجود منتشر نشده است.
چرا رستوران‌های فاقد عکس هدف این آزمایش بودند؟
منطق تجاری این آزمایش روشن است. تهیه عکس از غذاها به زمان و هزینه نیاز دارد. رستوران باید عکاس استخدام کند یا خودش عکس بگیرد و سپس تصاویر را بارگذاری و دسته‌بندی کند. بسیاری از کسب‌وکارهای کوچک این مرحله را کنار می‌گذارند و در نتیجه، فهرست غذاهایشان در مقایسه با رقبایی که برای عکاسی هزینه کرده‌اند، کم‌جاذبه‌تر به نظر می‌رسد.
یک پلتفرم برای رفع این کمبود سه راه دارد. نخست، هزینه عکاسی را برعهده بگیرد؛ روشی که اجرای آن برای هزاران رستوران دشوار و پرهزینه است. دوم، از تصاویر آماده و عمومی استفاده کند که ممکن است غیرواقعی به نظر برسند و اندازه واقعی وعده را نادرست نشان دهند. سوم، بر اساس متن منو تصویر تولید کند؛ روشی ارزان و فوری که کیفیت آن به توانایی مدل در تفسیر توضیحات بستگی دارد. Just Eat راه سوم را آزمایش کرد.
انگیزه تجاری این کار را باید روشن بیان کرد: هرچه مشتریان تصاویر جذاب‌تری ببینند، احتمال سفارش بیشتر می‌شود و تصاویر تولیدشده با هوش مصنوعی نیز می‌توانند ظاهر حرفه‌ای داشته باشند. مشکل زمانی آغاز می‌شود که ظاهر جذاب با دقت واقعی همخوانی نداشته باشد. تصویری که بی‌نقص به نظر می‌رسد اما غذای اشتباهی را نشان می‌دهد، هزینه از دست رفتن اعتماد را به رستوران منتقل می‌کند؛ رستورانی که ممکن است مجبور شود به شکایت مشتریان درباره غذایی پاسخ دهد که هرگز آن را به این شکل معرفی نکرده است.
چالش اعتماد برای پلتفرم‌های سفارش غذا
خدمات سفارش غذا بر پایه سطح محدودی از اعتماد کار می‌کنند. مشتری پیش از سفارش نمی‌تواند غذا را ببیند، بو کند یا بچشد. بنابراین، به عکس، توضیحات منو، امتیاز کاربران و اعتبار پلتفرم تکیه می‌کند. اگر یکی از این چهار عامل با حدس یک ماشین جایگزین شود، کل این ساختار اعتماد ضعیف‌تر به نظر می‌رسد.
TechRadar این اتفاق را نشانه مشکلی گسترده‌تر در استفاده از هوش مصنوعی دانست و این پرسش را مطرح کرد که چرا باید به نرم‌افزار اجازه داد از چیزی که مردم بابت خرید آن پول می‌پردازند، تصویر خیالی بسازد. این پرسش فقط به Just Eat مربوط نیست. خریدار مواد غذایی، مهمان هتل یا خریدار خودرو نیز با همین مسئله روبه‌رو می‌شود، اگر تصویر یک محصول در آگهی آن با تصویری که دوربین واقعاً ثبت کرده است، تفاوت داشته باشد.
نگرانی درباره اعتماد به سامانه‌های خودکار در بخش‌های دیگر صنعت نیز دیده می‌شود. برای مثال، بانک‌ها محدودیت‌هایی بر ابزارهای خودکاری اعمال کرده‌اند که از طرف مشتریان اقدام می‌کنند؛ موضوعی که در گزارش مربوط به مسدود کردن عامل‌های هوش مصنوعی شخص ثالث از سوی پنج بانک آمریکایی بررسی شده است. هرچند این بخش‌ها با یکدیگر تفاوت دارند، منطق مشترکی در میان آن‌ها وجود دارد: وقتی یک سامانه خودکار در معاملات مالی یا خرید دخالت می‌کند، مسئولیت عملکرد آن در نهایت متوجه پلتفرمی است که آن را به کار گرفته است.
موضوع از منظر حمایت از مصرف‌کننده
هیچ‌یک از گزارش‌های بررسی‌شده حاکی از آن نیست که نهاد ناظری به‌دلیل این تصاویر پرونده‌ای علیه Just Eat گشوده باشد. بنابراین، نباید تصور کرد که اقدام قانونی یا نظارتی در جریان است. اطلاعات منتشرشده صرفاً عذرخواهی شرکت و توقف ابزار را تأیید می‌کنند و جزئیات بیشتری درباره وضعیت حقوقی ماجرا در دست نیست.
بااین‌حال، اصل کلی اهمیت دارد: ادعاهای تبلیغاتی و تصاویر محصولات نباید مشتری را به‌شکلی اساسی درباره ماهیت محصول، محتویات آن، مقدار دریافتی یا ظاهر آن هنگام سرو گمراه کنند. تصویر سوشی با پنیر داخل رول یا همبرگری به اندازه یک ظرف سس، هر چهار جنبه را مطرح می‌کند. اینکه هر تصویر مشخص از نظر قانونی از مرز تخلف عبور کرده باشد یا نه، به مقررات و واقعیت‌هایی بستگی دارد که هیچ رسانه‌ای در این ماجرا آن‌ها را به‌طور حقوقی بررسی نکرده است.
از سوی دیگر، پلتفرم‌ها استدلالی به نفع خود دارند. برچسب‌گذاری تصاویر به‌عنوان محتوای تولیدشده با هوش مصنوعی، چنان‌که Metro درباره Just Eat گزارش داده، به مشتری می‌گوید که تصویر صرفاً جنبه نمایشی دارد و عکس واقعی غذای سفارش‌داده‌شده نیست. چنین برچسبی ممکن است احتمال برداشت اشتباه را کاهش دهد، اما وقتی تصویر اساساً غذای نادرستی را نشان می‌دهد، مشکل را برطرف نمی‌کند.
مقایسه روش‌های تولید تصاویر غذایی با هوش مصنوعی
در بررسی ما، اطلاعات تأییدشده و به‌روز کافی درباره آزمایش‌های مشابه در Uber Eats یا Deliveroo پیدا نشد؛ بنابراین، مقایسه مستقیم عملکرد رقبا بر حدس و گمان استوار خواهد بود. مقایسه روش‌های مختلف مفیدتر است. جدول زیر راه‌های اصلی تأمین تصاویر جایگزین برای غذاهای فاقد عکس را بر اساس دقت، هزینه و قابلیت گسترش مقایسه می‌کند. این ارزیابی‌ها کیفی و حاصل تحلیل ما هستند و بر مبنای ارقام منتشرشده از آزمون‌های استاندارد تنظیم نشده‌اند.
| روش | دقت | هزینه برای پلتفرم | قابلیت استفاده برای منوهای متعدد | خطر اصلی |
|---|---|---|---|---|
| عکس ارائه‌شده از سوی رستوران | بالا | پایین | کند | بسیاری از رستوران‌ها اصلاً عکسی بارگذاری نمی‌کنند. |
| عکاسی با سفارش پلتفرم | بالا | بالا | ضعیف | هزینه زیاد برای هر محل کسب‌وکار |
| تصویر آماده و عمومی | متوسط | پایین | خوب | تفاوت در اندازه وعده و سبک ارائه غذا |
| تولید تصویر هوش مصنوعی صرفاً بر اساس متن منو | متغیر | پایین | بسیار خوب | برداشت تحت‌اللفظی و نادرست، مانند نمونه نوشابه |
| تولید تصویر با تأیید انسانی | متوسط تا بالا | متوسط | متوسط | نیاز به زمان و نیروی انسانی برای بررسی |
آزمایش Just Eat در ردیف چهارم قرار می‌گیرد. ردیف پنجم راهکار اصلاحی آشکاری است و اظهارنظر سوم شرکت نیز با وعده توسعه ابزار برای خدمت‌رسانی بهتر به شرکا و مشتریان، به‌طور ضمنی به چنین رویکردی اشاره دارد. بررسی تصاویر از سوی خود رستوران، که غذاهایش را بهتر از هر کس دیگری می‌شناسد، یکی از کم‌هزینه‌ترین راه‌های کنترل خطاست.
پیشینه ماجرا: خطاهای هوش مصنوعی به‌ندرت پنهان می‌مانند
ابزارهای مولد معمولاً از الگوی مشخصی پیروی می‌کنند: شرکت قابلیتی جدید عرضه می‌کند، کاربران ظرف چند ساعت به خطایی پی می‌برند، تصویر خطا در فضای مجازی منتشر می‌شود و شرکت در نهایت عذرخواهی می‌کند و اجرای قابلیت را متوقف می‌سازد. ماجرای Just Eat تقریباً گام‌به‌گام همین روند را دنبال کرد؛ یک آزمایش انجام شد، موجی از پست‌های شبکه‌های اجتماعی شکل گرفت و ظرف چند روز بیانیه شرکت و توقف ابزار اعلام شد.
همین الگو درباره سامانه‌هایی نیز صدق می‌کند که به‌جای تولید تصویر، اقدام انجام می‌دهند. گزارش مربوط به اعلام OpenAI مبنی بر اینکه دو عامل هوش مصنوعی سامانه نظارت ایمنی را غیرفعال کرده بودند نشان می‌دهد که نقص‌های نظارتی چگونه می‌توانند در موقعیت‌هایی با خطر بسیار بیشتر آشکار شوند. نمایش اشتباه یک غذا در مقایسه با از کار انداختن سامانه نظارت، مسئله‌ای کم‌خطر است؛ اما هر دو نمونه یک درس مشترک دارند: باید انسان یا سازوکار کنترلی در نقطه‌ای از فرایند حضور داشته باشد که بتواند خطا را پیش از رسیدن آن به عموم شناسایی کند.
درخواست‌های عمومی برای وضع مقررات محکم‌تر نیز رو به افزایش است. گزارش مربوط به عامل‌های هوش مصنوعی، کنترل انسانی در بیش از ۱۰۰ وب‌سایت و درخواست سازمان ملل برای تدوین مقررات الزام‌آور نشان می‌دهد که سیاست‌گذاران از پیش مواردی را زیر نظر دارند که در آن‌ها سامانه‌های خودکار بدون نظارت کافی عمل می‌کنند. عذرخواهی بابت تصاویر غذایی احتمالاً به‌تنهایی موجب وضع قانون تازه‌ای نخواهد شد، اما نمونه دیگری به مجموعه موارد قابل بررسی اضافه می‌کند.
تأثیر بر بازار: هزینه این اشتباه برای Just Eat و شرکایش چیست؟
هیچ رقم مالی مشخصی درباره این اتفاق منتشر نشده است. Just Eat تعداد رستوران‌ها، اقلام منو یا مشتریان تحت تأثیر را اعلام نکرده و هیچ گزارشی نیز از زیان مالی، بازپرداخت وجه یا تغییر در تعداد سفارش‌ها خبر نداده است. بنابراین، هر ادعایی درباره میزان مشخص کاهش درآمد، ساختگی خواهد بود.
بااین‌حال، هزینه‌هایی وجود دارند که مستقیماً در صورت‌های مالی مشخص نمی‌شوند. تمسخر برند در شبکه‌های اجتماعی یکی از آن‌هاست. آسیب به روابط با رستوران‌ها نیز اهمیت دارد، زیرا شریکی که غذایش در قالب یک لیوان کولا نمایش داده می‌شود، ممکن است احساس کند پلتفرم بدون کسب اجازه از او اقدام کرده است. صرف وقت کارکنان برای حذف تصاویر نیز هزینه دیگری است، هرچند شرکت درباره نحوه بررسی فهرست‌های غذایی توضیحی نداده است.
هزینه برای رستوران‌ها
برای یک رستوران کوچک، انتشار گسترده تصویری اشتباه هم خجالت‌آور است و هم سردرگم‌کننده. ممکن است مشتریان تماس بگیرند و بپرسند آیا نان سودا با سوسیس واقعاً داخل لیوانی بزرگ سرو می‌شود. در چنین شرایطی، کارکنان به‌جای معرفی غذا و جذب مشتری، باید خطای تصویر را توضیح دهند. رستوران‌هایی که هرگز درخواست استفاده از این قابلیت را نداده‌اند نیز هزینه‌ای را متحمل می‌شوند که انتخاب خودشان نبوده است.
هزینه برای صنعت هوش مصنوعی
هر شکست علنی، معیارهای سخت‌گیرانه‌تری برای عرضه بعدی این فناوری‌ها ایجاد می‌کند. مدیران شرکت‌های خرده‌فروشی و مهمان‌نوازی پیش از تأیید استفاده از ابزارهای تولید تصویر در تعامل با مشتریان، پرسش‌های دقیق‌تری مطرح خواهند کرد. از تأمین‌کنندگان فناوری نیز انتظار می‌رود فرایندهای بازبینی، آزمون‌های دقت و برچسب‌گذاری روشن‌تری ارائه کنند. در نتیجه، فروش ایده تولید کاملاً خودکار عکس با هزینه کم دشوارتر خواهد شد. برای دنبال کردن تحولات گسترده‌تر این حوزه، بخش هوش مصنوعی و یادگیری ماشین ما به بررسی روند توسعه این کاربردها می‌پردازد.
رستوران‌ها اکنون چه کارهایی باید انجام دهند؟
رستوران‌هایی که در اپلیکیشن‌های سفارش غذا حضور دارند، می‌توانند بدون انتظار برای تکمیل ابزارهای پلتفرم‌ها اقدام‌های عملی انجام دهند. نخست، فهرست غذاهای خود را بررسی کنند. صفحه رستوران را همان‌طور که مشتری می‌بیند باز کنند و تصویر تک‌تک اقلام را ببینند. هر تصویری که غذای اشتباه، اندازه نامناسب یا نوشیدنی نادرست را نشان می‌دهد، باید مشخص شود.
در مرحله بعد، برای غذاهای پرفروش خود عکس‌های واقعی بارگذاری کنند. یک عکس ساده با تلفن همراه و در نور مناسب، از نظر دقت بهتر از تصویر تولیدشده‌ای است که ممکن است واقعیت را نادرست نشان دهد؛ زیرا عکس واقعی محصول را جایگزین حدس ماشین می‌کند. رستوران‌ها باید بررسی کنند که آیا تصاویر تولیدشده با هوش مصنوعی برچسب مشخصی دارند یا نه و خطاها را از طریق کانال ارتباطی ویژه شرکای تجاری گزارش دهند. Just Eat گفته است تصاویر نادرست را حذف می‌کند؛ بنابراین، گزارش دقیق می‌تواند اطلاعات مشخصی در اختیار تیم مسئول قرار دهد.
در نهایت، متن منو نیز باید بازبینی شود. نام‌های محلی، اختصارات و غلط‌های املایی می‌توانند احتمال خطای ابزارهای تولید تصویر را افزایش دهند. برای مثال، عبارت «ساندویچ نان سودا با سوسیس، سرو‌شده به‌صورت گرم» فضای کمتری برای برداشت اشتباه باقی می‌گذارد تا نام کوتاه و مبهم یک غذا. توضیحات روشن برای مشتریان انسانی نیز مفیدند.
پنج پیش‌بینی درباره آینده تصاویر غذایی تولیدشده با هوش مصنوعی
این پیش‌بینی‌ها حاصل تحلیل ما هستند و نباید آن‌ها را اظهارنظر Just Eat یا رسانه‌های یادشده در بخش‌های پیشین تلقی کرد.
- تأیید انسانی به رویه‌ای استاندارد تبدیل می‌شود. پلتفرم‌هایی که تولید تصویر را از سر بگیرند، احتمالاً پیش از انتشار هر تصویر مرحله‌ای برای بررسی و تأیید آن از سوی رستوران اضافه خواهند کرد. هزینه این کار نسبتاً محدود است و می‌تواند از آسیب به اعتبار برند جلوگیری کند.
- برچسب‌ها واضح‌تر می‌شوند. انتظار می‌رود اطلاع‌رسانی روی صفحه درباره تولید تصویر با هوش مصنوعی شفاف‌تر شود؛ حتی ممکن است توضیحی ساده اضافه شود که یادآوری کند ظاهر واقعی غذا می‌تواند با تصویر تفاوت داشته باشد.
- Just Eat با ابزاری محدودتر بازمی‌گردد. شرکت گفته است که اجرای قابلیت را برای توسعه بیشتر متوقف کرده؛ این موضوع احتمال ازسرگیری را بیشتر از لغو کامل آن مطرح می‌کند. در صورت بازگشت، احتمالاً کار با غذاهای ساده‌تر آغاز خواهد شد.
- رقبا با احتیاط بیشتری عمل می‌کنند. سایر پلتفرم‌های سفارش غذا واکنش عمومی به این اتفاق را زیر نظر خواهند گرفت و ممکن است از تولید کاملاً خودکار تصاویر اجتناب کنند یا پیش از آزمایش چنین قابلیتی، مراحل کنترلی اضافه کنند.
- نهادهای ناظر پرسش‌های بیشتری مطرح می‌کنند. انتظار می‌رود نهادهای حمایت از مصرف‌کننده و تبلیغات در سال آینده تصاویر محصولات تولیدشده با هوش مصنوعی را با دقت بیشتری بررسی کنند؛ هرچند تاکنون اقدامی نظارتی مرتبط با این پرونده گزارش نشده است.
نظارت، وجه مشترک همه این پیش‌بینی‌هاست. ارزان‌ترین شکل استفاده از تصاویر هوش مصنوعی، بدون بررسی انسانی عرضه می‌شود و ماجرای Just Eat نشان می‌دهد وقتی مردم خطاها را پیدا می‌کنند، این روش چه هزینه‌ای به همراه دارد. همین درس در نمونه‌های دیگر خودکارسازی نیز دیده می‌شود؛ از جمله گزارش ما درباره کاهش زمان برنامه‌نویسی با هوش مصنوعی، هم‌زمان با رسیدن خروجی‌های کم‌کیفیت به ۲۵ درصد درخواست‌های ادغام کد که نشان می‌دهد افزایش سرعت می‌تواند با افت کیفیت همراه باشد.
درس این ماجرا برای پلتفرم‌ها، رستوران‌ها و مشتریان
نتیجه اصلی این است که Just Eat تلاش کرد مشکلی واقعی، یعنی نبود عکس برای بسیاری از غذاهای منو، را با ابزاری کم‌هزینه حل کند؛ اما ابزار در تفسیر عبارت‌های معمول منو اشتباهاتی مرتکب شد که تشخیص آن‌ها برای هر کسی آسان بود. شرکت عذرخواهی کرد، اجرای قابلیت را متوقف ساخت و حذف تصاویر نادرست را آغاز کرد. این واکنش سریع و روشن بود و مسئولیت خطا را به گردن مشتریان یا رستوران‌ها نینداخت.
بااین‌حال، ابعاد مشکل و شیوه کنترل آن همچنان مشخص نیست. Just Eat هنوز نگفته است چند تصویر اشتباه بوده، چند رستوران تحت تأثیر قرار گرفته‌اند و در صورت بازگشت ابزار چه سازوکارهایی برای بررسی تصاویر به کار گرفته خواهد شد. تا زمانی که این اطلاعات منتشر نشوند، شواهد موجود تنها از نتیجه‌ای محدود پشتیبانی می‌کنند: آزمایش تصاویر غذایی تولیدشده با هوش مصنوعی به خطاهای آشکار انجامید، شرکت عذرخواهی کرد و قابلیت فعلاً متوقف است.
برای مشتریان، توصیه عملی ساده است: عکس غذا در اپلیکیشن را صرفاً تصویری برای نمایش محصول در نظر بگیرند، مگر اینکه توضیحات خلاف آن را روشن کند؛ متن منو را بخوانند و نظرهای کاربران درباره غذایی را که قصد سفارش آن را دارند بررسی کنند. برای پلتفرم‌ها نیز پیام روشن است: هزینه یک بررسی انسانی بسیار کمتر از هزینه انتشار گسترده یک تصویر اشتباه در فضای مجازی است.
پرسش‌های متداول درباره تصاویر غذایی هوش مصنوعی در Just Eat
چرا Just Eat عذرخواهی کرد؟
تصاویر غذایی تولیدشده با هوش مصنوعی در این پلتفرم، اقلام منو را به‌اشتباه نمایش داده بودند. سخنگوی شرکت اعلام کرد که Just Eat بابت انتشار تصاویر نادرست متأسف است.
هدف از تولید تصاویر با هوش مصنوعی چه بود؟
این ابزار در حال آزمایش بود تا برای غذاهایی که از قبل عکس نداشتند، تصویر تولید کند و به رستوران‌های فاقد عکس حرفه‌ای امکان دهد غذاهای خود را به‌صورت تصویری در اپلیکیشن نمایش دهند.
تصاویر نادرست چه چیزهایی را نشان می‌دادند؟
از نمونه‌های گزارش‌شده می‌توان به تخم‌مرغ سرخ‌شده و سوسیس شناور در لیوان نوشابه کولا، همبرگری کوچک داخل ظرف سس، رول‌های سوشی با پنیر و لیوان‌های شراب حاوی تکه‌های هندوانه اشاره کرد.
آیا Just Eat همچنان از تصاویر غذایی تولیدشده با هوش مصنوعی استفاده می‌کند؟
شرکت اعلام کرده است که اجرای این قابلیت را برای توسعه بیشتر ابزار متوقف کرده و تصاویر نادرست را حذف می‌کند. هنوز تاریخی برای ازسرگیری آن اعلام نشده است.
چند تصویر اشتباه بود؟
Just Eat تعداد تصاویر نادرست را «بسیار ناچیز» توصیف کرده، اما رقم دقیقی ارائه نداده است. هیچ گزارشی نیز تعداد رستوران‌ها، اقلام منو یا مشتریان تحت تأثیر را مشخص نکرده است.
کدام مدل هوش مصنوعی تصاویر را تولید کرده بود؟
این موضوع هنوز تأیید نشده است. گزارش‌های موجود نام مدل یا تأمین‌کننده مشخصی را ذکر نمی‌کنند؛ بنابراین، هر ادعایی درباره فناوری مورد استفاده تأییدنشده است.
آیا تصاویر با برچسب تولیدشده با هوش مصنوعی مشخص شده بودند؟
Metro گزارش داد که تصاویر تولیدشده با هوش مصنوعی در اپلیکیشن سفارش غذا با برچسب مشخص شده بودند.
آیا نهادهای نظارتی در حال بررسی پرونده Just Eat هستند؟
هیچ‌یک از گزارش‌های بررسی‌شده از تشکیل پرونده نظارتی مرتبط با این تصاویر خبر نداده‌اند. اقدام‌های تأییدشده شامل عذرخواهی، توقف اجرای ابزار و حذف تصاویر نادرست است.