وقتی موقعیت‌های نادر هوش مصنوعی را به چالش می‌کشند؛ بازتعریف موارد مرزی در یادگیری ماشین
مدل‌های یادگیری ماشین که زیربنای سامانه‌های رانندگی خودکار پیشرفته، تجهیزات پزشکی و هوانوردی هستند، تنها به‌اندازه داده‌هایی که با آن‌ها آموزش دیده‌اند و معماری‌ای که بر اساس آن ساخته شده‌اند، قابل اتکا هستند. هنگامی که یک مدل در مواجهه با موقعیتی نادر، جدید یا خطرناک دچار خطا می‌شود، پژوهشگران معمولاً این وضعیت را «مورد مرزی» می‌نامند و علت را به کوچک بودن مجموعه داده‌ها یا محدود بودن تنوع آن‌ها نسبت می‌دهند. بااین‌حال، مطالعه‌ای جدید با دسترسی آزاد استدلال می‌کند که این برداشت کامل نیست: خود مدل و معماری آن نیز در تعیین زمان و چگونگی بروز این خطاها نقش دارند و وقوع خطاهای پیش‌بینی ناشی از محدودیت‌های مدل را نمی‌توان غیرمنتظره دانست.
دستاورد اصلی این پژوهش، ارائه تعریفی عمومی و مبتنی بر مدل از مفهوم مورد مرزی و صورت‌بندی ریاضی آن است؛ صورت‌بندی‌ای که این مفهوم را از توصیفی صرفاً مبتنی بر مشاهده و تجربه به معیاری قابل‌اندازه‌گیری تبدیل می‌کند. نویسندگان خاطرنشان می‌کنند که در ادبیات یادگیری ماشین هنوز تعریف پذیرفته‌شده و مشترکی از موارد مرزی وجود ندارد و برداشت‌ها از این مفهوم در حوزه‌های کاربردی مختلف تفاوت زیادی دارند.
این مسئله در حوزه خودرو اهمیت ویژه‌ای دارد. مجموعه‌داده‌های پرکاربردی مانند BDD100K، nuScenes و Waymo Open در ایالات متحده ثبت شده‌اند؛ درحالی‌که داده‌های KITTI و A2D2 از آلمان و داده‌های ApolloScape از چین به دست آمده‌اند. مجموعه Mapillary پوشش جغرافیایی نسبتاً گسترده‌تری دارد، اما توزیع داده‌ها همچنان نامتوازن است. صحنه‌های مربوط به هوای بارانی، روشنایی شدید روز و رانندگی در شب به‌تدریج بیشتر در مجموعه‌داده‌ها دیده می‌شوند، اما شرایط زمستانی سهم بسیار کمتری دارند. برای مثال، مجموعه BDD100K صحنه‌های زمستانی نسبتاً اندکی دارد و مجموعه Canadian Adverse Driving Conditions، با وجود تمرکز بر شرایط نامساعد رانندگی در زمستان، کاستی‌های دیگری دارد. بنابراین، هیچ مجموعه‌داده‌ای به‌تنهایی نمی‌تواند تمام واقعیت را پوشش دهد. افزون بر این، عواملی وابسته به مکان، مانند مقررات محلی، رفتار رانندگان و تفاوت‌های بصری تابلوها و نمادها، جامعیت داده‌ها را بیش از پیش محدود می‌کنند.
پس از استقرار یک مدل آموزش‌دیده، دیر یا زود ممکن است در مواجهه با موارد مرزی‌ای که در مرحله توسعه در نظر گرفته نشده‌اند یا نمونه‌هایی که برچسب نادرست دریافت کرده‌اند، رفتار اشتباهی از خود نشان دهد. نویسندگان برای توضیح این مسئله مثالی روشن ارائه می‌کنند: یک مدل تشخیص کاربران آسیب‌پذیر جاده، تصویر چاپ‌شده فردی روی بنر تبلیغاتی یک تاکسی را با عابر پیاده واقعی اشتباه می‌گیرد. از نظر فنی، مدل در این مورد الزاماً خطایی در تشخیص الگوی تصویری مرتکب نشده است؛ مسئله این است که فرد دیده‌شده در تصویر، شخصی واقعی در محیط جاده نیست. نمونه‌های دیگر شامل ورودی‌های خصمانه‌اند که در آن‌ها تغییری نامحسوس در داده ورودی، خروجی مدل را تغییر می‌دهد. همچنین، مواردی ناشی از عدم‌قطعیت معرفتی وجود دارند؛ یعنی موقعیت‌هایی که مدل پیش‌تر با نمونه‌ای قابل‌مقایسه با آن‌ها روبه‌رو نشده است.
پژوهشگران برای سامان‌دهی این حوزه، ویژگی‌ها و خصوصیات موارد مرزی را دسته‌بندی کرده و آن‌ها را در سه گروه قرار داده‌اند. ویژگی‌های سطح داده شامل تازگی، ابهام، طبیعی یا مصنوعی بودن نمونه، کیفیت، پیچیدگی و نادر بودن آن است. ویژگی‌های سطح مدل، قابلیت ردیابی، توضیح‌پذیری، دشواری، پیش‌بینی‌پذیری، عدم‌قطعیت، قابلیت اطمینان و ناسازگاری را در بر می‌گیرد. ویژگی‌های سطح کاربرد، یعنی ارتباط با وظیفه، میزان پوشش و مشخص‌سازی نادرست، تنها زمانی معنا پیدا می‌کنند که مورد مرزی در ارتباط با یک مدل و وظیفه مشخص بررسی شود. هر ویژگی را می‌توان از دو دیدگاه ارزیابی کرد: دیدگاه انسان و دیدگاه ماشین. این دو دیدگاه ممکن است تفاوت چشمگیری داشته باشند؛ برای مثال، محتوای یک نمونه خصمانه ممکن است برای انسان کاملاً واضح باشد، اما مدل قادر به تشخیص درست آن نباشد.
تعریف ریاضی پیشنهادی بر مبنای «زیان مورد انتظارِ وزن‌دهی‌شده بر اساس میزان ارتباط با وظیفه» استوار است. نویسندگان تابع وزنی متناسب با وظیفه معرفی می‌کنند که میزان ارتباط هر نمونه را بر اساس ویژگی‌ها، اهداف و شرایط زمینه‌ای آن تعیین می‌کند؛ عواملی مانند فاصله تا یک شیء یا رده‌ای که آن شیء به آن تعلق دارد. بر این اساس، مورد مرزی نمونه‌ای مرتبط با وظیفه تعریف می‌شود که زیان مورد انتظارِ وزن‌دهی‌شده برای بهترین پیش‌بین بیز نقطه‌ای در آن از آستانه‌ای از پیش تعیین‌شده بیشتر باشد.
در یک مسئله فرضی با دو رده که از تشخیص علائم راهنمایی و رانندگی الهام گرفته شده است، استفاده از حداقل زیان مورد انتظار به‌تنهایی باعث می‌شود نمونه‌های نزدیک به مرز تصمیم‌گیری امتیاز زیان بالایی بگیرند و بسیاری از نمونه‌های معمولی نیز به‌عنوان موارد مرزی شناسایی شوند. در مقابل، برخی موارد مرزی مهم که در فاصله بیشتری از این مرز قرار دارند، از شناسایی بازمی‌مانند. ترکیب تابع وزن‌دهی با حداقل زیان مورد انتظار این مشکل را برطرف می‌کند و امکان جداسازی نمونه‌هایی را فراهم می‌آورد که واقعاً برای وظیفه موردنظر اهمیت دارند.
عملکرد این تعریف در مراحل مختلف چرخه عمر یادگیری ماشین متفاوت است. در مرحله آموزش، این روش مواردی را برجسته می‌کند که در آن‌ها عدم‌قطعیت معرفتی، یعنی عدم‌قطعیتی که می‌توان با کسب دانش بیشتر کاهش داد، زیاد است و در عین حال نمونه همچنان برای وظیفه اهمیت دارد. این رویکرد ارتباط مستقیمی با یادگیری فعال دارد. در مرحله آزمون، زیان مورد انتظارِ وزن‌دهی‌شده بر اساس میزان ارتباط، نمونه‌هایی را آشکار می‌کند که مدل آن‌ها را موارد مرزی تلقی می‌کند. پس از استقرار نیز می‌توان این معیار را بدون نیاز به داده‌های دارای برچسب مرجع محاسبه کرد؛ قابلیتی که به شناسایی تغییر در توزیع داده‌ها و گردآوری نمونه‌های آموزشی جدید، به‌ویژه در حوزه‌هایی که مدل ضعیف‌تر عمل می‌کند، کمک می‌کند.
نویسندگان تأکید می‌کنند که کالیبراسیون مدل در این فرایند ضروری است. در مدل کالیبره‌نشده، امتیاز اطمینان با احتمال واقعی درست بودن پیش‌بینی مطابقت ندارد. روش‌هایی مانند مقیاس‌بندی پلات (Platt Scaling) و مقیاس‌بندی دما (Temperature Scaling) می‌توانند دقت شناسایی موارد مرزی بر پایه زیان را بهبود دهند؛ البته به شرط آنکه توزیع داده‌های اعتبارسنجی با توزیع داده‌ها در محیط استقرار مطابقت داشته باشد.
معیارهای متداولی مانند دقت (Accuracy)، امتیاز F1، میانگین مربعات خطا، اشتراک بر اجتماع (Intersection over Union) و میانگین دقت متوسط (Mean Average Precision)، همه نمونه‌ها را به یک اندازه در نظر می‌گیرند. به همین دلیل، این معیارها نمی‌توانند اهمیت وابسته به وظیفه را که مشخصه موارد مرزی است، به‌درستی منعکس کنند. پژوهشگران معتقدند ارزیابی کمّی این موارد به معیارهای مرتبط با وظیفه و متناسب با همان کاربرد نیاز دارد.
آن‌ها به معیاری مبتنی بر وظیفه برای ارزیابی ارتباط نمونه‌ها در تشخیص عابران پیاده اشاره می‌کنند که در آن فاصله تا شیء به‌عنوان شاخصی جانشین برای سنجش اهمیت به کار می‌رود. رده و موقعیت شیء و نیز معیارهای پیچیدگی هم می‌توانند شاخص‌هایی برای تعیین میزان ارتباط نمونه باشند. انتخاب یک تابع وزن‌دهی مناسب، امکان محاسبه امتیاز موارد مرزی بر اساس زیان مورد انتظارِ وزن‌دهی‌شده را فراهم می‌کند؛ امتیازی که می‌توان آن را با توجه به نیازهای هر کاربرد تنظیم کرد.
این پژوهش همچنین یک طبقه‌بندی پیشین از موارد مرزی را گسترش می‌دهد. در نظام دسته‌بندی قبلی، لایه حسگر شامل سطوح سخت‌افزاری و فیزیکی بود؛ لایه محتوا سطوح حوزه، شیء و صحنه را در بر می‌گرفت؛ و لایه زمانی به سطح سناریو اختصاص داشت. در کنار این موارد، لایه روش نیز خطاهای ناشی از خود روش یادگیری ماشین را پوشش می‌داد.
پژوهش جدید سه سطح را به لایه روش اضافه می‌کند که هر یک با یکی از مراحل توسعه مدل ارتباط دارد. سطح ورودی به موارد مرزی ناشی از خود داده‌ها می‌پردازد؛ از جمله داده‌های سوگیرانه، توزیع نامتوازن کلاس‌ها، خطاهای برچسب‌گذاری، عدم‌قطعیت تصادفی و نویز خصمانه. سطح مدل، خطاهایی را شامل می‌شود که از عدم‌قطعیت، معماری و قابلیت اطمینان مدل سرچشمه می‌گیرند. نویسندگان یادآور می‌شوند که معماری انتخاب‌شده، سوگیری استقرایی خاصی ایجاد می‌کند و همین سوگیری نیز می‌تواند به بروز موارد مرزی منجر شود. سطح استقرار به ناهماهنگی میان مشخصات مدل و محیط واقعی عملکرد آن اختصاص دارد. برای مثال، کالیبراسیون نادرست بر پایه مجموعه‌داده‌ای با توزیع متفاوت یا تغییر مفهوم میان مرحله آموزش و زمان اجرا می‌تواند به پیش‌بینی‌هایی با پیامدهای فاجعه‌بار بینجامد.
نویسندگان در پایان نتیجه می‌گیرند که تنوع ویژگی‌های تشکیل‌دهنده موارد مرزی را نباید دست‌کم گرفت و برخی از این ویژگی‌ها تنها زمانی آشکار می‌شوند که مدل یا کاربرد مشخصی در نظر گرفته شود. به گفته آن‌ها، تعریف پیشنهادی موارد مرزی را به مفاهیمی ملموس و قابل‌اندازه‌گیری تبدیل می‌کند و راهی برای درک رفتار مدل، یادگیری بیشتر از طریق نمونه‌های مرزی و ارزیابی میزان کاهش خطر فراهم می‌آورد.
در پژوهش‌های آینده، این چارچوب در کاربردهایی مانند تشخیص اشیا و بخش‌بندی معنایی نمونه‌ها پیاده‌سازی و ارزیابی خواهد شد. بااین‌حال، پژوهشگران اذعان دارند که میزان همبستگی ارزیابی کمّی با تعریف نظری موارد مرزی همچنان پرسشی حل‌نشده است. به باور آن‌ها، این چارچوب می‌تواند به روشن شدن جنبه‌های کلیدی آزمون و اعتبارسنجی مدل‌های یادگیری ماشین در سامانه‌های حساس از نظر ایمنی کمک کند.
موضوع پژوهش: تعریف ریاضی و طبقه‌بندی موارد مرزی در فرایندهای یادگیری ماشین
عنوان مقاله: موارد مرزی در فرایندهای یادگیری ماشین
منبع مقاله: Heidecker, F., Bieshaar, M., & Sick, B. (2024). Corner cases in machine learning processes. AI Perspectives & Advances, 6(1), Article 1. https://doi.org/10.1186/s42467-023-00015-y
شناسه دیجیتال مقاله (DOI): 10.1186/s42467-023-00015-y
کلیدواژه‌ها: یادگیری ماشین، موارد مرزی، رانندگی خودکار، کمّی‌سازی عدم‌قطعیت، کالیبراسیون مدل، نمونه‌های خصمانه، داده‌های خارج از توزیع، طبقه‌بندی، یادگیری فعال، کیفیت داده