نقطه کور ایمنی ناوگان: وقتی هوش مصنوعی خطر تصادف را تشخیص نمی‌دهد
نویسنده: جیسون کنون | ۱۸ اکتبر ۲۰۲۶
سامانه‌های ایمنی مبتنی بر ویدئو و هوش مصنوعی در حال دگرگون کردن شیوه مدیریت ریسک در شرکت‌های حمل‌ونقل جاده‌ای هستند؛ اما اتکا به تشخیص خودکار بدون تأیید انسانی، بی‌سروصدا این شرکت‌ها را با مسئولیت‌های حقوقی تازه‌ای روبه‌رو می‌کند.
داگ مارسلو، وکیل مدافع شرکت‌های حمل‌ونقل، و شان ریچی، معاون شرکت Solera Fleet Solutions، در کنفرانس و نمایشگاه مدیریت انجمن حمل‌ونقل آمریکا هشدار دادند که شرکت‌های حمل‌ونقل نباید نظارت بر ایمنی را به‌طور کامل به سامانه‌های بینایی رایانه‌ای خودکار واگذار کنند.
دوربین‌های داشبورد و سامانه‌های تلماتیک مدت‌هاست به‌عنوان شواهدی عینی به رانندگان وسایل نقلیه تجاری کمک می‌کنند بی‌تقصیری خود را در تصادف‌ها اثبات کنند. بااین‌حال، نقاط کور سامانه‌های نوین هوش مصنوعی راه‌های تازه‌ای در اختیار وکلای شاکیان قرار داده‌اند تا غرامت‌های بسیار سنگین مطالبه کنند.
مارسلو گفت: «تقریباً در همه پرونده‌ها، این خود ویدئو است که نتیجه دعوا را تعیین می‌کند، چون مدرکی عینی است. در غیر این صورت، باید به روایت‌هایی تکیه کنیم که شاکی، مدعی خسارت یا وکیل او مطرح می‌کنند.»
خطر منفی کاذب
مهم‌ترین آسیب‌پذیری شرکت‌های حمل‌ونقل، پدیده‌ای است که کارشناسان ایمنی آن را «منفی کاذب» می‌نامند؛ یعنی زمانی که یک سامانه هوش مصنوعی رفتار راننده را زیر نظر می‌گیرد، اما خطر یا تخلف واقعی را تشخیص نمی‌دهد و در نتیجه، رویداد را برای بررسی علامت‌گذاری نمی‌کند.
ازآنجاکه مدیران ناوگان امروزی معمولاً با واحدهای ایمنی کم‌نیرو فعالیت می‌کنند و به داشبوردهایی متکی هستند که اطلاعات را از پیش فیلتر کرده‌اند، تصاویر خام حاوی رفتارهای پرخطرِ شناسایی‌نشده اغلب بدون بررسی در بایگانی شرکت باقی می‌مانند.
ریچی این خطر انباشته‌شونده را «بدهی قضاوت» نامید. به گفته او، سامانه‌های خودکار ممکن است شرکت‌های حمل‌ونقل را به اطمینان کاذب برسانند، درحالی‌که مسئولیت‌های بالقوه‌ای که ثبت و رسیدگی نشده‌اند، به‌تدریج در پس‌زمینه انباشته می‌شوند.
ریچی گفت: «نگرانی این است که کار را به سامانه خودکار بسپارید و دیگر نپرسید چه چیزهایی ممکن است از چشم آن دور بماند. با این کار، لایه‌ای از هوش انسانی را از فرایند حذف کرده‌اید. از این منظر، بدهی قضاوت شما مدام بیشتر می‌شود تا جایی که دیگر کنترل آنچه را واقعاً می‌خواهید مدیریت کنید، از دست می‌دهید.»
بر اساس مطالعات اخیر شرکت‌های ارائه‌دهنده فناوری ناوگان، حدود ۳۰ درصد از ویدئوهایی که سامانه‌های هوش مصنوعی برای بررسی شناسایی می‌کنند، حاوی خطرات ثانویه دیگری هستند که نرم‌افزار به‌کلی از تشخیص آن‌ها بازمانده است.
تضعیف راهبرد حقوقی موسوم به «نظریه خزنده»
در دعاوی حقوقی مربوط به تصادف‌های شدید، وکلای شاکیان معمولاً پرونده خود را به شرایط وقوع همان تصادف محدود نمی‌کنند. آن‌ها اغلب از طریق فرایند کشف ادله قضایی، خواستار دسترسی به کل بایگانی تاریخی اطلاعات تلماتیک و ویدئوها می‌شوند تا روایتی از قصور نظام‌مند شرکت در رعایت ایمنی بسازند.
مارسلو هشدار داد که شرکت‌های حمل‌ونقل نمی‌توانند در دادگاه پشت کاستی‌های سامانه‌های خودکار پنهان شوند.
او گفت: «اگر رفتار راننده در ویدئو ثبت شده باشد، مسئولیت آن با شماست. این دفاع که بگویید هوش مصنوعی آن را شناسایی نکرده، پاسخ قابل قبولی نخواهد بود و بهانه محسوب نمی‌شود.»
وکلای شاکیان با استفاده از راهبردهای محاکمه‌ای مانند «نظریه خزنده» در دعاوی حقوقی، به دنبال شواهدی می‌گردند که نشان دهد شرکت حمل‌ونقل فرهنگ ایمنی پیشگیرانه‌ای نداشته است. وجود یک الگوی رفتاری تکرارشونده و اصلاح‌نشده در سوابق گذشته، مانند خواب‌آلودگی، سرعت غیرمجاز یا ترمزگیری شدید که در ویدئوهای شرکت ثبت شده اما هرگز درباره آن به راننده تذکر داده نشده است، می‌تواند از سوی وکلای شاکیان نشانه بی‌توجهی شرکت به ایمنی معرفی شود؛ حتی اگر آن رفتار عامل تصادف مورد رسیدگی نبوده باشد.
مارسلو به پرونده‌ای در فیلادلفیا اشاره کرد که در آن هیئت منصفه شرکت حمل‌ونقلی را به پرداخت ۲۶ میلیون دلار غرامت محکوم کرد. در آن حادثه، راننده از مسیر جاده منحرف شده بود. محور اصلی پرونده شاکی، موارد سرعت غیرمجاز در طول سال پیش از تصادف بود که در سوابق شرکت ثبت شده بودند اما اقدامی برای اصلاح آن‌ها صورت نگرفته بود؛ این در حالی بود که کارشناسان بازسازی تصادف هر دو طرف شهادت داده بودند سرعت عامل وقوع حادثه نبوده است.
مارسلو همچنین به شرکت‌های حمل‌ونقل درباره گرفتار شدن در «مغالطه کشف ادله» هشدار داد؛ این تصور اشتباه که اگر بایگانی ویدئوهای علامت‌گذاری‌نشده را بررسی نکنند، می‌توانند از ارائه آن‌ها در فرایند قضایی جلوگیری کنند.
او گفت: «این مغالطه که بگوییم با بررسی نکردن اطلاعات می‌توانیم مانع کشف ادله شویم، درست نیست. خود داده‌ها کشف خواهند شد. شما دو انتخاب دارید: یا پیش‌دستی می‌کنید، اطلاعات را تحلیل می‌کنید و موارد پرخطر را زیر نظر می‌گیرید، یا در نهایت وکلای شاکیان شما را پاسخ‌گو خواهند کرد.»
رفع شکاف با بررسی انسانی
هر دو سخنران تأکید کردند که برای دستیابی به آنچه ریچی «شناخت جامع ریسک» می‌نامد، شرکت‌های حمل‌ونقل باید پیش از آنکه فایل‌های ویدئویی در صف بررسی مدیر ایمنی قرار گیرند، سامانه‌های بینایی رایانه‌ای خودکار را با لایه‌ای از بررسی انسانی همراه کنند.
سامانه‌های هوش مصنوعی در تحلیل حجم عظیمی از داده‌های تصویری و ردیابی شرایط معمول جاده توانمندند؛ اما بررسی انسانی همچنان برای درک زمینه و شرایط رفتار راننده، کنار گذاشتن هشدارهای نادرست و شناسایی تخلف‌های ظریفی که مدل‌های نرم‌افزاری از آن‌ها غافل می‌شوند، ضروری است.
مارسلو گفت: «هرچه لایه‌های نظارتی بیشتری داشته باشیم، بهتر است. اگر پیش از رسیدن ویدئو به شما، کسی آن را از دیدگاه انسانی بررسی کند، احتمال اینکه موردی از چشم افراد پنهان بماند، به‌مراتب کمتر می‌شود.»
ریچی از شرکت‌های حمل‌ونقل خواست عملکرد تأمین‌کنندگان فعلی فناوری خود را ارزیابی کنند تا مشخص شود آیا تصاویر ارسالی به واحدهای ایمنی از نظر منفی‌های کاذب بررسی شده‌اند یا مسئولیت کشف موارد شناسایی‌نشده همچنان به‌طور کامل بر عهده کارکنان داخلی شرکت است.
ریچی گفت: «باید اطمینان حاصل کنید که هر دو لایه هوش و تشخیص وجود دارند و در کنار یکدیگر به‌درستی کار می‌کنند تا این مسئولیت حقوقی به قصور در رعایت ایمنی تبدیل نشود.»
جیسون کنون بیش از یک دهه درباره حمل‌ونقل جاده‌ای و صنعت کامیون‌داری نوشته و سردبیر ارشد نشریه Commercial Carrier Journal است. او دارنده گواهینامه رانندگی تجاری کلاس A و فارغ‌التحصیل مدرسه رانندگی ورزشی پورشه است. همچنین عنوان افتخاری «اردک‌دار» مجموعه پیبادی در ممفیس ایالت تنسی را دارد و کمربند بنفش جوجیتسوی برزیلی را دریافت کرده است. راه ارتباطی: [email protected].