گوگل دیپ‌مایند و GovTech سنگاپور مدل روی‌دستگاهی برای شناسایی کلاهبرداری در گفت‌وگوها توسعه دادند
گوگل دیپ‌مایند و آژانس فناوری دولت سنگاپور (GovTech) مدل تشخیص کلاهبرداری را توسعه داده‌اند که روی گوشی‌های هوشمند اجرا می‌شود و گفت‌وگوها را بدون ارسال محتوای پیام به سرورهای خارجی تحلیل می‌کند.
گوگل دیپ‌مایند روز چهارشنبه در بیانیه‌ای اعلام کرد این پروژه بخشی از همکاری ملی هوش مصنوعی گوگل با دولت سنگاپور است.
کلاهبرداری‌ها بیش از نیمی از جرایم گزارش‌شده در سنگاپور را تشکیل می‌دهند و مجموع خسارت‌های ناشی از آنها از سال ۲۰۱۹ تاکنون از ۴ میلیارد دلار سنگاپور فراتر رفته است. مهندسی اجتماعی، که در آن مهاجمان با گفت‌وگوهای متقاعدکننده اعتماد قربانی را جلب و سپس از او درخواست پول می‌کنند، اکنون مسئول ۸۰ درصد این خسارت‌هاست.
این مدل بر پایه مدل سبک‌وزن Gemma گوگل ساخته شده و دو طرف آن را با استفاده از گفت‌وگوهای محلی مرتبط با کلاهبرداری، تنظیم دقیق کرده‌اند. داده‌های آموزشی شامل نمونه‌هایی از جعل هویت نهادهای دولتی، بانک‌ها و چهره‌های محلی و همچنین طرح‌های کلاهبرداری نوظهور در منطقه بوده است.
این مدل در دو مرحله کار می‌کند. ابتدا یک طبقه‌بند سبک‌وزن، پیام‌های ورودی را با هزینه مصرف انرژی پایین بررسی و موارد مشکوک را علامت‌گذاری می‌کند. سپس مدل Gemma که برای این کار تنظیم دقیق شده است، بخش بزرگ‌تری از گفت‌وگو را تحلیل می‌کند تا وجود یک الگوی فریبکارانه را تأیید یا هشدار اشتباه را رد کند.
اگر مدل وجود تهدید را تأیید کند، روی دستگاه و به‌صورت لحظه‌ای هشداری نمایش می‌دهد و به کاربر توصیه می‌کند پیش از به‌اشتراک‌گذاشتن اطلاعات یا انتقال پول، مکث و دوباره موضوع را بررسی کند.
این دو نهاد اعلام کردند مدل تنها با رضایت کاربر و مطابق با شرایط استفاده هر برنامه می‌تواند به گفت‌وگوها دسترسی پیدا کند. نه دولت سنگاپور و نه گوگل از طریق این سامانه امکان خواندن گفت‌وگوها را ندارند.
گوگل اعلام کرد عرضه این فناوری به‌صورت مرحله‌ای و با همکاری دولت سنگاپور انجام خواهد شد. این مدل قرار است در برنامه‌هایی که شهروندان از آنها استفاده می‌کنند، ادغام شود.
فرایند تنظیم دقیق مدل در محیط ابری تحت مدیریت GovTech انجام شد و داده‌های آموزشی جدا از سایر داده‌ها نگهداری شدند. دو طرف اعلام کردند در فرایند آموزش از اطلاعات خصوصی و اطلاعات قابل شناسایی شخصی استفاده نشده و داده‌های ناشناس‌شده حاصل از گزارش‌های کلاهبرداری و منابع اطلاعاتی به کار رفته است.
گوگل دیپ‌مایند اعلام کرد این مدل در برابر گفت‌وگوهای مصنوعی و الگوهای زبانی محلی در چندین دسته از کلاهبرداری‌ها آزمایش شده است.