گوگل دیپ‌مایند و دولت سنگاپور هوش مصنوعی روی دستگاه برای شناسایی مکالمات کلاهبرداری توسعه دادند
گوگل دیپ‌مایند و آژانس فناوری دولت سنگاپور مدلی از هوش مصنوعی توسعه داده‌اند که می‌تواند مکالمات کلاهبرداری و فریبنده را مستقیماً روی گوشی‌های هوشمند شناسایی کند. این سامانه که در ۱۴ اکتبر و در جریان هفته بین‌المللی امنیت سایبری سنگاپور معرفی شد، برای ارائه هشدارهای لحظه‌ای پیش از آن طراحی شده است که کاربران پول منتقل کنند، اطلاعات ورود خود را در اختیار دیگران بگذارند یا داده‌های حساس دیگری را به اشتراک بگذارند. داده‌های مکالمات به‌جای ارسال به یک سرویس ابری خارجی، روی همان دستگاه باقی می‌ماند.
این پروژه از نسخه سبک‌وزن مدل Gemma گوگل استفاده می‌کند که برای الگوهای کلاهبرداری ویژه سنگاپور تنظیم دقیق شده است. داده‌های آموزشی آن شامل نمونه‌هایی از جعل هویت سازمان‌های دولتی، بانک‌ها و چهره‌های عمومی و همچنین دیگر روش‌های مهندسی اجتماعی مشاهده‌شده در کارزارهای کلاهبرداری منطقه‌ای است. اطلاعات خصوصی یا قابل شناسایی شهروندان در فرایند آموزش استفاده نشده و شرکا از داده‌های ناشناس‌شده‌ای بهره گرفته‌اند که از گزارش‌های کلاهبرداری و منابع اطلاعاتی به دست آمده بود.
معماری دومرحله‌ای این سامانه با هدف ایجاد تعادل میان توانایی شناسایی تهدیدها و محدودیت‌های پردازشی و مصرف باتری گوشی‌های هوشمند طراحی شده است. در مرحله نخست، یک طبقه‌بند کم‌مصرف پیام‌های ورودی را بررسی می‌کند. مکالماتی که نشانه‌های احتمالی رفتار مشکوک دارند، به مرحله دوم منتقل می‌شوند؛ جایی که مدل Gemma تنظیم‌شده، توالی گسترده‌تری از پیام‌ها را برای یافتن نشانه‌های فریب و دستکاری تحلیل می‌کند. اگر سیستم الگویی تهدیدآمیز شناسایی کند، هشداری روی دستگاه نمایش می‌دهد و به کاربر توصیه می‌کند پیش از اشتراک‌گذاری اطلاعات یا انتقال وجه، مکث کند.
این رویکرد برای محیط‌های پیام‌رسانی طراحی شده است که از رمزنگاری سرتاسری محافظت می‌شوند؛ محیط‌هایی که در آن‌ها ارائه‌دهنده پلتفرم نمی‌تواند مکالمات خصوصی را روی یک سرور مرکزی بررسی کند. با انتقال فرایند شناسایی به خود گوشی، شرکا قصد دارند مرز امنیتی رمزنگاری را حفظ کنند و در عین حال الگوهای رفتاری را شناسایی کنند که ممکن است از یک پیام یا لینک منفرد قابل تشخیص نباشند.
توسعه و تنظیم دقیق مدل در محیط ابری گوگل که تحت مدیریت GovTech قرار داشت، انجام شد. این مدل در برابر مکالمات مصنوعی و الگوهای زبانی محلی مربوط به دسته‌های مختلف کلاهبرداری آزمایش فشار شد. سامانه برای گوشی‌های هوشمندی که به‌طور گسترده در سنگاپور استفاده می‌شوند بهینه‌سازی شده است، اما تاریخ انتشار عمومی و جزئیات مربوط به ادغام آن با اندروید یا پلتفرم‌های پیام‌رسان مشخصی اعلام نشده است.
کلاهبرداری‌ها بیش از نیمی از جرایم گزارش‌شده در سنگاپور را تشکیل می‌دهند و از سال ۲۰۱۹ تاکنون بیش از ۴ میلیارد دلار سنگاپور خسارت به بار آورده‌اند. طرح‌های مهندسی اجتماعی که در آن مهاجمان پیش از درخواست پول یا اطلاعات ورود، گفت‌وگویی طولانی و ظاهراً معتبر ایجاد می‌کنند، اکنون تا ۸۰ درصد از خسارت‌های ناشی از کلاهبرداری را شامل می‌شوند. این مدل، استفاده کنونی سنگاپور از غربالگری روی دستگاه، اطلاعات هوشمند ScamShield و تحلیل خودکار وب‌سایت‌ها را به حوزه شناسایی مکالمات چندمرحله‌ای گسترش می‌دهد.