گوگل دیپ‌مایند مدل هوش مصنوعی تشخیص کلاهبرداری ویژه سنگاپور را توسعه داد که روی دستگاه اجرا می‌شود
گوگل دیپ‌مایند در یک پست وبلاگی در ۱۴ اکتبر اعلام کرد که با همکاری آژانس فناوری دولت سنگاپور (GovTech Singapore) یک مدل هوش مصنوعی برای تشخیص کلاهبرداری توسعه داده است که روی گوشی‌های هوشمند اجرا می‌شود.
این همکاری بخشی از مشارکت ملی هوش مصنوعی میان گوگل دیپ‌مایند و دولت سنگاپور است.
گوگل دیپ‌مایند مدل سبک‌وزن Gemma را با استفاده از داده‌های مکالمات مربوط به کلاهبرداری‌های محلی تنظیم دقیق کرده است. این آموزش شامل روش‌هایی مانند جعل هویت سازمان‌های دولتی، بانک‌ها و چهره‌های مشهور محلی و همچنین شیوه‌های کلاهبرداری رایج در سنگاپور بوده است. این شرکت اعلام کرد که این فرایند به مدل امکان می‌دهد مکالمات عادی را از تلاش‌های واقعی برای فریب و دستکاری تشخیص دهد.
این مدل به‌جای استفاده از سرورهای ابری، مکالمات را روی خود دستگاه تحلیل می‌کند. زمانی که الگوهای دستکاری را شناسایی کند، هشدار لحظه‌ای نمایش می‌دهد و از کاربران می‌خواهد پیش از ارسال پول یا اشتراک‌گذاری اطلاعات حساس، متوقف شوند و دوباره بررسی کنند. این مدل تنها با رضایت کاربر می‌تواند به مکالمات دسترسی داشته باشد و نه دولت سنگاپور و نه گوگل قادر به مشاهده مکالمات کاربران نخواهند بود.
مدلی که دو طرف توسعه داده‌اند از یک ساختار دو مرحله‌ای برای بهبود مصرف باتری استفاده می‌کند. در مرحله نخست، یک دسته‌بند سبک‌وزن پیام‌های ورودی را فیلتر می‌کند. در مرحله دوم، مدل Gemma که با داده‌های محلی تنظیم شده است، مکالمه را به‌صورت گسترده‌تر تحلیل می‌کند و درباره تهدید بودن یا هشدار اشتباه بودن آن تصمیم نهایی می‌گیرد.
فرایند تنظیم دقیق مدل در محیط گوگل کلاد که توسط GovTech Singapore مدیریت می‌شد انجام شد. داده‌های آموزشی شامل اطلاعات قابل شناسایی شخصی نبودند و تنها از داده‌های ناشناس استخراج‌شده از گزارش‌های کلاهبرداری و منابع اطلاعاتی استفاده شد. این مدل پس از رایزنی با دولت سنگاپور، به‌صورت مرحله‌ای در اپلیکیشن‌ها عرضه خواهد شد.
مارک چن، مدیر بخش اعتماد و ایمنی در GovTech Singapore، گفت: «مبارزه با کلاهبرداری‌ها نباید به قیمت از بین رفتن حریم خصوصی تمام شود.» او افزود: «ما می‌توانیم تلاش‌های کلاهبرداری در لحظه را که کاربران محلی را هدف قرار می‌دهند شناسایی کنیم و در عین حال، محرمانگی مکالمات خصوصی را حفظ کنیم.»