گوگل دیپ‌مایند و GovTech مدل تشخیص کلاهبرداری روی دستگاه را معرفی کردند
گوگل دیپ‌مایند و آژانس فناوری دولت سنگاپور (GovTech) در ۱۴ اکتبر ۲۰۲۶ از یک مدل تشخیص کلاهبرداری روی دستگاه رونمایی کردند که برای هشدار دادن به کاربران گوشی‌های هوشمند درباره گفت‌وگوهای فریبکارانه طراحی شده است؛ بدون آنکه پیام‌های خصوصی کاربران را به فضای ابری ارسال کند. این اقدام در کشوری انجام می‌شود که کلاهبرداری‌ها از سال ۲۰۱۹ تاکنون بیش از ۴ میلیارد دلار سنگاپور خسارت به بار آورده‌اند.
خسارت‌های ناشی از کلاهبرداری و تغییر رویکرد به مهندسی اجتماعی
بر اساس اعلامیه منتشرشده در وبلاگ گوگل دیپ‌مایند به قلم جی جی گیوکس و میگل دِ آندرس، کلاهبرداری‌ها بیش از نیمی از جرائم گزارش‌شده در سنگاپور را تشکیل می‌دهند و از سال ۲۰۱۹ تاکنون بیش از ۴ میلیارد دلار سنگاپور خسارت ایجاد کرده‌اند. در این اعلامیه آمده است که روش‌های کلاهبرداری از فیشینگ ساده به سمت مهندسی اجتماعی پیچیده‌تر تغییر کرده‌اند؛ روشی که در آن مهاجمان با ایجاد مکالمه‌های باورپذیر، قربانیان را دستکاری می‌کنند و سپس از آن‌ها درخواست پول می‌کنند. این نوع کلاهبرداری‌ها اکنون تا ۸۰ درصد از کل خسارت‌ها را شامل می‌شوند.
طبق این اعلامیه، مدل‌های عمومی معمولاً در شناسایی روش‌های فریب بومی و محلی با مشکل روبه‌رو هستند. مدل سبک‌وزن Gemma از گوگل دیپ‌مایند با استفاده از مکالمات واقعی کلاهبرداری در سنگاپور بهینه‌سازی شده است؛ داده‌هایی که طیفی از جعل هویت سازمان‌های دولتی، بانک‌ها، شخصیت‌های محلی و طرح‌های کلاهبرداری رایج منطقه‌ای را شامل می‌شوند. به گفته گوگل، این آموزش به مدل امکان می‌دهد گفت‌وگوهای عادی اجتماعی را از تلاش‌های واقعی برای فریب تشخیص دهد و مدل نهایی برای اجرا روی گوشی‌های هوشمند معمول در سنگاپور بهینه شده است.
پردازش روی دستگاه و معماری دو مرحله‌ای
این مدل داده‌های مکالمه را مستقیماً روی خود دستگاه پردازش می‌کند. در روش‌های سنتی تشخیص تهدید، پیام‌ها روی سرورهای ابری بررسی می‌شوند، اما بسیاری از پلتفرم‌های پیام‌رسان از رمزگذاری سرتاسری استفاده می‌کنند و بنابراین امکان بررسی مکالمات خصوصی را ندارند. این اعلامیه توضیح می‌دهد که اجرای تحلیل به‌صورت محلی، امکان بررسی سریع‌تر الگوهای گفت‌وگو و شناسایی نیت‌های فریبکارانه را فراهم می‌کند تا کاربران پیش از افشای اطلاعات مالی یا اعتبارنامه‌های خود اقدام کنند.
زمانی که مدل الگوهای فریبکارانه را در یک مکالمه تشخیص دهد، یک هشدار لحظه‌ای روی دستگاه نمایش داده می‌شود و از کاربر می‌خواهد پیش از ارسال اطلاعات حساس یا پول، مکث کند.
بر اساس اعلامیه، مصرف باتری یکی از نگرانی‌های مهم در اجرای یک طبقه‌بند پیچیده تشخیص کلاهبرداری روی گوشی‌های امروزی بود. تیم‌ها برای حل این مسئله از یک خط پردازشی دو مرحله‌ای استفاده کردند. در مرحله نخست، یک طبقه‌بند سبک و کم‌مصرف پیام‌های ورودی را بررسی می‌کند و بر شناسایی تهدیدهای احتمالی تمرکز دارد. در مرحله دوم، مدل Gemma که برای این کار تنظیم شده است، تصویر بزرگ‌تری از زمینه مکالمه را تحلیل می‌کند تا تهدید را تأیید یا هشدار اشتباه را رد کند.
اقدامات حاکمیتی
این همکاری در رویداد هفته بین‌المللی امنیت سایبری سنگاپور ۲۰۲۶ معرفی شد. سخنرانی افتتاحیه این رویداد در ۱۳ اکتبر ۲۰۲۶ توسط کِی شانموگام، وزیر ارشد و وزیر کشور سنگاپور، ارائه شد؛ مطابق با متن منتشرشده توسط وزارت امور داخلی.
در اعلامیه آمده است که توسعه این مدل در تمام مراحل تحت تدابیر سخت‌گیرانه‌ای با عنوان‌های «محیط آزمایشی حاکمیتی»، «بدون داده شهروندان» و «آزمون فشار» انجام شده است. در چارچوب محیط آزمایشی حاکمیتی، تنظیم دقیق مدل در محیط مدیریت‌شده و نگهداری‌شده پلتفرم Google Cloud متعلق به GovTech انجام شد تا داده‌های آموزشی جدا و محافظت‌شده باقی بمانند. در چارچوب «بدون داده شهروندان»، هیچ اطلاعات خصوصی یا قابل شناسایی شخصی برای آموزش استفاده نشد و داده‌های ناشناس از گزارش‌های کلاهبرداری و منابع اطلاعاتی به کار رفتند. در بخش آزمون فشار نیز مدل با گفت‌وگوهای مصنوعی و مجموعه‌داده‌های محلی شامل انواع مختلف کلاهبرداری و روش‌های در حال تغییر جعل هویت آزمایش شد.
«مبارزه با کلاهبرداری نباید به معنای قربانی کردن حریم خصوصی افراد باشد. همکاری با گوگل دیپ‌مایند به ما امکان می‌دهد حفاظت پیشرفته مبتنی بر هوش مصنوعی را مستقیماً روی دستگاه‌های شهروندان ارائه کنیم. این رویکرد به ما اجازه می‌دهد تلاش‌های بسیار هدفمند و محلی کلاهبرداری را در زمان واقعی شناسایی کنیم، در حالی که ارتباطات شخصی کاملاً خصوصی باقی می‌ماند.»
— مارک چن، مدیر اعتماد و ایمنی در GovTech سنگاپور
پیشینه همکاری ملی هوش مصنوعی
مدل تشخیص کلاهبرداری بخشی از همکاری ملی هوش مصنوعی میان گوگل و دولت سنگاپور است. گوگل دیپ‌مایند در ۲۰ مه ۲۰۲۶ این همکاری را اعلام کرد و پس از افتتاح آزمایشگاه پژوهشی خود در سنگاپور در سال قبل، برنامه‌های جدیدی را در این کشور تحت ابتکار «مشارکت‌های ملی برای هوش مصنوعی» آغاز کرد.
این برنامه‌ها شامل بررسی همکاری میان هوش مصنوعی و پزشکان در مراکز سلامت عمومی؛ پشتیبانی از پژوهش‌های بیماری‌های عفونی و آمادگی در برابر همه‌گیری‌ها با همکاری Google.org به‌عنوان بخشی از کمک ۷ میلیون دلاری به ائتلاف Health for Human Potential در Philanthropy Asia Alliance؛ دستیار دویدن مبتنی بر Gemma برای ورزشکاران نابینا و کم‌بینا که با همکاری SG Enable، نهاد مسئول حوزه معلولیت و فراگیری در سنگاپور، آزمایش و بهبود یافته است؛ آموزش پژوهشگران محلی درباره ابزارهای علمی هوش مصنوعی عامل‌محور با همکاری بنیاد ملی پژوهش سنگاپور؛ ارائه Gemini for Education به آموزگاران از مدارس ابتدایی تا کالج‌های مقدماتی؛ و پژوهش درباره معیارهای ایمنی چندوجهی و چندزبانه با همکاری سازمان توسعه رسانه و ارتباطات اطلاعاتی سنگاپور و MLCommons می‌شود.
مسیر ادغام برای ارائه‌دهندگان پیام‌رسان و سیستم‌عامل
این اعلامیه بیان می‌کند که پلتفرم‌های پیام‌رسان و تولیدکنندگان سیستم‌عامل می‌توانند این مدل‌های سبک‌وزن را مستقیماً برای محافظت محلی از کاربران ادغام کنند؛ به‌گونه‌ای که تعاملات پیام‌رسانی ایمن باقی بماند و داده‌های خصوصی در معرض خطر قرار نگیرد. این پروژه به‌عنوان الگویی برای پلتفرم‌های پیام‌رسان معرفی شده است که می‌خواهند میان حفاظت از کاربران و رمزگذاری سرتاسری تعادل برقرار کنند و همچنین نمونه‌ای از همکاری دولت‌ها و ارائه‌دهندگان مدل‌های هوش مصنوعی برای توسعه فناوری در خدمت منافع عمومی به شمار می‌رود.