تشریح جزئیات سامانه تشخیص کلاهبرداری مبتنی بر Gemma توسط GovTech سنگاپور و گوگل دیپ‌مایند
سازمان فناوری دولت سنگاپور (GovTech) و گوگل دیپ‌مایند (Google DeepMind) سامانه‌ای برای شناسایی کلاهبرداری توسعه داده‌اند که بر پایه نسخه‌ای از مدل هوش مصنوعی Gemma با تنظیم دقیق ساخته شده و مستقیماً روی دستگاه کاربر اجرا می‌شود. این دو مجموعه معماری فنی سامانه را در رویداد هفته بین‌المللی سایبری سنگاپور (SICW) در سال ۲۰۲۶ تشریح کردند.
این پروژه بخشی از برنامه مشارکت ملی هوش مصنوعی با دولت سنگاپور است. از سال ۲۰۱۹ تاکنون، کلاهبرداری‌ها در سنگاپور بیش از ۴ میلیارد دلار سنگاپور خسارت مالی به بار آورده‌اند و بیش از نیمی از جرایم گزارش‌شده در این کشور را تشکیل می‌دهند. در حال حاضر، برخلاف گذشته که کلاهبرداری‌ها بیشتر بر ارسال انبوه و خودکار لینک‌های فیشینگ متکی بودند، گفت‌وگوهای پیچیده مبتنی بر مهندسی اجتماعی عامل ایجاد تا ۸۰ درصد از خسارت‌های مالی ثبت‌شده هستند.
مارک چن، مدیر بخش اعتماد و ایمنی در GovTech سنگاپور، می‌گوید: «مبارزه با کلاهبرداری نباید به قیمت از دست رفتن حریم خصوصی افراد تمام شود.»
او می‌افزاید: «با همکاری گوگل دیپ‌مایند، قابلیت‌های پیشرفته محافظت مبتنی بر هوش مصنوعی را مستقیماً به دستگاه‌های شهروندان می‌آوریم. به این ترتیب می‌توانیم تلاش‌های کلاهبرداری بسیار هدفمند و متناسب با شرایط محلی را در لحظه شناسایی کنیم، بدون آنکه محرمانگی ارتباطات شخصی افراد به خطر بیفتد.»
سامانه تشخیص دومرحله‌ای روی سخت‌افزار تلفن همراه اجرا می‌شود
یکی از چالش‌های فنی همیشگی اجرای مدل‌های هوش مصنوعی روی گوشی‌های هوشمند، مصرف باتری هنگام انجام پردازش‌های استنتاجی است. تیم‌های مهندسی برای مدیریت محدودیت منابع دستگاه، معماری تشخیصی دومرحله‌ای طراحی کرده‌اند.
در مرحله نخست، یک مدل دسته‌بندی دودویی کوچک و کم‌مصرف، پیام‌های دریافتی را مستقیماً روی دستگاه بررسی می‌کند. این فیلتر اولیه به‌طور مداوم متن پیام‌های ورودی را زیر نظر می‌گیرد تا نشانه‌های اولیه رفتارهای فریبکارانه و تلاش برای تأثیرگذاری بر مخاطب را شناسایی کند. این بررسی با حداقل مصرف انرژی انجام می‌شود. اگر مدل در این مرحله نشانه‌ای از فریب احتمالی پیدا کند، بررسی گفت‌وگو به لایه دوم سپرده می‌شود.
در مرحله دوم، مدل Gemma که برای این کاربرد تنظیم دقیق شده است، با در نظر گرفتن زمینه گفت‌وگو ارزیابی دقیق‌تری انجام می‌دهد. سامانه بخش گسترده‌تری از مکالمه را بررسی می‌کند تا مشخص شود آیا واقعاً قصد فریب وجود دارد یا هشدار اولیه اشتباه بوده است. اگر مدل تشخیص دهد که گفت‌وگو با هدف فریب و سوءاستفاده پیش می‌رود، بلافاصله هشداری روی گوشی نمایش می‌دهد و از کاربر می‌خواهد پیش از ارائه اطلاعات ورود به حساب‌ها یا انتقال پول، دست نگه دارد.
آموزش مدل در محیط ابری مستقل برای حفاظت از داده‌های محلی
فرایند سفارشی‌سازی مدل در محیط مدیریت‌شده پلتفرم ابری گوگل (Google Cloud Platform) متعلق به GovTech سنگاپور انجام شده است. این محیط به‌صورت یک فضای آزمایشی مستقل و تحت حاکمیت داده‌ای، موسوم به Sovereign Sandbox، پیکربندی شده بود. چنین ساختاری باعث شد وزن‌های مدل در مرحله توسعه از زیرساخت‌های ابری بیرونی جدا نگه داشته شوند.
تیم‌های مهندسی آگاهانه ارتباطات خصوصی شهروندان و سوابق حاوی اطلاعات هویتی افراد را از داده‌های آموزشی کنار گذاشتند. در عوض، مدل با استفاده از گزارش‌های کلاهبرداری که اطلاعات هویتی آن‌ها حذف شده بود، سوابق اطلاعاتی رسمی، مجموعه‌داده‌های گویش‌های منطقه‌ای و مکالمات ساختگی تولیدشده برای آموزش، یاد گرفت الگوهای فریب را تشخیص دهد. این داده‌ها مدل را با شیوه‌های خاص کلاهبرداری در منطقه آشنا کردند؛ از جمله جعل هویت مقام‌های دولتی محلی، معرفی خود به‌جای بانک‌های داخلی و سوءاستفاده از فرصت‌های سرمایه‌گذاری منطقه‌ای برای فریب قربانیان.
اجرای سامانه روی دستگاه با کنترل دسترسی مبتنی بر رضایت کاربر
این نرم‌افزار به‌جای ارسال مکالمات کاربران به سرورهای ابری متمرکز برای بررسی، تمام پردازش‌ها را به‌صورت محلی روی دستگاه انجام می‌دهد. این انتخاب در طراحی سامانه با شیوه‌های رمزنگاری سرتاسری مورد استفاده در پیام‌رسان‌ها سازگار است.
بر اساس چارچوب پیش‌بینی‌شده برای عرضه این فناوری، سامانه تشخیص تنها پس از دریافت رضایت صریح کاربر و مطابق با شرایط استفاده از اپلیکیشن، به جریان پیام‌ها دسترسی پیدا می‌کند. هنگام اجرای مدل، نه گوگل و نه دولت سنگاپور به داده‌های مکالمات شهروندان دسترسی نخواهند داشت.
GovTech سنگاپور قصد دارد این سامانه را به‌صورت مرحله‌ای در اپلیکیشن‌های عمومی عرضه کند. همچنین قرار است چارچوب فنی آن به‌عنوان یک نمونه مرجع در اختیار سایر کشورها و حوزه‌های قضایی قرار گیرد که در حال بررسی راهکارهای پیشگیری از کلاهبرداری با پردازش مستقیم داده‌ها روی دستگاه کاربران هستند.