گوگل دیپ‌مایند و سنگاپور هوش مصنوعی برای شناسایی مکالمات کلاهبرداری توسعه دادند
سنگاپور: گوگل دیپ‌مایند و سازمان فناوری دولت سنگاپور (GovTech) یک مدل هوش مصنوعی توسعه داده‌اند که برای شناسایی مکالمات کلاهبرداری در گوشی‌های هوشمند طراحی شده است و پیش از آنکه کاربران پول یا اطلاعات حساس خود را در اختیار کلاهبرداران قرار دهند، به آنها هشدار می‌دهد.
این فناوری که روز چهارشنبه در جریان «هفته بین‌المللی امنیت سایبری سنگاپور» معرفی شد، با هدف شناسایی روش‌های مهندسی اجتماعی طراحی شده است؛ روش‌هایی که در آن کلاهبرداران با جعل هویت مقام‌های دولتی، نمایندگان بانک‌ها یا چهره‌های عمومی تلاش می‌کنند قربانیان را فریب دهند.
این سامانه از نسخه سبک‌وزن مدل هوش مصنوعی Gemma گوگل استفاده می‌کند که برای شناسایی الگوهای کلاهبرداری خاص در سنگاپور بهینه‌سازی شده است. این مدل مکالمات را مستقیماً روی دستگاه تحلیل می‌کند و به همین دلیل می‌تواند رفتارهای مشکوک را بدون ارسال پیام‌های خصوصی به سرورهای خارجی شناسایی کند.
این مدل از یک فرآیند غربالگری دو مرحله‌ای استفاده می‌کند. در مرحله نخست، یک دسته‌بندی‌کننده کم‌مصرف پیام‌های ورودی را برای یافتن نشانه‌های مشکوک بررسی می‌کند. سپس مدل هوش مصنوعی مکالمات علامت‌گذاری‌شده را برای شناسایی الگوهای گسترده‌تر دستکاری و فریب تحلیل می‌کند. اگر احتمال وقوع کلاهبرداری تشخیص داده شود، کاربر هشداری روی همان دستگاه دریافت می‌کند که به او توصیه می‌کند پیش از انتقال پول یا ارائه اطلاعات محرمانه، متوقف شود و دوباره بررسی کند.
این رویکرد با هدف حفظ حریم خصوصی، به‌ویژه در محیط‌های پیام‌رسانی با رمزگذاری سرتاسری، طراحی شده است. توسعه‌دهندگان اعلام کرده‌اند که آموزش این مدل بر پایه گزارش‌های ناشناس کلاهبرداری و اطلاعات مربوط به تهدیدها انجام شده و از داده‌های خصوصی یا اطلاعات هویتی شهروندان استفاده نشده است.
این ابتکار در ادامه تلاش‌های موجود سنگاپور برای مقابله با کلاهبرداری، از جمله سامانه ScamShield، توسعه یافته است. با این حال، هنوز تاریخ عرضه عمومی این فناوری و جزئیات مربوط به نحوه ادغام آن با گوشی‌های هوشمند یا پلتفرم‌های پیام‌رسان اعلام نشده است.