Google DeepMind y el gobierno de Singapur anuncian una nueva herramienta de IA para proteger a los ciudadanos contra estafas
deepmind ·
Google DeepMind y el Gobierno de Singapur han anunciado una nueva herramienta de inteligencia artificial para dispositivos móviles diseñada para proteger a los ciudadanos de estafas mientras preserva la privacidad. Las estafas representan más de la mitad de los delitos denunciados en Singapur, causando pérdidas superiores a 4.000 millones de dólares singapurenses desde 2019, con tácticas complejas de ingeniería social que ahora generan hasta el 80 % de estos daños financieros. Para abordar este problema, Google DeepMind ajustó su modelo ligero Gemma con conversaciones locales sobre estafas, lo que le permite distinguir entre charlas inocuas e intenciones manipuladoras específicas de la región. A diferencia del análisis tradicional en servidores, esta solución procesa los datos directamente en los teléfonos inteligentes, lo cual es crucial para mantener la seguridad dentro de las plataformas de mensajería cifradas de extremo a extremo. El sistema emplea un proceso de dos etapas que primero filtra los mensajes de manera eficiente y luego realiza una evaluación contextual para confirmar las amenazas sin agotar la batería. Se implementaron estrictas medidas de gobernanza durante el desarrollo, incluido el uso de un entorno aislado soberano y la exclusión de cualquier información personalmente identificable de los conjuntos de datos de entrenamiento. Esta colaboración demuestra cómo los gobiernos y los proveedores de tecnología pueden trabajar juntos para crear herramientas de seguridad pública que no comprometan la privacidad de los usuarios.
deepmind