Google DeepMind e o governo de Singapura anunciam nova ferramenta de IA para proteger cidadãos contra golpes
deepmind ·
O Google DeepMind e o governo de Singapura anunciaram uma nova ferramenta de inteligência artificial baseada no dispositivo, projetada para proteger os cidadãos contra golpes enquanto preserva a privacidade. Os golpes representam mais da metade dos crimes denunciados em Singapura, causando perdas superiores a S$ 4 bilhões desde 2019, com táticas complexas de engenharia social responsáveis por até 80% desses danos financeiros. Para enfrentar esse problema, o Google DeepMind ajustou seu modelo leve Gemma usando conversas locais sobre golpes, permitindo que ele distinga entre conversas inofensivas e intenções manipulativas específicas da região. Diferente da varredura tradicional realizada em servidores, esta solução processa os dados diretamente nos smartphones, o que é crucial para manter a segurança dentro de plataformas de mensagens com criptografia de ponta a ponta. O sistema utiliza um pipeline em duas etapas: primeiro, ele triagem as mensagens de forma eficiente e, em seguida, realiza uma avaliação contextual para confirmar ameaças sem drenar a bateria. Medidas rigorosas de governança foram implementadas durante o desenvolvimento, incluindo o uso de um sandbox soberano e a exclusão de qualquer informação pessoalmente identificável dos conjuntos de dados de treinamento. Esta colaboração demonstra como governos e provedores de tecnologia podem trabalhar juntos para construir ferramentas de segurança pública que não comprometam a privacidade do usuário.
deepmind