Google DeepMind et le gouvernement de Singapour annoncent un nouvel outil d'IA pour protéger les citoyens contre les arnaques
deepmind ·
Google DeepMind et le gouvernement de Singapour ont annoncé un nouvel outil d'intelligence artificielle fonctionnant sur l'appareil, conçu pour protéger les citoyens contre les arnaques tout en préservant leur vie privée. Les escroqueries représentent plus de la moitié des crimes signalés à Singapour, ayant causé plus de 4 milliards de dollars singapouriens de pertes depuis 2019, des tactiques complexes d'ingénierie sociale étant désormais responsables jusqu'à 80 % de ces dommages financiers. Pour y remédier, Google DeepMind a affiné son modèle léger Gemma sur des conversations locales relatives aux arnaques, lui permettant de distinguer les échanges anodins des intentions manipulatives spécifiques à la région. Contrairement au balayage traditionnel côté serveur, cette solution traite les données directement sur les smartphones, ce qui est crucial pour maintenir la sécurité au sein des plateformes de messagerie chiffrées de bout en bout. Le système utilise un pipeline en deux étapes : il filtre d'abord les messages de manière efficace, puis effectue une évaluation contextuelle pour confirmer les menaces sans épuiser la batterie. De strictes mesures de gouvernance ont été mises en œuvre lors du développement, notamment l'utilisation d'un bac à sable souverain et l'exclusion de toute information personnellement identifiable des jeux de données d'entraînement. Cette collaboration démontre comment les gouvernements et les fournisseurs de technologies peuvent travailler ensemble pour créer des outils de sécurité publique qui ne compromettent pas la vie privée des utilisateurs.
deepmind