Google DeepMind und die singapurische Regierung kündigen neues KI-Tool zum Schutz vor Betrug an
deepmind ·
Google DeepMind und die Regierung Singapurs haben ein neues KI-Tool für Endgeräte angekündigt, das Bürger vor Betrug schützen soll, wobei die Privatsphäre gewahrt bleibt. Betrügereien machen mehr als die Hälfte der gemeldeten Straftaten in Singapur aus und haben seit 2019 Verluste von über 4 Milliarden Singapore-Dollar verursacht; komplexe Social-Engineering-Taktiken sind nun für bis zu 80 % dieser finanziellen Schäden verantwortlich. Um diesem Problem zu begegnen, hat Google DeepMind sein leichtgewichtiges Gemma-Modell auf lokale Betrugs-Gespräche feinjustiert, wodurch es zwischen harmloser Unterhaltung und regionalspezifischer manipulativer Absicht unterscheiden kann. Im Gegensatz zum herkömmlichen serverseitigen Scannen werden Daten bei dieser Lösung direkt auf Smartphones verarbeitet, was entscheidend ist, um die Sicherheit innerhalb Ende-zu-Ende-verschlüsselter Messaging-Plattformen zu gewährleisten. Das System nutzt eine zweistufige Pipeline, die Nachrichten zunächst effizient filtert und dann kontextbezogene Bewertungen durchführt, um Bedrohungen zu bestätigen, ohne den Akkustand erheblich zu belasten. Während der Entwicklung wurden strenge Governance-Maßnahmen umgesetzt, darunter die Nutzung einer souveränen Sandbox und der Ausschluss personenbezogener Daten aus den Trainingsdatensätzen. Diese Zusammenarbeit zeigt, wie Regierungen und Technologieanbieter gemeinsam öffentliche Sicherheitswerkzeuge entwickeln können, die die Privatsphäre der Nutzer nicht beeinträchtigen.
deepmind