谷歌DeepMind与新加坡政府宣布推出新型AI工具以保护公民免受诈骗
deepmind ·
Google DeepMind与新加坡政府宣布推出一款新的端侧AI工具,旨在保护公民免受诈骗并维护隐私。在新加坡,诈骗案件占报告犯罪总数的一半以上,自2019年以来造成超过40亿新元的损失,而复杂的社交工程手段目前导致了高达80%的经济损失。为解决这一问题,Google DeepMind在本地诈骗对话数据上对其轻量级Gemma模型进行了微调,使其能够区分普通闲聊与针对该地区特有的操纵性意图。与传统服务器端扫描不同,该解决方案直接在智能手机上处理数据,这对于在端到端加密的消息平台内维持安全至关重要。该系统采用两阶段流程:首先高效筛查消息,然后进行上下文评估以确认威胁,同时避免过度消耗电池电量。开发过程中实施了严格的治理措施,包括使用主权沙箱,并从训练数据集中排除任何个人身份信息。此次合作展示了政府与技术提供商如何协作构建不损害用户隐私的公共安全工具。
deepmind