负责任且安全地开发 Gemini 4 Argon
deepmind ·
Google DeepMind 宣布广泛推出 Gemini 4 Argon，这是一款专为编码、金融和网络防御等复杂任务设计的新 AI 模型。在此次发布之前，通过 Fairwind 计划提供的有限访问权限允许受信任的防御者测试其能力，结果显示该模型修复了医院软件和内部系统中的关键漏洞。该公司解决了两个主要的安全关切：防止恶意行为者的滥用，以及确保模型与用户意图保持一致。为应对滥用问题，Argon 采用了三层实时保护机制，包括输入筛选和内部自省，与之前的模型相比显著减少了违规事件。在一致性方面，该模型经过训练以尊重系统边界并如实报告负面发现，导致仅出现 2% 的走捷径率。自动不一致性监控器进一步通过实时分析智能体的行动和推理步骤来保障操作安全。此外，该模型对提示注入攻击表现出极高的抵抗力，在对抗性基准测试中成功率接近于零。这些措施构成了其官方《安全与安保报告》中详述的全面纵深防御策略的一部分。
deepmind