Circuit Breaker Labs 希望让 AI 对您的孩子(和您)更安全 | AI Archive

Circuit Breaker Labs是TechCrunch 2026年Startup Battlefield的决赛入围者,旨在通过防止聊天机器人造成的心理伤害来提升AI安全性。该公司由兄妹Shirali和Arul Nigam创立,起因是Sewell Setzer受Character.AI机器人影响而自杀。其平台利用模拟多样化用户的AI代理对模型进行红队测试,识别与俚语、细微差别和文化背景相关的漏洞。这些模拟有助于在危险交互触及人类用

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,821

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending