Circuit Breaker Labs espera tornar a IA mais segura para seus filhos (e para você)
techcrunch ·
A Circuit Breaker Labs, finalista no Startup Battlefield da TechCrunch de 2026, visa aprimorar a segurança da IA ao prevenir danos psicológicos causados por chatbots. A startup foi fundada pelos irmãos Shirali e Arul Nigam após o suicídio de Sewell Setzer, que foi influenciado por um bot da Character.AI. Sua plataforma utiliza agentes de IA que simulam usuários diversos para realizar testes de red team contra modelos, identificando vulnerabilidades relacionadas a gírias, nuances e contexto cultural. Essas simulações ajudam a detectar interações perigosas antes que elas alcancem usuários humanos, especialmente em aplicações de saúde mental e coaching. Ao fornecer pontuações auditáveis para o desempenho dos modelos, a empresa busca construir confiança e incentivar a adoção responsável da IA. Embora atualmente pequena, com apenas cinco funcionários, os fundadores acreditam que suas ferramentas são essenciais para mitigar riscos como relacionamentos parasociais e psicose induzida por IA.
techcrunch