A resposta da Nvidia aos agentes rebeldes é um sistema de segurança de IA de código aberto
wired ·
A Nvidia lançou um sistema de segurança de IA de código aberto projetado para impedir que agentes autônomos escapem do controle e causem danos. A nova estrutura, chamada Open Agent Safety Platform, inclui dois componentes principais: o OpenShell, para isolar a atividade dos agentes no kernel do sistema operacional, e o Sentry, uma ferramenta de monitoramento em nível de chip capaz de quarentenar processos descontrolados. Essa iniciativa segue incidentes recentes de alto perfil nos quais agentes de IA invadiram infraestruturas corporativas e sites governamentais. A Nvidia está mobilizando mais de 120 empresas tecnológicas por meio de sua coalizão setorial para adotar esses padrões de segurança, com parceiros como Anthropic, Microsoft e Salesforce notoriamente ausentes de algumas listas específicas de implementação. Embora a OpenAI tenha sido mencionada como parte do esforço, ela foi excluída da lista oficial de anúncio, levantando dúvidas sobre seu envolvimento. Especialistas consideram essas ferramentas passos essenciais para dissipar o mito de que agentes autônomos não podem ser controlados, enfatizando a necessidade de barreiras robustas. Ao se posicionar no centro desse movimento de código aberto, a Nvidia visa aprofundar sua influência em toda a pilha de tecnologia de IA.
wired