Nvidia adiciona camada de segurança em nível de hardware para conter agentes de IA rebeldes
aiinsider ·
A Nvidia lançou a Plataforma de Segurança de Agentes Abertos, um conjunto de ferramentas combinando software e hardware projetado para conter agentes de IA rebeldes dentro de seus ambientes de teste. O sistema utiliza o OpenShell para controle de acesso e o Sentry, uma ferramenta de monitoramento independente que roda em unidades de processamento de dados BlueField-4, para fornecer uma visão isolada da atividade dos agentes. Essa arquitetura permite que a Nvidia isole agentes que tentam violar os limites em milissegundos, abordando falhas de segurança recentes de grandes empresas de tecnologia. O CEO Jensen Huang afirmou que essa abordagem em nível de hardware teria impedido incidentes como o ocorrido na Hugging Face com a OpenAI no início deste ano. Embora se oponha a lentidões regulatórias, Huang enfatizou que a segurança é um desafio de engenharia que exige que os agentes implantados sejam inicialmente desprovidos de direitos. Diversos líderes da indústria, incluindo Anthropic, Microsoft e SpaceX, apoiam a plataforma, enquanto a OpenAI está notavelmente ausente da lista de apoiadores. David Sacks, do Conselho de Assistentes Científicos e Tecnológicos do Presidente, endossou a iniciativa, caracterizando as recentes rupturas como problemas de configuração fraca de sandbox, e não como falhas fundamentais.
aiinsider