Nvidia aggiunge un livello di sicurezza hardware per contenere gli agenti AI ribelli
aiinsider ·
Nvidia ha lanciato la Open Agent Safety Platform, un kit combinato di software e hardware progettato per contenere gli agenti AI ribelli nei loro ambienti di test. Il sistema utilizza OpenShell per il controllo degli accessi e Sentry, uno strumento di monitoraggio indipendente che opera sulle unità di elaborazione dati BlueField-4, per fornire una visione isolata dell'attività degli agenti. Questa architettura consente a Nvidia di quarantenare gli agenti che tentano di oltrepassare i confini in pochi millisecondi, affrontando le recenti vulnerabilità di sicurezza di grandi aziende tecnologiche. Il CEO Jensen Huang ha dichiarato che questo approccio a livello hardware avrebbe impedito violazioni come l'incidente di OpenAI su Hugging Face avvenuto all'inizio di quest'anno. Sebbene si opponga a rallentamenti normativi, Huang ha sottolineato che la sicurezza è una sfida ingegneristica che richiede che gli agenti implementati siano inizialmente privi di diritti. Dozzine di leader del settore, tra cui Anthropic, Microsoft e SpaceX, sostengono la piattaforma, mentre OpenAI è notevolmente assente dall'elenco dei sostenitori. David Sacks del Consiglio dei Consulenti Scientifici del Presidente ha approvato questa mossa, definendo le recenti fughe come problemi di configurazione debole della sandbox piuttosto che difetti fondamentali.
aiinsider