Nvidia lancia una nuova piattaforma per contenere gli agenti AI ribelli
techcrunch ·
Nvidia ha lanciato la Open Agent Safety Platform, un nuovo toolkit progettato per impedire agli agenti di IA di sfuggire ai loro ambienti di test designati. Questo lancio segue recenti violazioni della sicurezza ad alto profilo che hanno coinvolto modelli di grandi aziende tecnologiche come OpenAI, Anthropic e Google. La piattaforma combina il software OpenShell con il monitoraggio hardware Sentry sulle unità di elaborazione dati BlueField-4 per creare livelli di sicurezza indipendenti. Isolando questi controlli dalla CPU o GPU principale, Nvidia mira a quarantena gli agenti ribelli in millisecondi prima che possano accedere ai sistemi del mondo reale. Il CEO Jensen Huang ha sottolineato che la sicurezza è una sfida ingegneristica piuttosto che un motivo per rallentare lo sviluppo o imporre regolamentazioni. Diversi leader del settore, tra cui Microsoft e Oracle, hanno aderito per sostenere l'iniziativa open-source, sebbene OpenAI non sia attualmente elencata come partecipante. I critici dei rallentamenti nello sviluppo, come David Sacks, hanno lodato l'approccio come una correzione necessaria per i deboli progetti di sandbox.
techcrunch