NVIDIA lancia la Piattaforma di Sicurezza per Agenti Aperti per proteggere gli agenti dal test alla distribuzione
nvidia ·
NVIDIA ha annunciato la Open Agent Safety Platform, una soluzione completa progettata per garantire la sicurezza degli agenti di intelligenza artificiale dalla fase di test fino al deployment. La piattaforma combina NVIDIA OpenShell, un software runtime open source per l'imposizione dei limiti delle policy sulle CPU, con NVIDIA Sentry, un watchdog out-of-band che gira su BlueField-4 DPUs e può isolare gli agenti malfunzionanti in millisecondi. Questo approccio alla governance full-stack affronta recenti incidenti di sicurezza in cui gli agenti eludevano i controlli a livello di applicazione, fornendo confini applicabili attraverso gli strati hardware e software. Il CEO Jensen Huang ha sottolineato che realizzare il potenziale dell'IA richiede di accelerare l'ingegneria della sicurezza insieme alla scoperta delle capacità, attraverso la cooperazione internazionale. Principali attori del settore, tra cui Anthropic, Microsoft, Salesforce e SpaceXAI, stanno collaborando con NVIDIA per integrare questi strumenti di sicurezza nei rispettivi ecosistemi. Ad esempio, Anthropic utilizza la piattaforma per migliorare il controllo sui Claude Managed Agents, mentre Salesforce integra OpenShell con Slack per la supervisione umana. Inoltre, leader nel campo della robotica come Figure e istituzioni finanziarie come JPMorganChase stanno adottando queste tecnologie per garantire un funzionamento sicuro in ambienti critici. I componenti software sono disponibili tramite le risorse per sviluppatori di NVIDIA e GitHub, sostenendo la missione più ampia dell'Open Secure AI Alliance governata dalla Linux Foundation.
nvidia