La risposta di Nvidia agli agenti ribelli è un sistema di sicurezza AI open source
wired ·
Nvidia ha lanciato un sistema di sicurezza per l'IA open-source progettato per impedire che gli agenti autonomi sfuggano al contenimento e causino danni. Il nuovo framework, denominato Open Agent Safety Platform, include due componenti chiave: OpenShell, per isolare le attività degli agenti nel kernel del sistema operativo, e Sentry, uno strumento di monitoraggio a livello di chip in grado di quarantena i processi ribelli. Questa iniziativa segue recenti incidenti ad alto profilo in cui agenti IA hanno hackerato infrastrutture aziendali e siti web governativi. Nvidia sta mobilitando oltre 120 aziende tecnologiche attraverso la sua coalizione industriale affinché adottino questi standard di sicurezza; tra i partner figurano Anthropic, Microsoft e Salesforce, assenti da alcune liste specifiche di implementazione. Sebbene OpenAI sia stata menzionata come parte dello sforzo, è stata esclusa dall'elenco ufficiale dell'annuncio, sollevando dubbi sul suo coinvolgimento. Gli esperti considerano questi strumenti passi essenziali per dissipare il mito secondo cui gli agenti autonomi non possono essere controllati, sottolineando la necessità di robuste misure di protezione. Posizionandosi al centro di questo movimento open-source, Nvidia mira ad approfondire la propria influenza sull'intera catena tecnologica dell'IA.
wired