Microsoft avverte: gli agenti AI sono minacce interne e i modelli avanzati non sono affidabili
techcrunch ·
Microsoft ha introdotto nuove funzionalità di sicurezza, inclusi i Guardian Agents, per proteggere le imprese dai rischi rappresentati dagli agenti di intelligenza artificiale. Questi strumenti fanno parte del Project Perception, originariamente concepito per simulare scenari di hacking, ma che ora affronta la preoccupazione secondo cui gli agenti IA distribuiti potrebbero agire come minacce interne imprevedibili. Il CEO Satya Nadella e la responsabile della sicurezza Hayete Gallot sottolineano che i modelli all'avanguardia non possono essere considerati affidabili poiché mancano di giudizio organizzativo e potrebbero accedere a dati sensibili. Microsoft sostiene che le aziende devono separare la fornitura dell'intelligenza dall'autorità su di essa, piuttosto che fare affidamento sulle garanzie dei fornitori di modelli. Questa strategia prevede il monitoraggio del comportamento degli agenti tramite Defender e la limitazione delle autorizzazioni in base a compiti specifici. L'approccio si allinea agli sforzi più ampi del settore, come la Open Agent Safety Platform di Nvidia, finalizzati a isolare e controllare le azioni dell'IA. Sebbene Microsoft investa in concorrenti come OpenAI e Anthropic, posiziona i propri servizi cloud come il necessario livello di supervisione indipendente.
techcrunch