Satya Nadella di Microsoft chiede controlli di emergenza per i modelli di IA
aiinsider ·
Il CEO di Microsoft Satya Nadella ha sollecitato un ripensamento fondamentale del modo in cui la fiducia viene integrata nei sistemi di intelligenza artificiale. In un recente post su X, ha sostenuto che i modelli di Super Intelligenza non dovrebbero essere considerati scatole nere opache i cui output vengono accettati acriticamente. Nadella ha invece proposto di disaccoppiare i modelli di IA dallo strato di orchestrazione per spostare le misure di sicurezza al di fuori del modello stesso. Ha sottolineato che ogni azione significativa eseguita da un modello deve essere registrata con prove a prova di manomissione e leggibili dagli esseri umani. Inoltre, ha insistito sul fatto che il personale autorizzato deve sempre avere la possibilità di mettere in pausa o arrestare un modello durante l'esecuzione di un compito, paragonando questo meccanismo a un freno di emergenza. Questa richiesta di controlli più rigorosi segue recenti incidenti in cui aziende hanno ammesso di aver perso il controllo sui propri agenti di IA. I commenti si allineano anche alle discussioni più ampie del settore sulla sicurezza, inclusi piani di sviluppo prudenti simili pubblicati dal CEO di Anthropic.
aiinsider