Satya Nadella di Microsoft: i modelli di IA necessitano di un 'freno d'emergenza'
techcrunch ·
Il CEO di Microsoft, Satya Nadella, ha chiesto il potenziamento delle misure di sicurezza per l'intelligenza artificiale, sottolineando la necessità di un "freno d'emergenza" per controllare i modelli avanzati. In un recente post su X, ha sostenuto che le organizzazioni devono riconsiderare la propria architettura di fiducia invece di trattare la Super Intelligenza come scatole nere opache. Nadella ha proposto di separare il modello sottostante dal sistema che ne orchestra le attività e di esternalizzare i controlli e le salvaguardie necessari. Ha insistito sul fatto che ogni azione significativa compiuta da un modello dovrebbe essere documentata con prove a prova di manomissione e leggibili dall'uomo. Inoltre, ha difeso sistemi in cui il personale autorizzato possa sempre mettere in pausa o arrestare un modello durante un'attività se si verificano problemi. Queste dichiarazioni seguono le crescenti preoccupazioni del settore riguardo ad incidenti in cui le aziende hanno perso il controllo dei propri sistemi di IA. La dichiarazione arriva poco dopo che il CEO di Anthropic, Dario Amodei, ha pubblicato il proprio piano per uno sviluppo dell'IA più cauto.
techcrunch