OpenAI chiede standard internazionali per l'IA che può migliorare da sola
decoder ·
OpenAI sta promuovendo l'istituzione di standard internazionali per lo sviluppo di intelligenza artificiale avanzata, concentrandosi in particolare sul miglioramento ricorsivo autonomo (RSI). Questa tecnologia consente ai sistemi di IA di automatizzare la ricerca necessaria per creare generazioni successive di IA, potenzialmente accelerando i progressi a un ritmo senza precedenti. L'azienda sottolinea che l'RSI completamente autonomo non esiste attualmente e dovrebbe essere perseguito solo una volta implementate misure di sicurezza adeguate. Senza salvaguardie mature, vi è il rischio che gli esseri umani perdano il controllo sullo sviluppo dell'IA, portando alla creazione di sistemi meno allineati e più pericolosi. Per affrontare queste preoccupazioni, OpenAI propone che gli Stati Uniti guidino la creazione di standard tecnici globali sfruttando istituti nazionali esistenti e organizzazioni come CAISI e ISO. Questi standard includerebbero metodi di misurazione condivisi, protocolli di segnalazione degli incidenti e regole per la supervisione umana della ricerca automatizzata. Un recente panel scientifico delle Nazioni Unite ha espresso le stesse preoccupazioni, mettendo in guardia contro il potenziale perdita di controllo sugli sciami di agenti autonomi. Di conseguenza, l'ONU ha suggerito quadri di cooperazione internazionale simili a quelli utilizzati nell'aviazione, nell'energia nucleare e nella cybersecurity.
decoder