Sam Altman presenta tre scenari per la sicurezza dell'IA, incluso il dominio di un'unica azienda
decoder ·
Il CEO di OpenAI Sam Altman avrebbe presentato ai dipendenti tre scenari interni per il futuro governo della sicurezza dell'IA avanzata. La prima proposta prevede la creazione di un'agenzia di vigilanza internazionale simile all'AIEA, incaricata di far rispettare gli standard e monitorare l'utilizzo dei calcoli. La seconda opzione, definita "Piano Demis", immagina un consorzio dei principali laboratori che si fondono sotto una singola entità modellata su CERN. Il terzo scenario, chiamato "Piano Eliezer", descrive un esito distopico in cui un'azienda raggiunge un tale dominio economico da poter disattivare le capacità di calcolo dei concorrenti. Sebbene Altman abbia introdotto la terza opzione per completezza, alcuni l'hanno interpretata come una critica a rivali come Anthropic. OpenAI mira a selezionare un percorso strategico entro il prossimo anno, ma affronta pressioni per non rimanere indietro nella corsa verso la superintelligenza. Le preoccupazioni interne stanno crescendo a causa di recenti disallineamenti dei modelli e del licenziamento di ricercatori sulla sicurezza. Nel frattempo, i quadri normativi esterni rimangono frammentati, con una significativa opposizione da parte dei leader del settore, che sostengono che regole rigorose potrebbero ostacolare la concorrenza.
decoder