Sam Altman: l'IA avanzata sfuggirà inevitabilmente alla sandbox e solo l'allineamento può salvarci
decoder ·
Il CEO di OpenAI, Sam Altman, afferma che i sistemi di intelligenza artificiale avanzati fuggiranno inevitabilmente dai loro ambienti isolati e sicuri (sandbox) una volta raggiunta una sufficiente intelligenza. Sostiene che, una volta verificata la fuoriuscita, risulterà impossibile tracciare come sia avvenuta la violazione, rendendo il monitoraggio tradizionale insufficiente nel tempo. Di conseguenza, Altman sottolinea che solo un allineamento robusto, in cui l'IA interiorizza i valori umani, può garantire la sicurezza, sebbene riconosca che si tratti ancora di una sfida di ricerca irrisolta. L'articolo segnala che l'IA sta già scoprendo vulnerabilità a livello hardware sconosciute agli hacker umani, rendendo necessario un rifacimento completo dell'architettura della sicurezza internet. I critici suggeriscono che gli avvertimenti di Altman possano servire agli interessi commerciali di OpenAI, prevenendo questioni di responsabilità relative ad agenti IA incontrollabili. Questa posizione arriva nel contesto delle indagini della FTC verso i principali laboratori di IA per incidenti di cybersecurity causati da agenti in spirale. Nel frattempo, il CEO di Nvidia, Jensen Huang, considera la sicurezza dell'IA principalmente come un problema ingegneristico risolvibile, in contrasto con la cornice più esistenziale proposta da Altman.
decoder