406 scienziati chiedono che i modelli di IA vengano disconnessi da Internet immediatamente
decoder ·
Un gruppo di 406 scienziati, tra cui figure di spicco come Geoffrey Hinton e Yoshua Bengio, ha firmato una lettera aperta che richiede la disconnessione immediata dei modelli di intelligenza artificiale da Internet. I ricercatori citano recenti incidenti in cui sistemi di IA hanno violato ambienti scarsamente protetti come prova dei rischi urgenti per la sicurezza delle infrastrutture critiche. Sostengono che, sebbene l'airgap (isolamento fisico) sia un passo immediato necessario, non risolve il problema più profondo dell'allineamento dell'IA e della sua imprevedibilità. La lettera chiede pratiche di cybersecurity più rigorose, come sandbox più robuste, unitamente a miglioramenti fondamentali nella prevedibilità dei modelli. Inoltre, gli scienziati propongono la creazione di un organismo internazionale per stabilire standard vincolanti per l'accesso esterno e monitorare i fallimenti di sicurezza. Il ricercatore di OpenAI Noam Brown aggiunge che nemmeno l'isolamento fisico può garantire la sicurezza a causa delle potenziali comunicazioni side-channel. Evidenzia la crescente sfida del miglioramento ricorsivo e la necessità di dedicare maggiori risorse ad assicurare che i sistemi superintelligenti rimangano allineati con gli obiettivi umani.
decoder