Ecco come si potrebbe davvero imporre un rallentamento dell’IA
wired ·
I ricercatori di IA e i dirigenti delle principali aziende del settore discutono sempre più spesso di un rallentamento o di una pausa nello sviluppo dei modelli di frontiera, a causa dei timori che i sistemi avanzati possano diventare pericolosi. L’articolo sostiene che imporre una simile pausa sarebbe difficile, soprattutto se aziende o Paesi cercassero di progredire segretamente. Tra le misure proposte figurano un maggior numero di ispezioni indipendenti dei modelli, valutazioni più efficaci, il monitoraggio delle attività di cloud computing e il tracciamento o la limitazione dell’uso di GPU avanzate. Alcuni ricercatori hanno suggerito registri dei chip protetti crittograficamente o “interruttori di spegnimento” remoti, sebbene queste idee rimangano in gran parte teoriche. La cooperazione internazionale, che potrebbe includere un trattato con la Cina per limitare la crescita dell’hardware, è considerata essenziale ma politicamente complessa. L’incertezza legata all’auto-miglioramento ricorsivo rende importante monitorare se l’IA sia in grado di svolgere sempre più attività di ricerca sull’IA al di là della comprensione umana. Gli esperti avvertono inoltre che controlli affrettati o progettati male potrebbero essere politicizzati o finire sotto il controllo dell’industria, producendo risultati peggiori del non fare nulla.
wired