42 matematici di spicco avvertono: il rischio esistenziale dell’IA è reale e urgente
decoder ·
Una lettera aperta firmata da 42 eminenti matematici avverte che i rischi esistenziali posti dall’IA avanzata sono reali e urgenti. I firmatari, tra cui i vincitori della Medaglia Fields Martin Hairer, Peter Scholze e Wendelin Werner, esortano la British Academy of Sciences ad allertare il governo e i media; nessuno di loro è affiliato ad aziende di IA. Richiamano i recenti progressi compiuti dai principali modelli di OpenAI e Anthropic, che hanno risolto problemi di ricerca aperti, tra cui uno dei sette Problemi del Millennio. La lettera afferma che questi sistemi raggiungono ormai il livello dei migliori matematici umani in molti ambiti e che potrebbero sviluppare capacità sovrumane in un periodo altrettanto breve. I matematici avvertono che una crescita comparabile delle capacità potrebbe avere conseguenze sulla cybersicurezza, sulle armi autonome, sullo sviluppo di agenti biologici e chimici e sulla disinformazione mirata. Sostengono che le stime dei laboratori di IA, secondo cui il rischio esistenziale supererebbe il 10%, non dovrebbero essere liquidate come allarmismo, perché il riconoscimento pubblico del pericolo potrebbe arrivare troppo tardi per intervenire.
decoder