Oltre 20 ricercatori AI di spicco avvertono dei rischi estremi dell'automazione della ricerca
decoder ·
Più di 20 prominenti ricercatori di intelligenza artificiale, tra cui Geoffrey Hinton e Yoshua Bengio, hanno lanciato un avvertimento sui rischi estremi associati alla ricerca automatizzata sull'IA. In un nuovo articolo, evidenziano il potenziale per una "esplosione dell'intelligenza" innescata da sistemi di IA in grado di migliorarsi da soli. Gli autori sottolineano che l'IA scrive già la maggior parte del codice nelle aziende leader e potrebbe automatizzare l'intero processo di ricerca e sviluppo nei prossimi anni. Questa accelerazione significa che i progressi che attualmente richiedono anni potrebbero avvenire in pochi mesi, lasciando la società incapace di tenere il passo. Di conseguenza, esiste il rischio di perdere il controllo sull'IA sovrumana, destabilizzando gli equilibri di potere tra nazioni e corporation. I ricercatori esortano i responsabili politici a aumentare la trasparenza su come viene implementata l'automazione della ricerca nell'IA. Questo avviso si aggiunge a una crescente lista di preoccupazioni espresse da matematici e addetti ai lavori riguardo alle minacce esistenziali poste dal potenziamento di un'IA non allineata.
decoder