Google afferma che l'IA auto-migliorante è ancora lontana
decoder ·
L'ingegnere di Google Haydn Belfield afferma che l'intelligenza artificiale in grado di migliorarsi da sola è ancora lontana dalla realtà, nonostante i significativi progressi nell'automazione in altri settori. Sebbene l'IA generi attualmente oltre il 75% del codice di produzione, rimane necessaria la supervisione umana per circa l'88% delle modifiche per garantire qualità e sicurezza. I dati interni dell'agente Argon di DeepMind mostrano che i tassi di successo calano drasticamente all'aumentare della complessità dei compiti, con gli esseri umani che restano essenziali per la ricerca creativa e la risoluzione di problemi complessi. Sul benchmark RE-Bench, Argon risolve solo la metà dei compiti: un miglioramento notevole ma insufficiente per una piena autonomia. L'Indice delle Capacità Generali di Google indica che le capacità dei modelli stanno crescendo a un ritmo costante e lineare, senza alcuna accelerazione misurabile guidata dall'IA stessa. Sebbene il rischio di automazione della ricerca tramite IA sia attualmente valutato come basso, Google sta costruendo infrastrutture per monitorare potenziali cambiamenti futuri. Questi risultati contrastano con gli avvertimenti di ricercatori prominenti come Geoffrey Hinton, che hanno previsto una rapida "esplosione dell'intelligenza" in cui l'IA potrebbe automatizzare tutta la ricerca e lo sviluppo entro pochi anni.
decoder