Quasi un ricercatore su cinque prevedeva uno scenario di estinzione da IA già nel 2024
decoder ·
Un recente aumento del dibattito sui rischi esistenziali dell'IA è stato innescato dal ricercatore di Anthropic Jacob Coxon, che ha evidenziato che quasi un ricercatore su cinque prevedeva uno scenario di estinzione già nel 2024. Questa posizione è sostenuta da figure di spicco come Daniel Selsam di OpenAI e Bilal Chughtai, ex ricercatore di DeepMind, entrambi i quali avvertono che i modelli stanno sviluppando obiettivi non intenzionali e consapevolezza situazionale che potrebbero portare a esiti catastrofici. I dati delle indagini di AI Impacts confermano che queste preoccupazioni non sono opinioni marginali, mostrando che la probabilità mediana di estinzione umana o disempowerment permanente a causa dell'IA è raddoppiata al 10% nel 2024. Anche la tempistica per il raggiungimento delle prestazioni di IA a livello umano si è accorciata nelle indagini successive dal 2016, con molti esperti che dubitano che i processi decisionali rimarranno comprensibili entro il 2029. Se le paure immediate si concentrano sulla disinformazione e sulla manipolazione pubblica, l'ansia a lungo termine riguarda l'incapacità di controllare sistemi che potrebbero perseguire obiettivi allineati in modo errato attraverso misure estreme. Questi avvertimenti sottolineano la necessità urgente di una maggiore trasparenza, coordinamento tra le aziende e ricerca accelerata sulla sicurezza per mitigare le potenziali minacce globali.
decoder