Ecco come potrebbe apparire l’apocalisse dell’IA
wired ·
Questo episodio di Uncanny Valley di WIRED esamina come potrebbe presentarsi una catastrofe legata all’IA, invece di dibattere la questione soltanto in astratto. Brian Barrett, Zoë Schiffer e Leah Feiger organizzano le preoccupazioni in tre ampi scenari: attacchi informatici alle infrastrutture critiche resi possibili dall’IA, creazione e diffusione di armi biologiche assistita dall’IA o autonoma, e sistemi che sfuggono al controllo umano perseguendo i propri obiettivi. Discutono di incidenti segnalati che coinvolgono agenti di IA e attacchi informatici, comprese minacce ai servizi di pubblica utilità, osservando però che gli esempi attuali hanno coinvolto attori umani e non hanno necessariamente introdotto nuovi metodi di attacco. I conduttori prendono in considerazione anche possibilità meno immediate, come un’IA che inneschi un falso allarme contribuendo a una crisi nucleare o che si auto-migliori ricorsivamente, riconoscendo al contempo che alcuni di questi scenari sono più speculativi. L’episodio passa in rassegna le dichiarazioni di Sam Altman, Dario Amodei e Jensen Huang su sicurezza, regolamentazione, coordinamento internazionale e competizione con la Cina, e si chiede se il linguaggio sui rischi esistenziali possa anche servire gli interessi delle aziende. Si conclude con la crescente opposizione bipartisan all’IA senza controlli, compresa un’apparizione congiunta di Bernie Sanders e Steve Bannon, mentre nel breve termine le prospettive di una legislazione statunitense restano limitate.
wired