Lo psicologo di Harvard chiede un'ingegneria della sicurezza dell'IA sobria invece della retorica del disastro
decoder ·
Lo psicologo di Harvard Steven Pinker ha inviato una lettera aperta a Scott Alexander, sostenendo che le paure relative ai rischi esistenziali dell'IA sono esagerate. Pinker ha rifiutato un dibattito pubblico sull'argomento, definendo tali eventi semplici sport per spettatori piuttosto che un discorso costruttivo. Sostiene che gli scenari apocalittici, come il thought experiment del massimizzatore di graffette, confondono erroneamente l'intelligenza con il desiderio di dominazione e presuppongono una fissazione su un singolo obiettivo irrealistica. Sebbene riconosca di aver sottovalutato la rapida evoluzione delle capacità dei modelli linguistici di grandi dimensioni e le strategie imprudenti di rilascio adottate dalle aziende tecnologiche, Pinker rimane scettico verso le narrazioni apocalittiche. Invece di concentrarsi sulle minacce a livello di estinzione, identifica il bioterrorismo, i cyberattacchi e gli agenti IA non regolamentati come i principali pericoli che richiedono attenzione. Pinker promuove un'ingegneria della sicurezza sobria basata su supervisione indipendente, quadri di responsabilità e meccanismi di controllo umano. In risposta, Alexander mantiene una probabilità del 20% che l'umanità venga spazzata via dall'IA e chiede un miglioramento della ricerca sulla sicurezza insieme ad accordi normativi internazionali.
decoder