Google DeepMind lancia un istituto per ampliare il dibattito sull’AGI
techcrunch ·
Ricercatori di Google e Google DeepMind hanno lanciato il DeepMind Institute per promuovere il dibattito sull’intelligenza artificiale generale (AGI). Tra i suoi direttori figurano il cofondatore di DeepMind Shane Legg, il dirigente di Google James Manyika e il presidente di Google DeepMind Demis Hassabis; Legg ricopre il ruolo di direttore editoriale. L’istituto afferma che presenterà opinioni diverse provenienti da Google, Google DeepMind e dalla comunità di ricerca più ampia, riconoscendo che tali opinioni potrebbero cambiare con l’emergere di nuove informazioni. I suoi primi quattro saggi affrontano le politiche per gestire una potenziale perturbazione economica, la conservazione di un ragionamento dei modelli leggibile, i principi per il benessere umano e i metodi per valutare i modelli di IA all’avanguardia. Un saggio sostiene che il calo della trasparenza nei modelli avanzati non sia inevitabile e sollecita sviluppatori e autorità di regolamentazione ad affrontare i compromessi legati al monitoraggio, mentre Hassabis propone un organismo per gli standard guidato dagli Stati Uniti che inizialmente esaminerebbe volontariamente i modelli, prima di possibili valutazioni obbligatorie. Le proposte riflettono uno spostamento più ampio nel dibattito sulla sicurezza dell’IA verso la divulgazione, il controllo esterno e possibili rallentamenti coordinati nello sviluppo dell’IA all’avanguardia.
techcrunch