Google DeepMind lança um instituto para ampliar o debate sobre a AGI
techcrunch ·
Pesquisadores do Google e do Google DeepMind lançaram o DeepMind Institute para promover o debate sobre a inteligência artificial geral (AGI). Entre seus diretores estão o cofundador da DeepMind, Shane Legg, o executivo do Google James Manyika e o presidente do Google DeepMind, Demis Hassabis, com Legg atuando como editor-chefe. O instituto afirma que apresentará diferentes pontos de vista do Google, do Google DeepMind e da comunidade de pesquisa em geral, reconhecendo que essas visões podem mudar à medida que novas informações surgirem. Seus quatro primeiros ensaios abordam políticas para administrar uma possível disrupção econômica, a preservação de um raciocínio legível dos modelos, princípios para o florescimento humano e métodos para avaliar modelos de IA de fronteira. Um dos ensaios argumenta que a redução da transparência em modelos avançados não é inevitável e incentiva desenvolvedores e reguladores a enfrentarem os dilemas do monitoramento, enquanto Hassabis propõe um órgão de padrões liderado pelos Estados Unidos que inicialmente analisaria os modelos de forma voluntária, antes de possíveis avaliações obrigatórias. As propostas refletem uma mudança mais ampla no debate sobre a segurança da IA em direção à divulgação, ao escrutínio externo e a possíveis desacelerações coordenadas no desenvolvimento de IA de fronteira.
techcrunch