Mais de 20 pesquisadores líderes em IA alertam para riscos extremos da pesquisa automatizada
decoder ·
Mais de 20 pesquisadores proeminentes de IA, incluindo Geoffrey Hinton e Yoshua Bengio, emitiram um alerta sobre os riscos extremos associados à pesquisa automatizada de inteligência artificial. Em um novo artigo, eles destacam o potencial para uma "explosão de inteligência" desencadeada por sistemas de IA capazes de autoaperfeiçoamento. Os autores observam que a IA já escreve a maior parte do código nas principais empresas e poderia automatizar todo o pipeline de P&D em poucos anos. Essa aceleração significa que o progresso, que atualmente leva anos, pode ocorrer em apenas meses, deixando a sociedade incapaz de acompanhar o ritmo. Consequentemente, há o risco de se perder o controle sobre uma IA super-humana, o que desestabilizaria os equilíbrios de poder entre nações e corporações. Os pesquisadores estão pedindo aos formuladores de políticas que aumentem a visibilidade sobre como a automação da pesquisa em IA está sendo implementada. Este alerta se soma a uma lista crescente de preocupações de matemáticos e profissionais da indústria sobre as ameaças existenciais posedas pelo escalonamento de IA não alinhada.
decoder