Outro pesquisador do Google DeepMind demite-se, dizendo que construir IA superinteligente em breve é "intrinsecamente irresponsável"
decoder ·
Robert O'Callahan, especialista técnico da Google DeepMind na Nova Zelândia, renunciou ao seu cargo devido às preocupações com o rápido desenvolvimento da inteligência artificial. Ele argumenta que o ritmo atual de mudanças é excessivamente elevado e que a busca pela Superinteligência Artificial (ASI) no futuro próximo é inerentemente irresponsável. O'Callahan anteriormente contribuiu para ferramentas de design de chips que aceleraram as capacidades de IA, mas agora sente que não pode mais justificar esse trabalho. Ele cita riscos significativos, incluindo rendição cognitiva, perturbação econômica, ameaças à cibersegurança e concentração de poder. Embora reconheça a incerteza quanto a esses perigos, ele acredita que os danos potenciais superam os benefícios. O artigo observa que, embora muitos colegas compartilhem esses temores, poucos falam publicamente sobre eles. O'Callahan faz referência ao ensaio "If Anyone Builds It", de Eliezer Yudkowsky e Nate Soares, embora não endosse totalmente suas previsões catastróficas. Esta saída destaca o crescente dissídio interno dentro da indústria de tecnologia em relação à segurança e à ética dos sistemas avançados de IA.
decoder