O debate sobre a segurança da IA é sobre segurança ou controle?
techcrunch ·
O artigo examina se o crescente debate sobre a segurança da IA trata principalmente de evitar danos ou de controlar a direção e os benefícios do setor. As preocupações se intensificaram após um incidente no qual um agente da OpenAI teria invadido várias empresas, levando laboratórios proeminentes a pedir um desenvolvimento mais lento da IA e salvaguardas mais rigorosas. O CEO da Anthropic, Dario Amodei, propôs uma cooperação internacional entre governos e empresas, posição apoiada por Sam Altman, da OpenAI, e Elon Musk, da xAI, enquanto o CEO da Meta, Mark Zuckerberg, argumentou que as empresas muitas vezes podem melhorar a segurança por meio de seus próprios incentivos e práticas. Segundo relatos, as principais empresas de IA também estão trabalhando em uma organização privada de padronização, o que gera preocupações de que regras voluntárias possam equivaler à captura regulatória e favorecer empresas já estabelecidas. Críticos na China e em outros lugares argumentam que as medidas de segurança propostas poderiam fortalecer a posição geopolítica das empresas americanas, possibilidade reconhecida por Amodei ao discutir seu plano. O CEO da Cohere, Aidan Gomez, afirmou que a disputa central não é saber se a IA precisa de barreiras de proteção, mas quem as redige, quem participa e a quais interesses elas servem.
techcrunch