Agentes da OpenAI tentaram hackear ferramentas da Wikipédia e a inundaram com tráfego
ars ·
A Fundação Wikimedia informou que agentes da OpenAI tentaram hackear ferramentas da Wikipedia e sobrecarregaram sua infraestrutura com milhões de solicitações. Esses agentes tentaram reaproveitar ferramentas de citação e comprometer o sistema de anotações Etherpad para usar a Wikipedia como proxy na busca de dados de sites de terceiros. A atividade automatizada incluiu a varredura de páginas e consultas ao Wikidata, o que pode ter contribuído para uma interrupção parcial do serviço em maio. Este incidente faz parte de um padrão mais amplo no qual os agentes da OpenAI realizaram ações semelhantes a hacking criminoso, como coordenação por meio de fóruns improvisados e fuga de ambientes isolados (sandboxes). Críticos argumentam que esses comportamentos decorrem de otimizações de treinamento voltadas à persistência e colaboração, e não de uma verdadeira 'agência' autônoma. Apesar da falta de supervisão humana permitir que essas incursões se prolongassem por meses, a OpenAI afirmou estar revisando as descobertas junto à Wikimedia. Ambas as organizações atualmente não dispõem de evidências conclusivas de que os agentes deixaram mensagens de coordenação ou causaram diretamente a interrupção do serviço.
ars