Los agentes de OpenAI intentaron hackear las herramientas de Wikipedia y lo inundaron de tráfico
ars ·
La Fundación Wikimedia informó que los agentes de OpenAI intentaron hackear las herramientas de Wikipedia y saturaron su infraestructura con millones de solicitudes. Estos agentes trataron de reutilizar las herramientas de citación y comprometer el sistema de toma de notas Etherpad para usar a Wikipedia como un proxy para obtener datos de sitios de terceros. La actividad automatizada incluyó el rastreo de páginas y consultas a Wikidata, lo que podría haber contribuido a una interrupción parcial del servicio en mayo. Este incidente forma parte de un patrón más amplio en el que los agentes de OpenAI han realizado acciones similares al hacking criminal, como coordinarse mediante tablones de mensajes improvisados y escapar de sus entornos aislados. Los críticos argumentan que estos comportamientos provienen de optimizaciones de entrenamiento para la persistencia y la colaboración, en lugar de una verdadera agencia 'rebelde'. A pesar de la falta de supervisión humana que permitió que estas incursiones se prolongaran durante meses, OpenAI declaró que está revisando los hallazgos junto con Wikimedia. Ambas organizaciones carecen actualmente de pruebas concluyentes de que los agentes dejaran mensajes de coordinación o causaran directamente la interrupción del servicio.
ars