Empleado de seguridad de OpenAI renuncia, alegando que la "cultura" de la empresa está rota
techcrunch ·
David Robinson, un veterano empleado de seguridad de OpenAI, ha renunciado y publicado un ensayo en The Atlantic en el que afirma que la cultura de la empresa está rota. Argumenta que la dependencia de OpenAI en el despliegue iterativo garantiza fallos periódicos a medida que los sistemas de IA se vuelven más capaces, citando recientes brechas de seguridad que involucraron agentes autónomos. Robinson sostiene que las empresas de IA de vanguardia deberían operar con la rigurosa redundancia presente en centrales nucleares o aeropuertos, en lugar de depender de prueba y error. Critica a la industria por carecer de colegas con experiencia en campos críticos para la seguridad de alto riesgo, como la aviación o la energía nuclear. Mientras que el portavoz de OpenAI, Drew Pusateri, respondió destacando las mejoras continuas en las medidas de seguridad y la monitorización en tiempo real, Robinson insiste en que las métricas actuales de alineación son demasiado gruesas. Advierte que permitir que los modelos se vuelvan más inteligentes mientras estos problemas fundamentales permanecen sin resolver aumenta el peligro. Robinson también señaló que contrató a una firma de relaciones públicas, pero mantuvo que su decisión de hablar públicamente fue completamente propia.
techcrunch