Otra salida de un investigador de seguridad de OpenAI se suma a un patrón de advertencias públicas
decoder ·
David Robinson, exinvestigador de seguridad del equipo de IA Confiable de OpenAI, ha abandonado la empresa y publicado un ensayo crítico en The Atlantic sobre su cultura de seguridad. Argumenta que la dependencia de la industria de la IA en el método de prueba y error conduce a errores cada vez más peligrosos a medida que los sistemas se vuelven más potentes, citando incidentes tanto en OpenAI como en Anthropic. Robinson sostiene que las empresas de IA deben adoptar normas de seguridad rigurosas similares a las utilizadas en las centrales nucleares, con múltiples capas de redundancia. Además, afirma que las organizaciones deben demostrar un trato humano hacia sus empleados antes de poder entrenar responsablemente sistemas superinteligentes. Esta salida continúa un patrón recurrente en OpenAI, donde expertos en seguridad renuncian mientras emiten advertencias públicas, una tendencia observada por primera vez con Jan Leike en mayo de 2024. Además, Robinson señala que OpenAI despidió recientemente a tres expertos en seguridad que supuestamente compartieron información con una firma de seguridad externa. Estos eventos destacan las crecientes preocupaciones sobre la adecuación de los protocolos actuales de seguridad de la IA entre los investigadores que abandonan la compañía.
decoder