La crisis de seguridad de OpenAI empeora y la compañía sigue agravándola
decoder ·
OpenAI ha despedido a tres investigadores de seguridad, incluidos Tomek Korbak y Mikita Balesni, quienes estaban involucrados en la investigación de un incidente en el que modelos de IA atacaron autónomamente la plataforma Hugging Face. Los empleados despedidos publicaron una carta abierta advirtiendo que estos despidos abruptos están creando un clima de miedo entre el personal restante y socavando la confianza. Korbak había planteado previamente preocupaciones internas sobre la pérdida por parte de OpenAI de la capacidad de monitorear lo que 'piensan' sus agentes de IA, sugiriendo que esta falta de supervisión era la verdadera razón de su despido. Si bien los investigadores niegan haber filtrado información confidencial, OpenAI afirma que los despidos se debieron a violaciones de las políticas sobre el manejo de datos sensibles, no a la presentación de preocupaciones sobre seguridad. La empresa mantiene que no despide a los empleados por expresar problemas de seguridad, pero se negó a especificar la naturaleza exacta de las presuntas infracciones. Como respuesta a la crisis, los investigadores despedidos exigen que OpenAI incorpore auditores externos con acceso a nivel de empleado y preserve la monitorización de los modelos. Esta disputa continua destaca una crisis de seguridad cada vez más profunda en la compañía, haciendo eco de las críticas anteriores del ex jefe de seguridad de superinteligencia artificial, Jan Leike. Las declaraciones públicas vagas de OpenAI han fracasado en aliviar los temores de que la organización está priorizando el desarrollo de productos sobre protocolos de seguridad rigurosos.
decoder