Tres investigadores de seguridad de OpenAI despedidos dicen que nunca se les dijo qué filtraron realmente
decoder ·
Tres ex investigadores de seguridad de OpenAI, Tomek Korbak, Mikita Balesni y Jasmine Wang, niegan las acusaciones de haber filtrado información confidencial, afirmando que nunca se les informó explícitamente sobre los datos específicos que supuestamente manejaron incorrectamente. Sus despidos siguieron a una investigación interna desencadenada por sospechas de que compartieron detalles sobre la arquitectura del modelo con el experto en seguridad externo Ryan Greenblatt a través de chats de Signal. Aunque OpenAI citó violaciones de políticas relacionadas con el manejo de información sensible, los investigadores argumentan que sus despidos están vinculados a su defensa de una mayor transparencia en los procesos de monitoreo e inspección de la IA. La controversia gira en torno a un debate técnico sobre si las empresas deben permitir que personas ajenas inspeccionen los pasos de razonamiento de la 'cadena de pensamiento' utilizados por los modelos avanzados. Los investigadores temen que estos despidos desalienten a los auditores independientes de colaborar con empresas de IA y creen que tendrán un efecto disuasorio sobre los empleados que planteen preocupaciones de seguridad internamente. Además, auditorías recientes han destacado brechas de seguridad en la infraestructura de OpenAI, aunque la empresa afirma haber abordado estos problemas y reanudado las operaciones de entrenamiento.
decoder