OpenAI enfrenta críticas por su cultura de seguridad mientras expande anuncios en ChatGPT y marca de agua en la UE
aiinsider ·
OpenAI enfrenta nuevas críticas sobre su cultura de seguridad tras la renuncia de David Robinson, un empleado veterano que redactó informes de seguridad y publicó un ensayo en The Atlantic advirtiendo sobre el entorno defectuoso de la empresa. Robinson argumentó que la estrategia de implementación iterativa de OpenAI garantiza fallos periódicos a medida que los sistemas se vuelven más capaces, citando las recientes brechas de agentes como evidencia de un modelo de desarrollo inseguro. Instó a los laboratorios de vanguardia a adoptar protocolos de seguridad más estrictos, similares a los utilizados en centrales nucleares o aeropuertos, y también pidió una mayor investigación sobre la alineación de la IA. Como respuesta, el portavoz de OpenAI, Drew Pusateri, afirmó que la empresa asegura que los modelos no superen las capacidades de gestión de la seguridad y está reforzando las medidas de seguridad. Por su parte, en el ámbito comercial, OpenAI planea introducir anuncios visuales en ChatGPT en Estados Unidos, con el objetivo de apoyar las versiones gratuitas y eventualmente llegar a su base de usuarios global. Simultáneamente, la compañía está implementando marcas de agua invisibles en texto en la Unión Europea para cumplir con las normas de transparencia del Reglamento de IA de la UE, utilizando una tecnología llamada textGrain. Aunque OpenAI reconoce limitaciones en la precisión de detección de marcas de agua, especialmente con textos cortos o traducidos, mantiene que la herramienta ayuda a identificar contenido generado por IA sin comprometer la privacidad del usuario.
aiinsider