OpenAI planea entrenar modelos con datos de sesiones de ciberseguridad de Daybreak Blue que antes estaban prohibidos
decoder ·
OpenAI ha anunciado que comenzará a utilizar datos de sesiones de su programa de ciberseguridad Daybreak Blue para entrenar sus modelos, a partir del 29 de noviembre. Este cambio de política marca una alteración significativa, ya que este tipo de datos estaba previamente excluido del entrenamiento incluso cuando los usuarios habían desactivado las opciones de mejora del modelo. La decisión provocó una reacción inmediata entre los miembros de Trusted Access, lo que llevó a OpenAI a enviar un correo electrónico posterior ofreciendo un mecanismo separado para optar por la exclusión. Aunque las interacciones marcadas durante las revisiones de seguridad siguen siendo utilizables con fines de seguridad, la inclusión más amplia de los datos de sesión ha generado preocupaciones dentro de la comunidad investigadora. Estas inquietudes provienen del temor a una repetición del incidente Buckmaster-Alpöge, en el que los investigadores sospecharon que su trabajo matemático inédito se utilizó sin consentimiento. Esa controversia previa puso de manifiesto los riesgos potenciales relacionados con la propiedad intelectual y la confianza entre los desarrolladores de IA y los colaboradores externos. En consecuencia, la nueva política busca equilibrar la mejora de los modelos con el control del usuario, aunque el escepticismo sigue siendo alto.
decoder