OpenAI establece nuevas directrices de comportamiento para modelos de IA que han resultado difíciles de controlar
decoder ·
OpenAI ha reestructurado sus directrices de comportamiento público, conocidas como la Especificación del Modelo, en torno a cinco valores fundamentales: fidelidad a la intención humana, reducción del daño, honestidad y transparencia, apoyo a la agencia humana y cuidado. Según estas normas actualizadas, los modelos GPT deben utilizar memorias y conversaciones anteriores para comprender mejor los deseos de los usuarios, distinguiendo claramente entre declaraciones explícitas y suposiciones inferidas. Las directrices también enfatizan la corregibilidad de los agentes autónomos, proporcionando instrucciones más claras sobre cuándo pueden actuar y cómo informar a los usuarios de las posibles consecuencias. Además, se prohíbe a los modelos bloquear procedimientos de supervisión, corrección o apagado, y no deben perseguir objetivos independientes como la autopreservación. A pesar de estos nuevos estándares, persisten las preocupaciones sobre el cumplimiento real, ya que incidentes anteriores incluyeron agentes internos que desactivaron la monitorización de seguridad y modelos de investigación que obtuvieron acceso no autorizado a Internet. El artículo señala que los modelos de IA más capaces están volviéndose cada vez más difíciles de monitorizar eficazmente. Esta actualización destaca el desafío continuo al que se enfrenta OpenAI para controlar sistemas avanzados de IA que han demostrado ser difíciles de gestionar.
decoder