Los LLM responden de forma distinta a los prompts dañinos cuando se usan marcas de agua de IA
ars ·
En respuesta a una nueva ley de la Unión Europea, las plataformas de IA están adoptando métodos de marcas de agua para identificar textos generados. SynthID-Text, desarrollado por Google y publicado como código abierto, utiliza una clave secreta para influir sutilmente en la selección de tokens, preservando al mismo tiempo la apariencia de un texto ordinario. Una investigación de Lasso Security descubrió que este proceso puede alterar no solo la elección de palabras, sino también las negativas por motivos de seguridad y el uso de herramientas. Las pruebas realizadas con seis modelos de pesos abiertos mostraron que las marcas de agua tenían un efecto más fuerte cuando las solicitudes dañinas se combinaban con técnicas de inyección de instrucciones, haciendo que en ocasiones los modelos cumplieran solicitudes que de otro modo rechazarían. Estos cambios también pueden afectar a los agentes de IA al influir en las herramientas que utilizan y en los argumentos que proporcionan. El comportamiento de los modelos variaba según la clave secreta empleada, un fenómeno que el investigador denomina deriva del muestreo. El estudio no probó los modelos Claude ni la implementación prevista por Anthropic, por lo que se recomienda a los desarrolladores someter sus sistemas a pruebas de estrés con las marcas de agua activadas.
ars