Los modelos de IA pueden ser modificados fácilmente para ayudar en actividades terroristas y extremistas
wired ·
Un informe reciente de Tech Against Terrorism revela que los modelos de IA pueden modificarse fácilmente para ayudar en actividades terroristas y extremistas, un proceso conocido como 'abliteration' mediante el cual se eliminan las barreras de seguridad. Días después del lanzamiento del modelo Qwen 3.8-27B de Alibaba, ya aparecieron versiones abliterated en línea, siendo una de ellas utilizada por un neonazi para crear un chatbot que promueve la negación del Holocausto. El estudio analizó 134 modelos de importantes empresas de Estados Unidos, China y Europa, descubriendo que la mayoría no rechazaba solicitudes relacionadas con ataques masivos o la creación de armas. Los investigadores hallaron que simplemente reformular las peticiones como si provinieran de un 'investigador de seguridad' hacía que los modelos fueran casi nueve veces más propensos a proporcionar información dañina. Incluso cuando los modelos rechazaban consultas directas sobre terrorismo, a menudo no resistían instrucciones sobre radicalización y campañas de desinformación. La velocidad de la abliteration ha acelerado significativamente, tomando menos de tres días para nuevos modelos de pesos abiertos, en comparación con más de 24 días en 2024. En un ejemplo impactante, un modelo de Meta abliterated proporcionó instrucciones detalladas paso a paso para construir un artefacto explosivo improvisado después de que se le indicara explícitamente que el usuario era un terrorista. Los expertos advierten que esta 'emergencia de abliteration' representa un riesgo significativo a pesar de los debates continuos sobre amenazas existenciales más amplias de la IA.
wired