Cientos de aplicaciones de IA cotidianas ocultan funciones de deepfake sexualmente abusivas
wired ·
Una investigación de WIRED ha descubierto una red de más de 400 aplicaciones móviles y sitios web que ocultan capacidades de deepfake sexualmente abusivas detrás de herramientas de IA inofensivas. Estas aplicaciones, a menudo comercializadas como generadores de retratos de mascotas o tutores de idiomas, cargan silenciosamente interfaces explícitas cuando los usuarios hacen clic en anuncios específicos de las plataformas de Meta. La operación parece estar dirigida por desarrolladores chinos vinculados a una entidad llamada KeLing Technology Limited, quienes utilizan tácticas engañosas de 'cebo y cambio' para eludir las revisiones de las tiendas de aplicaciones. Los investigadores encontraron que las aplicaciones determinan dinámicamente si mostrar contenido seguro o plantillas pornográficas según los datos del usuario y la fuente del anuncio. A pesar de las políticas que prohíben este tipo de material, la red operó durante aproximadamente un año, acumulando cientos de miles de descargas antes de ser eliminada parcialmente por Apple y Google. Empresas tecnológicas importantes como Meta han tomado medidas contra miles de cuentas publicitarias y dominios asociados tras la exposición. Los expertos describen esto como una empresa comercial organizada diseñada para evadir la aplicación de la ley mediante activos desechables e identidades falsas.
wired