Des centaines d'applications IA ordinaires dissimulent des fonctionnalités de deepfake sexuellement abusives
wired ·
Une enquête de WIRED a mis au jour un réseau d'plus de 400 applications mobiles et sites web qui dissimulent des capacités deepfake sexuellement abusives derrière des outils IA bénins. Ces applications, souvent commercialisées comme générateurs de portraits d'animaux ou tuteurs de langues, chargent secrètement des interfaces explicites lorsque les utilisateurs cliquent sur certaines publicités provenant des plateformes Meta. L'opération semble être dirigée par des développeurs chinois liés à une entité nommée KeLing Technology Limited, qui utilisent des tactiques trompeuses de « leurre et remplacement » pour contourner les vérifications des App Stores. Les chercheurs ont constaté que les applications déterminent dynamiquement si elles doivent afficher du contenu sûr ou des modèles pornographiques en fonction des données utilisateur et de la source de la publicité. Malgré les politiques interdisant ce type de matériel, le réseau a fonctionné pendant environ un an, accumulant plusieurs centaines de milliers de téléchargements avant d'être partiellement supprimé par Apple et Google. De grandes entreprises technologiques comme Meta ont depuis pris des mesures contre des milliers de comptes publicitaires et de domaines associés suite à cette exposition. Des experts qualifient cela d'entreprise commerciale organisée conçue pour échapper aux poursuites grâce à des actifs jetables et des identités fictives.
wired