Centinaia di app AI ordinarie nascondono funzionalità deepfake sessualmente abusive
wired ·
Un'indagine di WIRED ha scoperto una rete di oltre 400 applicazioni mobili e siti web che nascondono funzionalità deepfake sessualmente abusive dietro strumenti AI innocui. Queste app, spesso commercializzate come generatori di ritratti di animali domestici o tutor linguistici, caricano segretamente interfacce esplicite quando gli utenti fanno clic su annunci specifici provenienti dalle piattaforme Meta. L'operazione sembra essere gestita da sviluppatori cinesi collegati a un'entità denominata KeLing Technology Limited, che utilizza tecniche ingannevoli di "bait-and-switch" (esca e cambio) per eludere le revisioni degli App Store. I ricercatori hanno riscontrato che le app determinano dinamicamente se mostrare contenuti sicuri o template pornografici in base ai dati dell'utente e alla fonte dell'annuncio. Nonostante le politiche che vietano tale materiale, la rete è operata per circa un anno, accumulando centinaia di migliaia di download prima di essere parzialmente rimossa da Apple e Google. Grandi aziende tecnologiche come Meta hanno successivamente intrapreso azioni contro migliaia di account pubblicitari e domini associati dopo l'esposizione. Gli esperti descrivono questa situazione come un'impresa commerciale organizzata progettata per eludere l'applicazione delle norme attraverso asset usa e getta e identità false.
wired