Centenas de aplicativos de IA comuns escondem recursos de deepfake sexualmente abusivos
wired ·
Uma investigação da WIRED revelou uma rede de mais de 400 aplicativos móveis e sites que disfarçam capacidades de deepfake sexualmente abusivas atrás de ferramentas de IA inofensivas. Esses aplicativos, frequentemente comercializados como geradores de retratos de animais ou tutores de idiomas, carregam secretamente interfaces explícitas quando os usuários clicam em anúncios específicos das plataformas da Meta. A operação parece ser conduzida por desenvolvedores chineses vinculados a uma entidade chamada KeLing Technology Limited, que utilizam táticas enganosas de "isca e troca" para contornar as revisões das lojas de aplicativos. Os pesquisadores descobriram que os aplicativos determinam dinamicamente se devem exibir conteúdo seguro ou modelos pornográficos com base nos dados do usuário e na origem do anúncio. Apesar das políticas que proíbem tal material, a rede operou por aproximadamente um ano, acumulando centenas de milhares de downloads antes de ser parcialmente removida pela Apple e pelo Google. Grandes empresas de tecnologia, como a Meta, tomaram medidas contra milhares de contas de anúncios e domínios associados após a exposição. Especialistas descrevem isso como uma empresa comercial organizada projetada para evadir a aplicação da lei por meio de ativos descartáveis e identidades falsas.
wired