Hunderte scheinbar harmlose KI-Apps verstecken sexuell missbräuchliche Deepfake-Funktionen | AI Archive

Hunderte scheinbar harmlose KI-Apps verstecken sexuell missbräuchliche Deepfake-Funktionen

wired · 2026-11-02T10:00:00+00:00

Eine Untersuchung von WIRED hat ein Netzwerk von über 400 mobilen Anwendungen und Websites aufgedeckt, die sexuell missbräuchliche Deepfake-Funktionen hinter harmlosen KI-Tools tarnen. Diese Apps, die oft als Generatoren für Haustierporträts oder als Sprachlehrer vermarktet werden, laden heimlich explizite Schnittstellen, wenn Nutzer auf bestimmte Anzeigen von Meta-Plattformen klicken. Die Operation scheint von chinesischen Entwicklern betrieben zu werden, die mit der Entität KeLing Technology Limited in Verbindung stehen und täuschende „Bait-and-Switch“-Taktiken anwenden, um die App-Store-Überprüfungen zu umgehen. Forscher stellten fest, dass die Apps dynamisch entscheiden, ob sie sichere Inhalte oder pornografische Vorlagen anzeigen, basierend auf Benutzerdaten und der Quelle der Anzeige. Trotz Richtlinien, die ein solches Material verbieten, operierte das Netzwerk etwa ein Jahr lang und sammelte Hunderttausende Downloads, bevor es teilweise von Apple und Google entfernt wurde. Große Tech-Unternehmen wie Meta haben nach der Enthüllung Maßnahmen gegen Tausende damit verbundene Werbekonten und Domains ergriffen. Experten beschreiben dies als ein organisiertes kommerzielles Unternehmen, das darauf ausgelegt ist, Durchsetzungsmaßnahmen durch austauschbare Assets und falsche Identitäten zu umgehen.