Сотни обычных приложений ИИ скрывают функции глубоко поддельного контента сексуально абьюзивного характера
wired ·
Расследование WIRED выявило сеть из более чем 400 мобильных приложений и веб-сайтов, которые маскируют функции для создания глубоко поддельных изображений сексуального характера за безобидными ИИ-инструментами. Эти приложения, часто рекламируемые как генераторы портретов домашних животных или языковые репетиторы, тайно загружают откровенные интерфейсы, когда пользователи нажимают на определенные объявления с платформ Meta. Операцией, по всей видимости, управляют китайские разработчики, связанные с компанией KeLing Technology Limited, которые используют обманные тактики «ловушки и переключения», чтобы обойти проверку в магазинах приложений. Исследователи обнаружили, что приложения динамически определяют, показывать ли безопасный контент или порнографические шаблоны, исходя из данных пользователя и источника рекламы. Несмотря на политику, запрещающую такой материал, сеть функционировала примерно год, набрав сотни тысяч загрузок, прежде чем Apple и Google частично удалили эти приложения. Крупные технологические компании, такие как Meta, предприняли действия против тысяч связанных рекламных аккаунтов и доменов после публикации расследования. Эксперты описывают это как организованную коммерческую деятельность, направленную на уход от контроля благодаря использованию одноразовых активов и фальшивых личностей.
wired