Meta внедряет новые инструменты ИИ для обнаружения рекламы, тайно ведущей к материалам сексуального насилия над детьми
techcrunch ·
Meta объявила об удалении 33,2 миллиона единиц контента, связанного с сексуальной эксплуатацией детей, на платформах Facebook и Instagram в первой половине 2026 года, при этом более 97% таких материалов было обнаружено системами компании до поступления жалоб от пользователей. В ответ на эволюцию угроз компания внедряет новые инструменты на базе искусственного интеллекта, предназначенные для выявления рекламы, которая служит скрытым порталом к незаконным материалам о сексуальном насилии над детьми, размещенным за пределами ее платформ. Ключевым нововведением стала система больших языковых моделей, способная обнаруживать так называемое «signposting» — ситуацию, когда внешне безобидная реклама тайно перенаправляет пользователей на вредоносные сайты. Теперь Meta анализирует не только содержание объявлений, но и адреса сайтов, куда они ведут, чтобы блокировать нарушающие правила ресурсы и принимать меры против связанных с ними аккаунтов. Дополнительные меры включают использование агентов ИИ для проведения «красных команд» (тестирования уязвимостей систем безопасности) и улучшение механизмов отслеживания пользователей, создающих новые учетные записи после предыдущих блокировок. Эти усилия предпринимаются на фоне значительного юридического давления, включая соглашение о выплате 18 миллиардов долларов в рамках урегулирования спора с 29 штатами США по вопросам безопасности детей. Компания также внедрила различные функции родительского контроля в своих приложениях, такие как уведомления о поисках, связанных с самоповреждением, в Instagram и улучшенные настройки конфиденциальности в WhatsApp.
techcrunch