Meta lancia nuovi strumenti di IA per rilevare annunci che conducono segretamente a materiale di abuso sessuale minorile
techcrunch ·
Meta ha annunciato di aver rimosso 33,2 milioni di contenuti relativi allo sfruttamento sessuale minorile da Facebook e Instagram nel primo semestre del 2026, con oltre il 97% rilevato dai suoi sistemi prima delle segnalazioni degli utenti. Per contrastare le minacce in evoluzione, l'azienda sta implementando nuovi strumenti di intelligenza artificiale progettati per identificare gli annunci pubblicitari che fungono da porta d'accesso a materiale illegale di abuso sessuale minorile ospitato al di fuori delle sue piattaforme. Un'innovazione chiave è un sistema basato su modelli linguistici di grandi dimensioni (LLM) in grado di rilevare lo "signposting", ovvero quegli annunci apparentemente innocui che indirizzano segretamente gli utenti a siti web dannosi. Meta sta ora analizzando le destinazioni degli annunci piuttosto che solo il loro contenuto, per bloccare i siti che violano le norme e intraprendere azioni contro gli account associati. Tra le misure aggiuntive figurano agenti AI sottoposti a red-teaming per testare la presenza di vulnerabilità nelle difese di sicurezza e sistemi migliorati per monitorare gli utenti che creano nuovi account dopo precedenti sospensioni. Questi sforzi avvengono in un contesto di significativa pressione legale, inclusa una transazione di risarcimento pari a 18 miliardi di dollari con 29 stati degli Stati Uniti riguardo alle preoccupazioni sulla sicurezza dei minori. L'azienda ha inoltre introdotto varie funzionalità di controllo genitore sulle sue app, come avvisi per ricerche relative all'autolesionismo su Instagram e impostazioni sulla privacy potenziate su WhatsApp.
techcrunch