Meta führt neue KI-Tools ein, um Anzeigen zu erkennen, die heimlich auf missbräuchliche Inhalte im Zusammenhang mit Kindern verweisen
techcrunch ·
Meta gab bekannt, dass es in der ersten Hälfte von 2026 33,2 Millionen Beiträge mit kinders sexueller Ausbeutung auf Facebook und Instagram entfernt hat, wobei über 97 % dieser Inhalte von den Systemen des Unternehmens entdeckt wurden, bevor sie von Nutzern gemeldet wurden. Um auf sich wandelnde Bedrohungen zu reagieren, setzt das Unternehmen neue KI-Tools ein, die darauf ausgelegt sind, Anzeigen zu identifizieren, die als Zugänge zu illegalen Materialien zur sexuellen Ausbeutung von Kindern dienen, die außerhalb seiner Plattformen gehostet werden. Eine Schlüsselinnovation ist ein System auf Basis eines großen Sprachmodells, das sogenannte „Signposting“ erkennt – also scheinbar harmlose Anzeigen, die Nutzer heimlich auf schädliche Websites weiterleiten. Meta analysiert nun nicht nur den Inhalt der Anzeigen, sondern auch deren Ziel-URLs, um regelwidrige Seiten zu blockieren und Maßnahmen gegen damit verbundene Konten einzuleiten. Weitere Maßnahmen umfassen den Einsatz von Red-Teaming-KI-Agenten, die die Sicherheitsvorkehrungen auf Schwachstellen testen, sowie verbesserte Systeme zur Verfolgung von Nutzern, die nach vorherigen Sperrungen neue Konten erstellen. Diese Bemühungen erfolgen vor dem Hintergrund erheblichen rechtlichen Drucks, darunter eine Vergleichszahlung von 18 Milliarden US-Dollar an 29 US-Bundesstaaten im Zusammenhang mit Bedenken regarding der Kindersicherheit. Das Unternehmen hat zudem verschiedene Funktionen zur Elternkontrolle in seinen Apps eingeführt, wie Warnhinweise bei Selbstverletzungssuchen auf Instagram und erweiterte Datenschutzeinstellungen auf WhatsApp.
techcrunch