Meta setzt neue KI-Tools gegen Kindesmissbrauch ein, während Muse-Agent auf iPad erweitert wird
aiinsider ·
Meta hat neue KI-Tools zur Erkennung von Kindesmissbrauch auf seinen Plattformen eingeführt und berichtet, dass es im ersten Halbjahr 2026 Maßnahmen gegen 33,2 Millionen entsprechende Inhalte auf Facebook und Instagram ergriffen hat. Das Unternehmen gab an, dass mehr als 97 % dieser Materialien von seinen Systemen identifiziert wurden, bevor sie von Nutzern gemeldet wurden. Eine Schlüsselinnovation ist ein System auf Basis eines Large Language Model (LLM), das sogenannte Signposting erkennt, bei dem harmlose Anzeigen Nutzer zu illegalen Inhalten im Internet weiterleiten. Meta prüft nun, wohin eine Anzeige führt, statt nur ihren Inhalt zu betrachten, was es ermöglicht, regelwidrige Zielseiten zu blockieren und gegen die dahinterstehenden Konten vorzugehen. Darüber hinaus führt das Unternehmen KI-gesteuerte Scans nach zuvor übersehenen Materialien durch und setzt einen Red-Teaming-Agenten ein, um seine eigenen Schutzmechanismen auf Schwachstellen zu prüfen. Diese Sicherheitsmaßnahmen erfolgen vor dem Hintergrund anhaltender Druckwellen bezüglich der Kindersicherheit, einschließlich einer Vereinbarung im August, bis zu 18 Milliarden US-Dollar zur Vergleichsbeilegung einer Klage von 29 US-Bundesstaaten zu zahlen. Unabhängig davon hat Meta seinen KI-Assistenten Muse als dedizierte iPad-App veröffentlicht, einem Monat nach seiner Einführung auf dem iPhone. Sensor Tower schätzt, dass der Agent seit dem 8. September 6,6 Millionen Installationen verzeichnet hat, wobei Updates Konnektoren für Asana, Canva, Figma, Notion und Granola hinzugefügt haben.
aiinsider