Wie KI-Entscheidungsmodelle die Inhaltsmoderation verändern könnten
techcrunch ·
Musubi hat PolicyLM-1.7B vorgestellt, ein leichtgewichtiges Entscheidungsmodell für die Echtzeit-Moderation von Inhalten, das mit offenen Gewichten arbeitet. Dieses System kann englische Inhaltsrichtlinien in weniger als 50 Millisekunden auf Nachrichten anwenden und erreicht dabei Geschwindigkeit und Kosten bestehender KI-Klassifikatoren, bietet jedoch größere Flexibilität. Im Gegensatz zu herkömmlichen Modellen erfordert es kein Retraining bei Änderungen der Richtlinien, sodass Plattformbetreiber Regeln dynamisch anpassen können. Entscheidungsmodelle unterscheiden sich von Standard-Large-Language-Modellen dadurch, dass sie binäre Urteile statt Text ausgeben, was eine schnellere und kostengünstigere Verarbeitung ermöglicht. Musubi positioniert dieses Tool als skalierbare Lösung zur proaktiven Kennzeichnung von Inhalten, während nutzergenerierte Inhalte exponentiell zunehmen. Das Unternehmen zieht Parallelen zu aktuellen Branchentrends und verweist auf Ähnlichkeiten mit Modellen wie Jev von Typesafe AI, den Angeboten von OpenAI und den Wettbewerbern von Amazon. Durch die Nutzung einer Transformer-Architektur mit begrenzten Ausgaben hält das Modell hohe Leistung aufrecht, ohne den Overhead vollständiger generativer Fähigkeiten.
techcrunch