Google will, dass Video-KI versteht, was Menschen bei der Arbeit brauchen
decoder ·
Google-Forscher haben in Zusammenarbeit mit Stanford und Oxford StreamVibe vorgestellt, einen Video-KI-Agenten, der Nutzer proaktiv unterstützt, indem er erkennt, wann ein Eingreifen erforderlich ist. Im Gegensatz zu herkömmlichen Assistenten, die explizite Befehle erfordern, kann StreamVibe vage Anfragen wie „Hilf mir, wenn ich auf Schwierigkeiten stoße“ interpretieren und dabei den Aufgabenfortschritt sowie sich ändernde Nutzerabsichten verfolgen. Das System nutzt eine Speicherkomponente, um zwischen ausstehenden und abgeschlossenen Schritten zu unterscheiden, um unnötige Unterbrechungen zu reduzieren und die Reaktionszeit zu verbessern. Tests an einem Benchmark mit über 4.100 Beispielen zeigten, dass StreamVibe-VL die Antwortqualität im Vergleich zu anderen Modellen um etwa 10,7 Prozent verbesserte. Die Studie hebt jedoch erhebliche Herausforderungen für aktuelle KI-Systeme hervor: Bei Videos, die länger als fünf Minuten dauern, verschlechtert sich die Leistung aufgrund kumulierender Fehler erheblich. In spezifischen Tests mit Software-Tutorials und Kochanleitungen lieferte StreamVibe relevante nächste Schritte, während Vergleichsmodelle oft lediglich visuelle Aktionen beschrieben oder falsche Ratschläge gaben. Trotz dieser Verbesserungen erkennen die Forscher an, dass die Komplexität in der Realität höher ist als in ihrem Testaufbau, und planen, Umwelteinflüsse weiter zu untersuchen.
decoder