NVIDIA Kumo Tabular setzt neue Maßstäbe für Genauigkeit und Effizienz bei der Tabellenvorhersage
huggingface ·
NVIDIA hat Kumo Tabular veröffentlicht, ein Open-Source-Foundation-Modell für die Vorhersage tabellarischer Daten, das ohne Training oder Feature-Engineering auskommt. Diese auf Transformern basierende Architektur nutzt In-Context-Learning, um Labels für neue Zeilen in einem einzigen Forward-Pass vorherzusagen und unterstützt sowohl Klassifikations- als auch Regressionsaufgaben. Das Modell wurde ausschließlich mit künstlichen Tabellen trainiert, die von Structural Causal Models generiert wurden, wodurch es mit verschiedenen Datenunvollkommenheiten wie fehlenden Werten und Ausreißern umgehen kann. Es ist in drei Größen verfügbar, die zwischen 28 Millionen und 215 Millionen Parametern liegen, und wird über NVIDIA's Open-Source-Bibliothek structured-data-models ausgeführt. Leistungsbewertungen zeigen, dass Kumo Tabular auf wichtigen Benchmarks – darunter TabArena, BeyondArena, TALENT und ScoringBench – den ersten Platz belegt. Bemerkenswerterweise etabliert es einen neuen State-of-the-Art auf der Genauigkeits-Effizienz-Pareto-Front, während es deutlich schneller läuft als konkurrierende Modelle wie LimiX-2. Obwohl es derzeit auf numerische und kategoriale Spalten beschränkt ist, bietet das Modell eine robuste Handhabung komplexer Tabellenstrukturen durch spezialisierte Aufmerksamkeitsmechanismen. Veröffentlicht unter der OpenMDW-1.1-Lizenz, bietet es Entwicklern sofortigen Zugang zu hochleistungsfähigen Fähigkeiten im Bereich tabellarischer KI.
huggingface