NVIDIA Kumo Tabular устанавливает новые стандарты точности и эффективности для табличных предсказаний
huggingface ·
Компания NVIDIA выпустила Kumo Tabular — открытую базовую модель для прогнозирования на основе табличных данных, работающую без этапа обучения и инженерии признаков. Архитектура на базе Transformer использует обучение в контексте (in-context learning) для предсказания меток новых строк за один прямой проход, поддерживая задачи классификации и регрессии. Модель предварительно обучена исключительно на искусственных таблицах, сгенерированных структурными каузальными моделями, что позволяет ей справляться с различными несовершенствами данных, такими как пропущенные значения и выбросы. Модель доступна в трех размерах: от 28 миллионов до 215 миллионов параметров, и работает через библиотеку структурированных моделей NVIDIA с открытым исходным кодом structured-data-models. Результаты тестирования показывают, что Kumo Tabular занимает первое место по основным бенчмаркам, включая TabArena, BeyondArena, TALENT и ScoringBench. Примечательно, что она устанавливает новый уровень достижений (state-of-the-art) на парето-фронте точности и эффективности, работая значительно быстрее конкурирующих моделей, таких как LimiX-2. Хотя в настоящее время модель ограничена числовыми и категориальными столбцами, она обеспечивает надежную обработку сложных структур таблиц благодаря специализированным механизмам внимания. Выпущенная под лицензией OpenMDW-1.1, она предоставляет разработчикам немедленный доступ к высокопроизводительным возможностям ИИ для работы с табличными данными.
huggingface