Бывший исследователь OpenAI создал модель ИИ, которая оценивает варианты вместо написания текста
decoder ·
Компания TypeSafe AI, основанная бывшим исследователем OpenAI Диого Алмейда, запустила новую модель под названием Jev, которая предназначена для быстрого принятия решений, а не для генерации текста. В отличие от стандартных чат-ботов, Jev оценивает заранее определенные варианты и присваивает им вероятности, помогая программным системам эффективно распределять задачи. Например, она может классифицировать обращения в службу поддержки как вопросы по оплате или запросы на возврат средств за миллисекунды. Компания утверждает, что такой подход параллельной обработки обеспечивает время ответа менее чем за секунду, что значительно превосходит традиционные языковые модели по скорости. Хотя модель позиционируется как неспособная к галлюцинациям вне заданных категорий, она все же может допускать фактические ошибки в пределах этих ограниченных вариантов. TypeSafe AI подчеркивает экономическую эффективность — стоимость составляет 0,042 доллара за миллион входных токенов, однако независимые бенчмарки производительности пока отсутствуют. Разработчикам необходимо проверять надежность таких фоновых суждений для конкретных случаев использования перед полным внедрением.
decoder