Un ancien chercheur d'OpenAI développe un modèle d'IA qui évalue des options au lieu de générer du texte
decoder ·
TypeSafe AI, fondée par l'ancien chercheur d'OpenAI Diogo Almeida, a lancé un nouveau modèle nommé Jev, conçu pour effectuer des jugements rapides plutôt que de générer du texte. Contrairement aux chatbots classiques, Jev évalue des options prédéfinies et attribue des probabilités afin d'aider les systèmes logiciels à trier les tâches efficacement. Par exemple, il peut catégoriser les demandes de service client comme des problèmes de paiement ou des demandes de remboursement en quelques millisecondes. L'entreprise affirme que cette approche de traitement parallèle permet des temps de réponse inférieurs à la seconde, surpassant significativement les modèles linguistiques traditionnels en termes de vitesse. Bien que le modèle soit commercialisé comme incapable de produire des hallucinations en dehors de ses catégories prédéfinies, il peut toujours commettre des erreurs factuelles au sein de ces choix limités. TypeSafe AI met en avant son efficacité économique avec un coût de 0,042 dollar par million de jetons d'entrée, bien que des benchmarks de performance indépendants fassent actuellement défaut. Les développeurs doivent vérifier la fiabilité de ces jugements en arrière-plan pour leurs cas d'utilisation spécifiques avant une adoption complète.
decoder