TypeSafe lance le modèle Jev pour la logique de programmation
ainews ·
TypeSafe AI, fondée par Diogo Almeida, co-inventeur de ChatGPT, a officiellement lancé son nouveau modèle nommé Jev après une période de développement en stealth de deux ans. Contrairement aux grands modèles de langage traditionnels qui génèrent des jetons de texte séquentiels, Jev est conçu spécifiquement pour la logique programmatique et les décisions déterministes automatisées au sein des bases de code de production. Le système utilise une architecture d'échantillonnage parallèle sensible au matériel pour produire directement des valeurs structurées sûres sur le plan des types, éliminant ainsi les erreurs syntaxiques et les hallucinations courantes dans la génération autoregressive. L'entraînement repose sur l'apprentissage par renforcement pour des décisions calibrées (RLCD), garantissant que les scores de confiance corrèlent précisément avec la précision des sorties plutôt qu'avec les préférences conversationnelles humaines. Les tests de performance indiquent des avantages significatifs par rapport aux modèles de pointe existants, avec des vitesses d'exécution jusqu'à 193,6 fois plus rapides et des latences de réponse comprises entre 70 et 500 millisecondes. L'efficacité économique est également mise en avant, le traitement des entrées étant facturé 0,042 dollar par million de jetons, sans frais pour les jetons de sortie en raison de la nature non-autoregressive du modèle. Des tests réels démontrent la capacité de Jev à gérer des états de jeu à haute vitesse et des tâches complexes de navigation web, ciblant des applications telles que l'extraction de fonctionnalités en temps réel et les flux de données à l'échelle du pétaoctet. L'accès anticipé aux développeurs est désormais ouvert alors que TypeSafe commence à intégrer les équipes d'ingénierie issues de sa liste d'attente de déploiement.
ainews