TypeSafe lancia il modello Jev per la logica di programmazione
ainews ·
TypeSafe AI, fondata dal co-inventore di ChatGPT Diogo Almeida, ha lanciato ufficialmente il suo nuovo modello denominato Jev dopo due anni di sviluppo in stealth. A differenza dei tradizionali modelli linguistici di grandi dimensioni che generano token di testo sequenziali, Jev è progettato specificamente per la logica programmatica e le decisioni deterministiche automatizzate all'interno di codebase di produzione. Il sistema utilizza un'architettura di campionamento parallelo consapevole dell'hardware per restituire valori strutturati sicuri per i tipi direttamente, eliminando così gli errori sintattici e le allucinazioni comuni nella generazione autoregressiva. L'addestramento si basa sul Reinforcement Learning for Calibrated Decisions (RLCD), che garantisce che i punteggi di confidenza correlino accuratamente con la precisione dell'output piuttosto che con le preferenze conversazionali umane. I benchmark delle prestazioni indicano vantaggi significativi rispetto ai modelli all'avanguardia esistenti, con velocità di esecuzione fino a 193,6 volte più elevate e latenze di risposta comprese tra 70 e 500 millisecondi. Viene inoltre evidenziata l'efficienza dei costi: l'elaborazione degli input costa 0,042 dollari per milione di token, mentre non ci sono addebiti per i token di output a causa della natura non autoregressiva del modello. Test reali dimostrano la capacità di Jev nel gestire stati di gioco ad alta velocità e compiti complessi di navigazione web, puntando ad applicazioni nell'estrazione di funzionalità in tempo reale e nei flussi di lavoro su scala petabyte. L'accesso anticipato per gli sviluppatori è ora aperto mentre TypeSafe inizia a integrare i team di ingegneria dalla sua lista d'attesa per il deployment.
ainews