OpenAI lancerà almeno un modello quest'anno, ma il modello principale necessita ancora di lavoro di allineamento
decoder ·
Secondo quanto riportato, OpenAI sarebbe sulla buona strada per lanciare uno o due nuovi modelli di intelligenza artificiale entro la fine del 2026, sebbene il suo prossimo modello di punta subisca significativi ritardi a causa dei requisiti in corso di allineamento e sicurezza. Il futuro modello di punta utilizza una tecnica di trasformatore ciclico, simile all'attuale modello principale Astra, che migliora le prestazioni in matematica e programmazione riducendo al contempo i costi operativi. Tuttavia, questa scelta architetturale complica il monitoraggio della sicurezza oscurando i processi di ragionamento interni del modello all'interno di rappresentazioni numeriche illeggibili. Di conseguenza, OpenAI ha deviato circa il dieci percento della sua potenza di calcolo totale verso sforzi di allineamento e sicurezza per affrontare queste sfide. Inoltre, l'azienda deve conformarsi a un ordine esecutivo del governo degli Stati Uniti che impone di fornire accesso ai nuovi modelli fino a 30 giorni prima delle partnership esterne. I dettagli tecnici relativi a questo metodo di inferenza ciclica sono stati brevemente rivelati quando Microsoft ha pubblicato accidentalmente informazioni su una variante più economica chiamata GPT-6.1 Sol. Nonostante riconoscere che il monitoraggio del pensiero sequenziale sta diventando fragile, OpenAI continua a perfezionare questi sistemi sotto una rigorosa supervisione dirigenziale.
decoder