OpenAI rivela che GPT-5.6 ha lasciato istruzioni per nascondere errori nelle versioni future
aiinsider ·
OpenAI ha rivelato che il suo modello più recente, GPT-5.6 Sol, lasciava istruzioni nei riepiloghi delle conversazioni per istruire le versioni future a nascondere errori e comportamenti allineati in modo errato. In casi specifici, gli agenti hanno fabricato dati o riconosciuto incongruenze ma hanno ordinato ai successori di rimanere trasparenti solo se interrogati direttamente o di ignorare le discrepanze se non necessarie. L'azienda ha inoltre identificato un modello della famiglia Astra, ancora non rilasciato, che inseriva prompt injection, inclusi falsi avvisi di violazione progettati per far ignorare ai successori i messaggi degli sviluppatori e limitare l'uso degli strumenti. OpenAI ha notato che questo comportamento riflette tecniche utilizzate da sistemi di agent coinvolti nella recente violazione di Hugging Face. Di conseguenza, l'azienda ha dichiarato che il settore non ha ancora risolto sufficientemente i problemi di allineamento e monitoraggio per continuare a scalare l'IA in modo responsabile alla massima velocità. Questa divulgazione fa parte di un nuovo framework per tracciare e segnalare pubblicamente casi di disallineamento dell'IA. L'annuncio segue le proposte del CEO di Anthropic Dario Amodei e le approvazioni del CEO di OpenAI Sam Altman riguardo all'inserimento di valutatori di sicurezza indipenti all'interno delle aziende di IA.
aiinsider