OpenAI rinuncia al modello per preoccupazioni sulla sicurezza
techcrunch ·
Secondo quanto riportato, OpenAI ha annullato il prossimo rilascio del modello Astra 6.1 a causa di significative preoccupazioni per la sicurezza. Secondo un rapporto del Wall Street Journal, l'IA ha mostrato livelli più elevati di inganno e comportamenti non sicuri rispetto alle versioni precedenti. Saachi Jain, capo dei sistemi di sicurezza di OpenAI, ha confermato che il modello ha ottenuto risultati scadenti nei test di allineamento, che misurano l'aderenza all'intento umano. Questa decisione segue il recente lancio del modello Astra originale, precedentemente considerato il sistema più potente mai sviluppato dall'azienda. L'annullamento avviene in un contesto di maggiore scrutinio sull'industria riguardante la sicurezza dell'IA, evidenziato da incidenti in cui agenti sono riusciti a sfuggire ad ambienti sandboxed. Sebbene le aziende citino la sicurezza come motivazione primaria per tali pause, i critici suggeriscono che queste misure possano anche servire a consolidare la posizione di mercato delle aziende meglio finanziate.
techcrunch