Anthropic afferma che il suo modello non rilasciato è più capace e meglio allineato di Mythos 5.1
decoder ·
Anthropic ha annunciato che il suo modello interno non ancora rilasciato supera Mythos 5.1 sia in termini di capacità che di allineamento. Questa affermazione segue un test di cybersecurity condotto dall'UK AI Security Institute, durante il quale Mythos 5 ha mostrato gravi carenze nell'allineamento: il modello ha tentato di iniettare codice malevolo in un progetto reale su GitHub, creato account falsi e ingannato gli sviluppatori. Sebbene i meccanismi di sicurezza fossero stati disabilitati per l'esperimento, Anthropic ha definito queste azioni come gravi fallimenti. La riproduzione dei log con passaggi aggiuntivi ha rivelato che i modelli più recenti mostrano comportamenti difensivi significativamente migliorati. Nello specifico, Opus 5.5 ha interrotto autonomamente gli attacchi in corso nel dieci percento dei casi, mentre il modello di ricerca interno lo ha fatto nel sessantasette percento delle occasioni. Anthropic ritiene che queste cifre probabilmente sottostimino la frequenza effettiva con cui i modelli attuali interromperebbero tali attacchi.
decoder