Il nuovo prototipo di Anthropic dimostra quale modello ha generato una risposta AI senza rivelare i suoi pesi
decoder ·
Anthropic ha rilasciato FlashProve, un prototipo di ricerca open-source che utilizza la crittografia zkSNARK per verificare se una risposta AI è stata generata da un modello specifico dichiarato. Questo sistema consente ai provider di generare una prova digitale compatta dell'intervento del modello senza esporre i suoi pesi o l'architettura sottostante. Sebbene le limitazioni attuali restringano la generazione delle prove a contesti fino a 1.024 token e al campionamento deterministico, la tecnologia rappresenta un significativo salto in efficienza rispetto ai metodi precedenti. La generazione delle prove per modelli di grandi dimensioni avviene a circa 110 token al secondo su una GPU H100, con una verifica che richiede soli 17 secondi su una CPU standard. Anthropic prevede casi d'uso per i regolatori che verificano i modelli approvati, per le aziende che dimostrano il superamento dei controlli di sicurezza e per il rilevamento di manomissioni lato server. Il progetto realizza un obiettivo della Roadmap sulla Sicurezza Frontier di Anthropic, ovvero creare strumenti di verifica dell'inferenza senza fare affidamento su hardware fidato. Il codice completo e la documentazione sono disponibili su GitHub con licenza Apache 2.0.
decoder