Anthropic sviluppa un sistema per provare l'identità dei modelli di intelligenza artificiale
techcrunch ·
Anthropic sta sviluppando un sistema open-source chiamato FlashProve per verificare crittograficamente quale modello di IA ha generato un output specifico. Questa tecnologia mira a fornire una 'inferenza dimostrabile', assicurando che gli utenti possano confermare l'autenticità delle risposte provenienti da modelli dichiarati. Il sistema protegge contro gli impostori, inclusi scenari in cui un fornitore potrebbe sostituire segretamente i modelli per ridurre i costi o gonfiare le metriche di prestazioni. Per funzionare, i laboratori devono pubblicare impronte digitali uniche per i propri modelli senza rivelare i pesi proprietari, consentendo la verifica su dispositivi locali. I ricercatori hanno pubblicato specifiche tecniche e codice su GitHub come parte di un lavoro in corso piuttosto che di un prodotto finale. L'obiettivo è consentire a terze parti di verificare le affermazioni riguardanti quali modelli avanzati abbiano eseguito compiti specifici. Anthropic condivide esplicitamente questo progresso intermedio per incoraggiare il miglioramento e la collaborazione della comunità.
techcrunch