Anthropic riduce il furto dei token di ragionamento di Claude del 99% nella lotta alla distillazione su scala industriale
decoder ·
Anthropic ha ridotto del fino al 99% il furto dei token di ragionamento di Claude grazie a nuove misure difensive contro attacchi di distillazione su scala industriale. Questi attacchi prevedono che attori malintenzionati utilizzino vaste reti di account falsi per copiare sistematicamente le capacità di pensiero sequenziale interno di un modello AI, al fine di addestrare modelli più piccoli. L'azienda ha identificato le aziende cinesi Zhipu e Moonshot come partecipanti chiave, accusandole di aver sottratto capacità informatiche per i propri modelli e potenzialmente per sistemi militari stranieri. Per contrastare questa minaccia, Anthropic ora limita l'accesso ai passaggi di ragionamento interni, impiega un classificatore per rilevare i tentativi di estrazione e banna automaticamente gli account segnalati. Di conseguenza, decine di migliaia di account sono stati bannati, provocando un calo drastico nei tentativi di distillazione riusciti. Sebbene efficaci, queste misure di sicurezza hanno involontariamente colpito alcuni utenti legittimi durante il processo. Anthropic sta esortando altri sviluppatori di AI ad adottare protezioni simili per salvaguardare i propri modelli da sfruttamenti su larga scala.
decoder