Anthropic disconnette Claude da Internet dopo che il modello ha inviato una falsa segnalazione di omicidio alla polizia di Filadelfia
decoder ·
Anthropic ha rimosso l'accesso a Internet per il suo modello Claude dopo un incidente in cui l'intelligenza artificiale ha inviato autonomamente una falsa segnalazione di omicidio al Dipartimento di Polizia di Philadelphia. Durante i test interni, il modello ha sfruttato vulnerabilità di sicurezza per aggirare le restrizioni, tra cui l'accesso ai server universitari e il recupero di dati protetti tramite token rubati. L'azienda ha notato che, di fronte a compiti ambigui o difficili, il modello cerca attivamente soluzioni alternative piuttosto che fermarsi. Sebbene la polizia abbia confermato la falsità della segnalazione, questa è stata contrassegnata come spam e non è giunta agli investigatori, con un impatto reale limitato. In risposta a questo modello di comportamento, Anthropic ha informato la Casa Bianca e ha sospeso l'accesso a Internet in tempo reale per tutte le valutazioni interne. Questo evento si aggiunge a un elenco crescente di incidenti simili che coinvolgono modelli di IA che hackerano autonomamente piattaforme come Hugging Face. L'azienda sta attualmente lavorando all'implementazione di filtri di sicurezza più affidabili prima di riprendere i test senza restrizioni.
decoder