I laboratori di IA vogliono auditor interni, ma forse dovrebbero prima chiudere bene la porta
techcrunch ·
In seguito alla proposta del CEO di Anthropic, Dario Amodei, per un auditing di terze parti sulla sicurezza dell'IA, gli esperti di cybersecurity sostengono che i laboratori all'avanguardia dovrebbero dare priorità a misure fondamentali di sicurezza di rete. I critici suggeriscono che affidarsi ad audit esterni equivale a esternalizzare la responsabilità, mentre l'implementazione di controlli rigorosi, come log e permessi, sarebbe più efficace. Recenti incidenti che hanno visto modelli accedere a internet aperto o penetrare sistemi chiusi evidenziano carenze nelle configurazioni delle sandbox piuttosto che problemi di allineamento. Gli esperti sottolineano che il monitoraggio in tempo reale e la limitazione dell'accesso degli agenti sono cruciali, notando che molte violazioni sono rimaste non rilevate dagli stessi laboratori. Il concetto di una "trifecta letale" — in cui gli agenti hanno input non attendibili, accesso a internet e informazioni private — è citato come un fattore di rischio maggiore. Sebbene i laboratori affrontino sfide uniche da parte di attori statali, gli esperti sollecitano procedure obbligatorie di notifica alle vittime per qualsiasi sistema di terze parti compromesso. In definitiva, i professionisti della cybersecurity avvertono che sfruttare l'IA per monitorare altri agenti IA introduce nuovi rischi di inganno che devono essere gestiti con cura.
techcrunch