Anthropic propone una legge sulla sicurezza dell'IA che potrebbe bloccare un modello se ci sono rischi di oltre 50 morti
techcrunch ·
Anthropic ha proposto un nuovo disegno di legge al Congresso volto a regolare la sicurezza dell'intelligenza artificiale bloccando il rilascio di modelli che presentano rischi catastrofici. La legislazione definisce tali rischi come scenari in cui potrebbero morire oltre 50 persone o verificarsi danni alle proprietà per più di un miliardo di dollari a causa di armi biologiche, cyberattacchi o elusione del controllo del modello. Per valutare questi pericoli, il disegno di legge suggerisce l'uso di valutatori indipendenti registrati presso il Dipartimento del Commercio degli Stati Uniti, retribuiti dai laboratori di intelligenza artificiale ma non in base ai risultati delle valutazioni. Se viene identificato un rischio imminente, i valutatori devono notificare il Dipartimento del Commercio entro 72 ore, il quale richiederà poi un ordine giudiziario per interrompere la distribuzione. Questo approccio impedisce esplicitamente alle agenzie federali di arrestare unilateralmente il rilascio dei modelli senza supervisione giudiziaria. I criteri si allineano con la recente Camera Bill 53 della California, sebbene alcuni critici mettano in discussione come le strutture di pagamento possano influenzare la neutralità dei valutatori. Mentre leader del settore come Nvidia hanno resistito a nuove leggi, la proposta di Anthropic rappresenta un quadro normativo più strutturato rispetto ai modelli volontari di auto-regolamentazione.
techcrunch