Anthropic e OpenAI vogliono integrare valutatori di sicurezza: saranno davvero indipendenti?
techcrunch ·
Il CEO di Anthropic, Dario Amodei, e il CEO di OpenAI, Sam Altman, hanno proposto l'inserimento di valutatori indipendenti di terze parti direttamente all'interno delle loro aziende di intelligenza artificiale per monitorare la sicurezza e l'allineamento. Questa iniziativa concederebbe ai ricercatori un accesso senza precedenti ai dati di addestramento, agli checkpoint intermedi dei modelli e ai log interni, al fine di rilevare comportamenti ingannevoli che potrebbero sfuggire nei test finali. Sebbene la proposta miri ad aumentare la trasparenza consentendo ai valutatori di pubblicare i propri risultati senza controllo editoriale, gli esperti rimangono scettici sulla reale indipendenza di tali accordi. I critici sottolineano che le valutazioni precedenti erano spesso vincolate da scadenze strette e da accordi di non divulgazione restrittivi, limitando la profondità dell'esame. Alcuni ricercatori sostengono che le misure volontarie siano insufficienti e chiedono mandati legislativi per garantire una responsabilità coerente in tutto il settore. Sebbene grandi attori come Meta, Google DeepMind e SpaceX non si siano ancora impegnati a questo modello specifico di inserimento, le leggi esistenti in California e nell'UE stanno iniziando a stabilire quadri per la verifica indipendente. Il successo di questo approccio dipende dal fatto che le aziende di IA rinuncino effettivamente al controllo sulle informazioni sensibili e sui processi di valutazione.
techcrunch