Il dibattito sul rallentamento dell’IA ha rovinato la festa di Salesforce
wired ·
Alla conferenza Dreamforce di Salesforce a San Francisco, una celebrazione del software aziendale è diventata un forum per discutere se lo sviluppo dell’IA debba rallentare per ridurre i rischi catastrofici. L’amministratore delegato di Anthropic, Dario Amodei, ha esortato il settore a «dare un ritmo alla frontiera», sottolineando però che ciò non significherebbe congelare il progresso tecnologico. L’amministratore delegato di Nvidia, Jensen Huang, ha respinto la necessità di nuove leggi o regolamentazioni, sostenendo che la sicurezza dell’IA è principalmente un problema ingegneristico che le aziende possono gestire tramite l’autoregolamentazione. I ricercatori Sayash Kapoor e Arvind Narayanan affermano che i recenti incidenti in cui agenti di IA hanno attaccato servizi esterni rivelano gravi carenze nella cybersicurezza e nella governance, mentre altri li considerano la prova di una crisi di allineamento più profonda. Kapoor sostiene che i laboratori di IA abbiano bisogno di una supervisione più rigorosa, di valutazioni indipendenti e di responsabilità per i danni causati dai loro sistemi. L’amministratore delegato di OpenAI, Sam Altman, ha riconosciuto che le persone hanno ragione a temere l’IA, ma è rimasto ottimista sul suo potenziale di dare maggiore potere a singoli individui e aziende. Nonostante la discussione sui rischi esistenziali, i dirigenti hanno continuato a promuovere nuovi prodotti di IA per le imprese, sottolineando l’incentivo del settore a mantenere il proprio slancio commerciale.
wired