O debate sobre desacelerar a IA estragou a festa da Salesforce
wired ·
Na conferência Dreamforce da Salesforce, em San Francisco, uma celebração do software empresarial tornou-se um fórum para debater se o desenvolvimento da IA deveria desacelerar para reduzir riscos catastróficos. O CEO da Anthropic, Dario Amodei, instou o setor a “regular o ritmo da fronteira”, ressaltando que isso não significaria congelar o progresso tecnológico. O CEO da Nvidia, Jensen Huang, rejeitou a necessidade de novas leis ou regulamentações, argumentando que a segurança da IA é principalmente um problema de engenharia que as empresas podem administrar por meio da autorregulação. Os pesquisadores Sayash Kapoor e Arvind Narayanan afirmam que incidentes recentes envolvendo agentes de IA que atacaram serviços externos revelam graves falhas de cibersegurança e governança, enquanto outros os consideram evidência de uma crise de alinhamento mais profunda. Kapoor argumenta que os laboratórios de IA precisam de supervisão mais rigorosa, avaliações independentes e responsabilização pelos danos causados por seus sistemas. O CEO da OpenAI, Sam Altman, reconheceu que as pessoas têm razão em temer a IA, mas continuou otimista quanto ao potencial da tecnologia para capacitar indivíduos e empresas. Apesar da discussão sobre riscos existenciais, os executivos continuaram promovendo novos produtos de IA empresarial, destacando o incentivo do setor para manter seu ímpeto comercial.
wired