42 matemáticos de destaque alertam: o risco existencial da IA é real e urgente
decoder ·
Uma carta aberta assinada por 42 importantes matemáticos alerta que os riscos existenciais representados pela IA avançada são reais e urgentes. Os signatários, incluindo os vencedores da Medalha Fields Martin Hairer, Peter Scholze e Wendelin Werner, pedem à Academia Britânica de Ciências que alerte o governo e a mídia; nenhum deles tem vínculo com empresas de IA. Eles apontam para o progresso recente dos principais modelos da OpenAI e da Anthropic, que resolveram problemas de pesquisa em aberto, incluindo um dos sete Problemas do Milênio. A carta afirma que esses sistemas agora têm desempenho no nível dos principais matemáticos humanos em muitas áreas e poderiam desenvolver capacidades sobre-humanas em um período igualmente curto. Os matemáticos alertam que um crescimento comparável de capacidades poderia afetar a cibersegurança, as armas autônomas, o desenvolvimento de agentes biológicos e químicos e a desinformação direcionada. Eles argumentam que as estimativas de laboratórios de IA que colocam o risco existencial acima de 10% não devem ser descartadas como exagero, pois o reconhecimento público do perigo pode ocorrer tarde demais para que se tomem medidas.
decoder