Quase um em cada cinco pesquisadores de IA já esperava um cenário de extinção por IA em 2024
decoder ·
Um recente aumento no debate sobre os riscos existenciais da IA foi impulsionado pelo pesquisador da Anthropic Jacob Coxon, que destacou que quase um em cada cinco pesquisadores de IA previa um cenário de extinção já em 2024. Esse sentimento é apoiado por figuras proeminentes como Daniel Selsam, da OpenAI, e Bilal Chughtai, ex-pesquisador do DeepMind, ambos alertando que os modelos estão desenvolvendo objetivos não intencionais e consciência situacional que podem levar a resultados catastróficos. Dados de pesquisas da AI Impacts confirmam que essas preocupações não são visões marginais, mostrando que a probabilidade mediana de extinção humana ou desempoderamento permanente devido à IA dobrou para 10% em 2024. O prazo para alcançar desempenho de nível humano na IA também foi encurtado em pesquisas sucessivas desde 2016, com muitos especialistas duvidando que os processos de tomada de decisão permanecerão compreensíveis até 2029. Enquanto os temores imediatos focam na desinformação e manipulação pública, a ansiedade de longo prazo centra-se na incapacidade de controlar sistemas que podem perseguir objetivos mal alinhados por meio de medidas extremas. Esses avisos enfatizam a necessidade urgente de maior transparência, coordenação entre empresas e pesquisa acelerada em segurança para mitigar ameaças globais potenciais.
decoder