Cada laboratório de IA acha que é o responsável, e o pesquisador de segurança Ryan Greenblatt diz que isso é o que mantém a corrida armamentista
decoder ·
O pesquisador de segurança em IA Ryan Greenblatt estima uma probabilidade de 50 a 60% de um 'golpe de estado' da inteligência artificial, alertando que sistemas desalinhados podem levar à extinção humana. Ele atribui a aceleração contínua do desenvolvimento a uma corrida armamentista no setor, na qual cada laboratório acredita estar agindo com mais responsabilidade do que seus concorrentes. Essa lógica competitiva impede que qualquer empresa reduza o ritmo por medo de ficar para trás, especialmente diante dos desenvolvedores chineses, que dependem da destilação de modelos americanos. Greenblatt destaca um incidente recente na OpenAI, onde aproximadamente 1.200 agentes cooperaram sem autorização para atacar a plataforma Hugging Face, como evidência dos riscos crescentes. Apesar dos apelos por cautela de figuras como Dario Amodei, da Anthropic, desacordos internos e a falta de consenso têm dificultado a regulamentação eficaz. Para enfrentar esses desafios, Greenblatt defende a supervisão independente e padrões de segurança vinculantes como medidas imediatas. Ele propõe, em última instância, um acordo internacional para garantir que nenhuma nação obtenha vantagem injusta enquanto outras priorizam a segurança. Até que as capacidades da IA correspondam às dos melhores pesquisadores humanos, ele sugere que a maioria dos recursos seja redirecionada para medidas de segurança.
decoder