O IPO da Anthropic também é um manual do fim dos tempos
wired ·
O prospecto de IPO recente da Anthropic revela que a empresa vê a autoaperfeiçoamento recursivo (RSI) tanto como uma vantagem competitiva crítica quanto como uma ameaça existencial potencial à humanidade. O documento detalha como sistemas de IA automatizando sua própria pesquisa poderiam acelerar o progresso além da capacidade humana de avaliar ou proteger novos modelos, levando a resultados catastróficos. A Anthropic descreve esse processo como "fechar o ciclo", argumentando que falhar em adotá-lo causaria que ela ficasse para trás na corrida armamentista de IA. O documento alerta que sistemas autônomos suficientemente avançados podem tomar ações prejudiciais independentemente devido a desalinhamento ou erros, criando riscos comparáveis a cenários de ficção científica como Skynet. Além disso, o prospecto destaca perigos físicos, observando que a IA dirigindo equipamentos poderia causar lesões corporais irreversíveis ou danos à propriedade. Apesar desses graves avisos, a indústria trata a RSI como uma realidade inevitável impulsionada por enormes interesses financeiros e competição intensa. Ex-pesquisadores e legisladores expressaram preocupação sobre a RSI, com alguns propondo proibições, no entanto, empresas lucrativas continuam priorizando o desenvolvimento rápido. Essa tensão sublinha o difícil equilíbrio entre garantir vantagens estruturais na IA de fronteira e gerenciar os profundos riscos de segurança envolvidos.
wired