Anthropic alerta em registro de IPO que pode atingir em breve o limiar de autoaperfeiçoamento recursivo
aiinsider ·
Em seu registro revisado S-1 para uma oferta pública inicial, a Anthropic emitiu um aviso de que pode estar prestes a atingir o limiar de autoaperfeiçoamento recursivo em seus modelos de IA. Esse marco refere-se ao ponto em que a inteligência artificial se torna altamente eficaz no treinamento de si mesma, potencialmente levando a acelerações dramáticas nas capacidades. A empresa reconhece que, embora essa tecnologia prometa avanços na produtividade e na descoberta científica, ela também apresenta riscos significativos de segurança, permitindo que a IA construa sistemas ainda mais capazes. Novas divulgações de riscos indicam que as capacidades dos modelos podem superar o trabalho da Anthropic em segurança, alinhamento e proteção, observando que a firma já deixou de reconhecer saltos de capacidade até que eles ocorressem. Apesar desses avisos, a Anthropic enfatizou que nenhum modelo atual cruzou esse limiar e que não pretende permitir que o Claude desenvolva autonomamente futuros modelos de fronteira sem uma supervisão humana substancial. A empresa está atualmente considerando atualizações em sua Política de Escalonamento Responsável para garantir que os humanos permaneçam no controle das etapas críticas de desenvolvimento. Críticos veem a possível perda de controle humano como uma grande preocupação, enquanto entusiastas consideram isso um passo fundamental para o progresso tecnológico avançado. Céticos notam que tais declarações em um documento S-1 servem tanto como divulgação regulatória quanto como estratégia de marketing.
aiinsider