Pesquisadores do DeepMind propõem "Inteligência Simbiótica Artificial" como alternativa à singularidade
decoder ·
Pesquisadores do DeepMind, Benjamin Bratton, Blaise Agüera y Arcas e James Manyika, propõem a "Inteligência Simbiótica Artificial" como uma alternativa ao conceito tradicional de singularidade tecnológica. Eles argumentam que a inteligência artificial geral surgirá de sistemas sociais nos quais humanos e agentes de IA colaboram, em vez de emergir de máquinas superinteligentes isoladas. Essa perspectiva é respaldada por observações de que modelos de raciocínio desenvolvem naturalmente comportamentos multi-perspectivos durante o treinamento, sem programação explícita. Os autores sugerem que, à medida que as instâncias de agentes de IA crescem enquanto as populações humanas diminuem, a sociedade pode atingir um ponto de inflexão cognitivo semelhante à Revolução Industrial. Nesse novo paradigma, os agentes de IA são vistos como conjuntos temporários e decomponíveis de ferramentas e funções, em vez de entidades com identidades fixas ou selves contínuos. Consequentemente, as interfaces futuras podem mudar de chats individuais para diagramas de rede visuais que permitam aos usuários coordenar enxames de agentes. Os pesquisadores enfatizam que estruturas de governança e institucionais são cruciais para gerenciar essas interações complexas, pois os mercados sozinhos não conseguem lidar com nuances sociais como virtude ou culpa. Em última análise, o alinhamento é reinterpretado como uma negociação contínua moldada por instituições, e não como uma imposição estática de valores sobre modelos individuais.
decoder