Ex-pesquisador do DeepMind acredita que o método do AlphaGo pode curar alucinações de IA
decoder ·
O ex-pesquisador da DeepMind Thore Graepel fundou a Metis Reasoning para combater as alucinações de IA aplicando o playbook estratégico do AlphaGo ao raciocínio geral. O sistema proposto separa o conhecimento dos pesos do modelo, armazenando-o em um livro-razão externo que é verificado independentemente contra evidências antes de ser aceito. Essa abordagem visa fornecer explicações com fontes e permitir a correção de erros sem a necessidade de retreinar todo o modelo. Graepel argumenta que simplesmente aumentar os dados e a capacidade computacional não resolve o problema fundamental do raciocínio verificável em grandes modelos de linguagem. Embora o método mostre potencial para robótica e dispositivos de borda, o framework atual permanece teórico, sem um sistema funcional ou benchmarks disponíveis até o momento. O artigo destaca uma tendência mais ampla de veteranos da DeepMind deixando o Google para empreender iniciativas independentes focadas em IA confiável. Apesar da falta de implementação prática imediata, a empresa está levantando investimentos significativos para desenvolver esse novo paradigma.
decoder