Un ex investigador de DeepMind cree que el manual de AlphaGo puede curar las alucinaciones de IA
decoder ·
El exinvestigador de DeepMind Thore Graepel fundó Metis Reasoning para abordar las alucinaciones de la IA aplicando el enfoque estratégico de AlphaGo al razonamiento general. El sistema propuesto separa el conocimiento de los pesos del modelo, almacenándolo en un libro mayor externo que se verifica independientemente contra evidencias antes de su aceptación. Este método busca ofrecer explicaciones respaldadas por fuentes y permitir la corrección de errores sin necesidad de volver a entrenar todo el modelo. Graepel sostiene que aumentar simplemente los datos y la capacidad computacional no resuelve el problema fundamental del razonamiento verificable en los modelos de lenguaje grandes. Aunque el método muestra potencial para la robótica y los dispositivos perimetrales, el marco actual sigue siendo teórico, sin contar aún con un sistema funcional ni con benchmarks disponibles. El artículo destaca una tendencia más amplia de antiguos veteranos de DeepMind que abandonan Google para emprender proyectos independientes centrados en una IA fiable. A pesar de la falta de implementación práctica inmediata, la empresa está recaudando fondos significativos para desarrollar este nuevo paradigma.
decoder