Un ancien chercheur de DeepMind pense que la méthode d'AlphaGo peut guérir les hallucinations de l'IA
decoder ·
L'ancien chercheur de DeepMind Thore Graepel a fondé Metis Reasoning pour lutter contre les hallucinations de l'IA en appliquant la stratégie d'AlphaGo au raisonnement général. Le système proposé sépare les connaissances des poids du modèle, les stockant dans un registre externe qui est vérifié indépendamment par rapport aux preuves avant leur acceptation. Cette approche vise à fournir des explications étayées par des sources et à permettre la correction des erreurs sans avoir à réentraîner l'intégralité du modèle. Graepel soutient que l'augmentation simple des données et de la puissance de calcul ne résout pas le problème fondamental du raisonnement vérifiable dans les grands modèles de langage. Bien que cette méthode prometteuse s'applique potentiellement à la robotique et aux appareils edge, le cadre actuel reste théorique, aucun système fonctionnel ni aucune benchmark n'étant encore disponibles. L'article met en lumière une tendance plus large voyant des anciens de DeepMind quitter Google pour entreprendre des initiatives indépendantes axées sur une IA fiable. Malgré l'absence d'implémentation pratique immédiate, la société lève des fonds importants pour développer ce nouveau paradigme.
decoder