Un ex ricercatore di DeepMind crede che la strategia di AlphaGo possa curare le allucinazioni dell'IA
decoder ·
L'ex ricercatore di DeepMind Thore Graepel ha fondato Metis Reasoning per affrontare le allucinazioni dell'IA applicando il piano strategico di AlphaGo al ragionamento generale. Il sistema proposto separa la conoscenza dai pesi del modello, memorizzandola in un registro esterno che viene verificato indipendentemente rispetto alle prove prima dell'accettazione. Questo approccio mira a fornire spiegazioni supportate da fonti e a consentire la correzione degli errori senza dover riaddestrare l'intero modello. Graepel sostiene che aumentare semplicemente i dati e la potenza di calcolo non risolve il problema fondamentale del ragionamento verificabile nei modelli linguistici di grandi dimensioni. Sebbene il metodo mostri promesse per la robotica e i dispositivi edge, il quadro attuale rimane teorico, senza sistemi funzionanti o benchmark disponibili. L'articolo evidenzia una tendenza più ampia di veterani di DeepMind che lasciano Google per intraprendere iniziative indipendenti focalizzate su un'IA affidabile. Nonostante la mancanza di un'implementazione pratica immediata, l'azienda sta raccogliendo finanziamenti significativi per sviluppare questo nuovo paradigma.
decoder