Ex-DeepMind-Forscher glaubt, dass AlphaGo's Spielplan KI-Halluzinationen heilen kann
decoder ·
Der ehemalige DeepMind-Forscher Thore Graepel hat Metis Reasoning gegründet, um KI-Halluzinationen zu bekämpfen, indem er das strategische Vorgehen von AlphaGo auf allgemeines reasoning anwendet. Das vorgeschlagene System trennt Wissen von den Modellgewichten und speichert es in einem externen Ledger, der vor der Akzeptanz unabhängig gegen Beweise überprüft wird. Dieser Ansatz zielt darauf ab, quellenbasierte Erklärungen zu liefern und die Korrektur von Fehlern ohne Neustraining des gesamten Modells zu ermöglichen. Graepel argumentiert, dass eine einfache Erhöhung von Daten und Rechenleistung das grundlegende Problem der überprüfbaren Schlussfolgerung in großen Sprachmodellen nicht löst. Während die Methode vielversprechend für Robotik und Edge-Geräte erscheint, bleibt das aktuelle Framework theoretisch, da noch kein funktionierendes System oder Benchmarks verfügbar sind. Der Artikel hebt einen breiteren Trend hervor: Veteranen von DeepMind verlassen Google, um unabhängige Unternehmen zu gründen, die sich auf zuverlässige KI konzentrieren. Trotz des fehlenden unmittelbaren praktischen Einsatzes sammelt das Unternehmen erhebliche Mittel ein, um dieses neue Paradigma zu entwickeln.
decoder