Anthropic arbeitet an einem System zum Nachweis der Identität von KI-Modellen | AI Archive

Anthropic arbeitet an einem System zum Nachweis der Identität von KI-Modellen

techcrunch · 2026-11-03T22:41:03+00:00

Anthropic entwickelt ein Open-Source-System namens FlashProve, das kryptografisch verifiziert, welches KI-Modell eine bestimmte Ausgabe erzeugt hat. Diese Technologie zielt darauf ab, 'beweisbare Inferenz' zu ermöglichen und Nutzern die Bestätigung der Authentizität von Antworten behaupteter Modelle zu gewährleisten. Das System schützt vor Nachahmern, einschließlich Szenarien, in denen Anbieter heimlich Modelle austauschen, um Kosten zu senken oder Leistungsmetriken aufzublähen. Damit das System funktioniert, müssen Labore eindeutige Fingerabdrücke ihrer Modelle veröffentlichen, ohne proprietäre Gewichte preiszugeben, was eine Überprüfung auf lokalen Geräten ermöglicht. Forscher haben technische Spezifikationen und Code auf GitHub als Teil laufender Arbeiten und nicht als finales Produkt veröffentlicht. Ziel ist es, Dritten zu ermöglichen, Behauptungen darüber zu überprüfen, welche fortschrittlichen Modelle bestimmte Aufgaben ausgeführt haben. Anthropic teilt diesen Zwischenfortschritt explizit, um Gemeinschaftsverbesserungen und Zusammenarbeit zu fördern.