Anthropics neuer Prototyp beweist, welches Modell eine KI-Antwort geschrieben hat, ohne seine Gewichte preiszugeben
decoder ·
Anthropic hat FlashProve, einen Open-Source-Forschungsprototypen, veröffentlicht, der zkSNARK-Kryptografie nutzt, um zu verifizieren, ob eine KI-Antwort von einem bestimmten behaupteten Modell generiert wurde. Dieses System ermöglicht es Anbietern, einen kompakten digitalen Nachweis für die Beteiligung des Modells zu erstellen, ohne dessen zugrunde liegende Gewichte oder Architektur preiszugeben. Während aktuelle Einschränkungen die Erzeugung von Nachweisen auf Kontexte von bis zu 1.024 Tokens und deterministisches Sampling beschränkt, stellt die Technologie einen erheblichen Effizienzsprung gegenüber früheren Methoden dar. Die Erzeugung von Nachweisen für große Modelle erfolgt mit etwa 110 Tokens pro Sekunde auf einer H100-GPU, wobei die Verifikation nur 17 Sekunden auf einer Standard-CPU dauert. Anthropic sieht Anwendungsfälle für Aufsichtsbehörden bei der Überprüfung zugelassener Modelle, für Unternehmen zum Nachweis von Sicherheitsüberprüfungen sowie zur Erkennung von Manipulationen auf Serverseite. Das Projekt erfüllt ein Ziel aus dem „Frontier Safety Roadmap“ von Anthropic, Werkzeuge zur Verifikation von Inferenzen zu schaffen, die nicht auf vertrauenswürdiger Hardware basieren. Der vollständige Code und die Dokumentation sind unter der Apache-2.0-Lizenz auf GitHub verfügbar.
decoder