Inceptions Diffusionsmodell Mercury 3 behauptet, GPT-6 Luna und Claude Haiku 5.5 bei einem Bruchteil der Wartezeit zu schlagen
decoder ·
Das KI-Startup Inception hat Mercury 3, ein auf Diffusion basierendes Sprachmodell, veröffentlicht, das angeblich Konkurrenten wie GPT-6 Luna und Claude Haiku 5.5 in Bezug auf Geschwindigkeit und bestimmte Benchmarks übertrifft. Im Gegensatz zu herkömmlichen autoregressiven Modellen, die Text Wort für Wort generieren, verfeinert Mercury 3 einen rohen Entwurf der gesamten Antwort gleichzeitig, was es ermöglicht, über 1.000 Tokens pro Sekunde auf Nvidia-GPUs zu erreichen. Interne Tests zeigen, dass Mercury 3 bei acht von zwölf Tests führt und erhebliche Vorteile beim Befolgen von Anweisungen sowie bei autonomen Coding-Aufgaben aufweist. Rivalen behalten jedoch Stärken bei längeren Coding-Herausforderungen und bei der Informationsbeschaffung in umfangreichen Texten. Das Modell ist für Echtzeitanwendungen wie KI-Agenten, Smart Glasses und Kundensupport konzipiert, bei denen eine niedrige Latenz entscheidend ist. Erste Partner berichten von erheblichen Verbesserungen, wobei Suchantworten auf Smart Glasses von fünf Sekunden auf unter eine Sekunde sanken. Obwohl die Einführungspreise derzeit reduziert sind, könnten die Standardtarife irgendwann diejenigen einiger Wettbewerber für kürzere Eingaben übertreffen. Inception, unterstützt von großen Tech-Investoren, positioniert diese Architektur als skalierbare Alternative zu herkömmlichen Sprachmodellen.
decoder