Neuer Artificial Analysis-Index vergrößert die Lücke zwischen offenen und geschlossenen Modellen
decoder ·
Artificial Analysis hat seinen Intelligence Index überarbeitet und die Leistungsunterschiede zwischen offenen und geschlossenen KI-Modellen erheblich vergrößert. Infolgedessen ist Kimi K3.1 Pro in der Rangliste um fünf Plätze von Platz vier auf Platz neun gefallen und liegt hinter acht geschlossenen Modellen. Der aktualisierte Index zeigt nun eine Diskrepanz von 12 Punkten, ein deutlicher Anstieg gegenüber dem vorherigen Abstand von 3 Punkten. Um Benchmaxxing zu bekämpfen, bei dem Modelle auf bekannten Testfragen trainiert werden, basiert der neue Index zu 60 Prozent auf privaten Datensätzen. Diese Verschiebung deutet darauf hin, dass frühere Rankings die Fähigkeiten bestimmter Modelle möglicherweise überschätzt haben, was sich auch daran zeigt, dass Grok 4.7 erhebliche Punkte verloren hat. Forscher weisen jedoch darauf hin, dass hochentwickelte Infrastruktur für Reinforcement Learning nach wie vor ein entscheidender Unterschied für die Top-Leistenden bleibt. Während geschlossene Tests das Ausnutzen verhindern, erschweren sie auch die externe Überprüfung, weshalb Artificial Analysis fehlerhafte Fragen in Benchmarks wie AA-Omniscience überarbeitet.
decoder