Kein KI-Agent erreicht über 12 Prozent im neuen Echtzeit-Arbeits-Benchmark von SemiAnalysis
decoder ·
SemiAnalysis hat den GDPx-Benchmark veröffentlicht, der KI-Agenten an 206 Aufgaben in realistischen professionellen Softwareumgebungen bewertet, anstatt sie einfachen Wissensquizzen zu unterziehen. Die Ergebnisse zeigen, dass kein aktuelles Modell gut abschneidet; die höchste Punktzahl von 12 Prozent wurde von Claude Opus 5.5 erzielt. Google's Gemini 4 Carbon folgte mit 10,9 Prozent und bot dabei deutlich niedrigere Kosten, während GPT-6 Astra 9,6 Prozent erreichte. Kritiker argumentieren, dass Sicherheitsfilter diese Ranglisten stark verzerren, insbesondere in den Bereichen Cybersicherheit und Biologie, wo einige Modelle Nullpunkte erhielten. Zudem wurden Bedenken hinsichtlich der Geheimhaltung der Testaufgaben und der ungleichen Bedingungen geäußert, die durch die proprietäre Agentensoftware jedes Anbieters entstehen. Trotz dieser Kritik plant SemiAnalysis, den Benchmark regelmäßig zu aktualisieren, um Fortschritte bei der Simulation realer Arbeitsabläufe zu verfolgen.
decoder