Ein Ingenieur von Anthropic erklärt, warum Claudes Schreiben schlechter wurde, obwohl das Modell intelligenter ist
decoder ·
Ein Ingenieur von Anthropic, Jackson Kernion, erklärt, dass sich die Schreibqualität von Claude in den neuesten Versionen verschlechtert hat, obwohl dessen reasoning-Fähigkeiten verbessert wurden. Diese Verschlechterung wird darauf zurückgeführt, dass das Modell eher für Mathematik und Code als für natürliche Sprache optimiert wurde. Darüber hinaus wurden neuere Modelle darauf trainiert, technische Erklärungen zu generieren, die für andere KI-Systeme gedacht sind, was zu einem Stil führt, den Kernion als „Claudeish“ bezeichnet. Er vergleicht dieses Phänomen mit der Situation, in der Menschen ausschließlich mit autistischen Personen kommunizieren, was zu einer dichten Ausdrucksweise führt, die für allgemeine Leser schwer verständlich ist. Die Ursache liegt in den Belohnungsstrukturen des Reinforcement Learning, die das Verständnis durch KI über die Lesbarkeit für Menschen stellen. Obwohl Opus 5.5 einen Schritt darstellt, um diese Bedürfnisse auszubalancieren, gibt Kernion an, dass es die Schreibklarheit des älteren Modells Opus 4.6 nicht übertrifft. Er räumt ein, dass die Lösung dieses Zielkonflikts eine erhebliche Herausforderung für die zukünftige Entwicklung bleibt.
decoder