KI-Agenten erledigen mehr Arbeit bei der Modellentwicklung, aber Menschen treffen weiterhin die Entscheidungen
decoder ·
Eine Studie von Forschern der Fudan-Universität zur Entwicklung des Atria Dawn Preview-Modells zeigt, dass KI-Agenten zwar die Mehrheit der Ausführungsaufgaben übernehmen, Menschen jedoch die entscheidende Kontrolle über die Projektentwicklung behalten. Die Analyse von über 700 Aufgabenprotokollen ergab, dass das Verhältnis von Agentenaktionen zu menschlichen Eingaben deutlich stieg, was jedoch eher Effizienz als autonome Entscheidungsfindung widerspiegelte. Etwa ein Drittel der KI-unterstützten Aufgaben wurde als ohne künstliche Intelligenz nicht durchführbar eingestuft, was darauf hindeutet, dass KI Arbeiten ermöglicht, die sonst nicht in Angriff genommen würden. Menschen trafen 85,5 Prozent der Entscheidungen bezüglich Methoden und Parameter und wählten dabei konsistent aus den von den Agenten vorgeschlagenen Optionen. Bei auftretenden Problemen bestand der menschliche Eingriff primär darin, Kontext bereitzustellen oder Probleme zu diagnostizieren, anstatt manuelle Arbeit zu leisten. Trotz dieses hohen Automatisierungsgrads warnen die Autoren vor einem Risiko der bloßen Abnicken-Funktion ("rubber-stamp"), da die Aufsicht aufgrund der Länge der Agentenarbeitsabläufe erschwert wird. Diese Ergebnisse stehen im Gegensatz zu Branchentrends bei Unternehmen wie Anthropic und OpenAI und deuten darauf hin, dass Modelle an der Spitze der Technologie zwar Ingenieursaufgaben bewältigen können, aber weiterhin Schwierigkeiten mit kritischen Urteilsentscheidungen haben.
decoder