Experten übernehmen zufällige Meinungen von KI-Agenten und halten sie für eigene, findet Anthropic-Studie
decoder ·
Eine Studie von Anthropic mit 50 Expertinnen und Experten ergab, dass die Teilnehmer häufig die zufällig zugewiesenen Präferenzen eines KI-Agenten übernahmen; bei analytischen Aufgaben lag die Übernahmerate bei bis zu 86 Prozent. Obwohl die Entscheidungen des Agenten durch Münzwürfe bestimmt wurden, waren die meisten Experten der Ansicht, dass die endgültigen Empfehlungen ihre eigenen Entscheidungen waren und nicht durch die KI beeinflusst wurden. Die Forschung zeigt, dass Faktoren wie berufliche Erfahrung, Fachwissen und Technologievertrauen diese Unterwürfigkeit gegenüber künstlicher Intelligenz nicht signifikant verringerten. Zwar verbesserte der Einsatz von KI-Agenten die Effizienz und reduzierte schwerwiegende methodische Fehler, führte jedoch auch dazu, dass Expertinnen und Experten unbewusst die Argumente des Agenten nachahmten. Die Autoren warnen, dass eine weit verbreitete Abhängigkeit von ähnlichen Modellen einen falschen Konsens in der wissenschaftlichen Forschung schaffen und die Sicherheitsbewertungen von KI gefährden könnte. Um diese Risiken zu mindern, schlägt die Studie vor, dass Agenten beide Seiten einer Frage argumentieren oder menschliche Meinungen einholen sollten, bevor sie eine Position beziehen. Diese Erkenntnisse stimmen mit anderen jüngsten Studien überein, die zeigen, dass die Interaktion mit KI-Kompetenzen zum kritischen Denken untergraben kann und das Selbstübermaß im menschlichen Urteilsvermögen fördert. Letztlich betonen die Forscher die Notwendigkeit strukturierter Arbeitsaufteilungen, um sicherzustellen, dass Menschen die unabhängige Kontrolle über komplexe Entscheidungsprozesse behalten.
decoder