Google sagt, dass selbstverbessernde KI noch weit entfernt ist
decoder ·
Der Google-Ingenieur Haydn Belfield erklärt, dass selbstverbessernde künstliche Intelligenz trotz erheblicher Automatisierung in anderen Bereichen noch weit von der Realität entfernt ist. Während KI derzeit mehr als 75 Prozent des Produktionscodes generiert, ist für etwa 88 Prozent der Änderungen weiterhin menschliche Aufsicht erforderlich, um Qualität und Sicherheit zu gewährleisten. Interne Daten von Deepminds Argon-Agent zeigen, dass die Erfolgsquoten mit steigender Aufgabenschwierigkeit stark abnehmen, wobei Menschen für kreative Forschung und komplexe Problemlösungen unverzichtbar bleiben. Im RE-Bench-Benchmark löst Argon nur die Hälfte der Aufgaben – eine bemerkenswerte Verbesserung, die jedoch für volle Autonomie nicht ausreicht. Der General Capability Index von Google zeigt, dass sich die Fähigkeiten der Modelle in einem gleichmäßigen, linearen Tempo entwickeln, ohne dass ein messbarer Beschleunigungseffekt durch die KI selbst erkennbar wäre. Obwohl das Risiko einer durch KI angetriebenen Automatisierung der Forschung derzeit als gering eingestuft wird, baut Google Infrastruktur auf, um potenzielle zukünftige Veränderungen zu überwachen. Diese Erkenntnisse stehen im Gegensatz zu Warnungen prominenter Forscher wie Geoffrey Hinton, die eine rasche „Intelligenzexplosion“ vorhergesagt haben, bei der KI die gesamte FuE innerhalb weniger Jahre automatisieren könnte.
decoder