Vergiss die Verlangsamung der KI – die Schwachstellen-Explosion ist bereits im Gange
wired ·
Der Artikel argumentiert, dass eine mögliche branchenweite Verlangsamung der Entwicklung von Frontier-KI den bereits durch breit verfügbare KI-Tools, einschließlich Open-Weight-Modellen, angetriebenen Anstieg von Sicherheitslücken nicht stoppen würde. Forschende, die KI einsetzen, entdecken Softwarefehler in rasant zunehmendem Tempo und setzen damit unterbesetzte IT- und Sicherheitsteams sowie Betreuer von Open-Source-Projekten zusätzlich unter Druck. Genannt werden 974 CVEs, die Microsoft bislang im September behoben hat, 1.448 Oracle-Patches im Juli gegenüber 309 im Vorjahr sowie 1.072 Fehlerbehebungen in zwei Chrome-Veröffentlichungen im Juni. Mozilla entdeckte außerdem bei einem einzigen KI-unterstützten Sprint zur Fehlersuche 271 Sicherheitslücken in Firefox. Das Projekt cve.icu verzeichnete bis zum 16. September 66.401 CVEs, gegenüber 33.512 am selben Datum des Vorjahres und 25.000 im gesamten Jahr 2022. Experten sind uneins, ob der Anstieg eine Katastrophe darstellt; Jerry Gamblin betont, dass mehr CVEs mehr bekannte Sicherheitslücken bedeuten, nicht zwangsläufig mehr Sicherheitslücken. Die zentrale Sorge ist, dass KI dazu führen könnte, dass das Entdecken von Schwachstellen dem Beheben davonläuft, und Angreifern dabei helfen könnte, neuartige Fehler zu finden. Forschende sehen derzeit jedoch ein fragiles Gleichgewicht zwischen KI-unterstützten Angriffen und der Verteidigung. Welche Regulierung oder Branchenvereinbarung auch immer zustande kommt, so das Fazit des Artikels, sie kann die Welle von Sicherheitslücken, die durch bereits vorhandene KI-Fähigkeiten ermöglicht wurde, nicht rückgängig machen.
wired