Chatbots führen Wanderer in die Irre, mit gefährlichen Folgen
wired ·
Aktuelle Vorfälle verdeutlichen die Gefahren, die entstehen, wenn Wanderer sich bei der Outdoor-Planung auf KI-Chatbots verlassen, was zu ernsthaften Sicherheitsrisiken und Rettungseinsätzen führt. In Nordkalifornien gerieten drei junge Wanderer nach der Nutzung von Googles Gemini auf dem Mount Shasta in Notlage, was zu einer schlechten Vorbereitung und Entscheidungsfindung beitrug. Ähnliche Probleme traten an anderen Orten auf, darunter eine Frau, die illegal campen wollte aufgrund von KI-Ratschlägen, sowie ein Teenager, der in British Columbia nach einem von einer KI erstellten Plan gerettet wurde. Der Grand-Teton-Nationalpark verzeichnete einen deutlichen Anstieg der Besucher, die KI für Reiseinformationen nutzten; dieser stieg innerhalb eines Jahres von null auf 26 Prozent. Experten warnen vor einer sogenannten 'kognitiven Kapitulation', bei der Nutzer ihr kritisches Denken aufgeben, weil sie die Richtigkeit von durch KI generierten Fehlinformationen nicht überprüfen können. Während die Statistiken zur Suche und Rettung je nach Region variieren, betonen Behörden, dass KI-Tools oft erfundene oder veraltete Informationen mit falscher Autorität präsentieren. Fachleute raten Erholungssuchenden, alle Daten vor dem Betreten des Hinterlandes gegen autoritative Quellen wie offizielle Karten und Parkranger zu überprüfen.
wired