Les chatbots égarent les randonneurs, avec des conséquences dangereuses
wired ·
Des incidents récents mettent en lumière les dangers pour la sécurité des randonneurs qui s'appuient sur des chatbots IA pour planifier leurs activités en plein air, entraînant des risques sérieux et des interventions de secours. En Californie du Nord, trois jeunes randonneurs se sont perdus sur le mont Shasta après avoir utilisé Gemini de Google, ce qui a contribué à leur mauvaise préparation et à leurs décisions hasardeuses. Des problèmes similaires ont été signalés ailleurs, notamment une femme ayant campé illégalement sur la base de conseils d'une IA et un adolescent secouru en Colombie-Britannique après avoir suivi un plan généré par l'IA. Le parc national de Grand Teton a enregistré une augmentation significative des visiteurs utilisant l'IA pour obtenir des informations de voyage, passant de zéro à 26 % en un an. Les experts mettent en garde contre ce type de dépendance, qui peut provoquer un « abandon cognitif », où les utilisateurs renoncent à leur esprit critique car ils ne peuvent pas vérifier l'exactitude des informations erronées générées par l'IA. Bien que les statistiques de recherche et de sauvetage varient selon les régions, les autorités soulignent que les outils d'IA présentent souvent des informations fabriquées ou obsolètes avec une fausse autorité. Les professionnels conseillent aux pratiquants de loisirs de double-vérifier toutes les données par rapport à des sources fiables, telles que les cartes officielles et les gardes-parc, avant de pénétrer dans les zones reculées.
wired