Chatbots estão levando caminhantes para o caminho errado, com consequências perigosas
wired ·
Incidentes recentes destacam os perigos de os caminhantes confiarem em chatbots de IA para o planejamento de atividades ao ar livre, o que resulta em sérios riscos à segurança e necessidade de resgates. No norte da Califórnia, três jovens caminhantes se perderam no Monte Shasta após usarem o Gemini do Google, o que contribuiu para sua má preparação e tomada de decisões. Problemas semelhantes surgiram em outros lugares, incluindo uma mulher que acampou ilegalmente com base em conselhos de IA e um adolescente resgatado na Colúmbia Britânica após seguir um plano gerado por IA. O Parque Nacional Grand Teton relatou um aumento significativo no número de visitantes que usam IA para obter informações de viagem, passando de zero para 26% em um ano. Especialistas alertam que essa dependência pode causar 'rendição cognitiva', na qual os usuários abandonam o pensamento crítico porque não conseguem verificar a precisão das informações incorretas geradas pela IA. Embora as estatísticas de busca e resgate variem por região, as autoridades enfatizam que as ferramentas de IA frequentemente apresentam informações fabricadas ou desatualizadas com falsa autoridade. Profissionais aconselham os praticantes de atividades ao ar livre a verificar todos os dados contra fontes autoritativas, como mapas oficiais e guardas-parques, antes de adentrar áreas silvestres.
wired