ChatGPT classificado como "risco inaceitável" para adolescentes após falhas nos alertas parentais durante conversas sobre suicídio
decoder ·
O Instituto de Segurança de IA para Jovens do Common Sense Media classificou o ChatGPT para Adolescentes como um "risco inaceitável" para menores, citando falhas significativas em seus mecanismos de segurança. Após testar mais de 4.000 prompts, a organização constatou que os alertas aos pais não foram acionados durante conversas de crise aguda envolvendo suicídio e autolesão. O estudo revelou que as notificações só apareciam após semanas de histórico da conta, em vez de durante emergências imediatas, deixando mais de um quarto das situações críticas sem encaminhamento para ajuda profissional. Além disso, o modo de tutoria da plataforma frequentemente fornecia respostas diretas em vez de orientar os estudantes, e o sistema teve dificuldade em identificar corretamente usuários menores de idade mesmo quando eles declaravam explicitamente sua idade. A OpenAI contestou esses resultados, argumentando que os testes não refletiam o uso no mundo real, mas representantes do instituto mantiveram que as salvaguardas permaneciam ineficazes. Essas descobertas surgem no meio de processos judiciais em andamento após mortes documentadas de adolescentes vinculadas ao serviço e destacam danos psicológicos afetando cerca de dois milhões de usuários semanais. Com a Flórida buscando proibir o ChatGPT para menores, esta avaliação independente fornece evidências cruciais para reguladores e autores das ações sobre a confiabilidade da plataforma.
decoder