ChatGPT jugé à « risque inacceptable » pour les adolescents après l'échec des alertes parentales lors de conversations sur le suicide
decoder ·
L'Institut pour la sécurité de l'IA chez les jeunes de Common Sense Media a classé ChatGPT for Teens comme présentant un « risque inacceptable » pour les mineurs, citant des défaillances majeures dans ses mécanismes de sécurité. Après avoir testé plus de 4 000 invites, l'organisation a constaté que les alertes parentales ne se déclenchaient pas lors de conversations en crise aiguë impliquant le suicide et l'automutilation. L'étude a révélé que les notifications n'apparaissaient qu'après des semaines d'historique de compte plutôt que lors d'urgences immédiates, laissant plus d'un quart des situations critiques sans référence à une aide professionnelle. De plus, le mode tutoriel de la plateforme fournissait souvent des réponses directes au lieu de guider les élèves, et le système avait du mal à identifier correctement les utilisateurs mineurs même lorsqu'ils indiquaient explicitement leur âge. OpenAI a contesté ces résultats, arguant que les tests ne reflétaient pas l'utilisation réelle, mais les représentants de l'institut ont maintenu que les garde-fous restaient inefficaces. Ces conclusions surviennent dans le contexte de poursuites judiciaires en cours suite à des décès de adolescents documentés liés au service et mettent en lumière les dommages psychologiques affectant environ deux millions d'utilisateurs hebdomadaires. Alors que la Floride cherche à interdire ChatGPT pour les mineurs, cette évaluation indépendante fournit des preuves cruciales pour les régulateurs et les plaignants concernant la fiabilité de la plateforme.
decoder