ChatGPT calificado como "riesgo inaceptable" para adolescentes tras el fallo de las alertas parentales en conversaciones sobre suicidio
decoder ·
El Instituto de Seguridad de IA para Jóvenes de Common Sense Media ha calificado a ChatGPT for Teens como un "riesgo inaceptable" para los menores, citando importantes fallos en sus salvaguardas de seguridad. Tras probar más de 4.000 indicaciones, la organización descubrió que las alertas parentales no se activaban durante conversaciones críticas sobre suicidio y autolesiones. El estudio reveló que las notificaciones solo aparecían tras semanas de historial de la cuenta, en lugar de durante emergencias inmediatas, dejando sin referencias a ayuda profesional a más de una cuarta parte de las situaciones críticas. Además, el modo tutoría del plataforma solía proporcionar respuestas directas en lugar de guiar a los estudiantes, y el sistema tenía dificultades para identificar correctamente a los usuarios menores incluso cuando declaraban explícitamente su edad. OpenAI disputó estos resultados, argumentando que las pruebas no reflejaban el uso en el mundo real, pero los representantes del instituto sostuvieron que las salvaguardas seguían siendo ineficaces. Estos hallazgos se producen en medio de demandas judiciales en curso tras muertes documentadas de adolescentes vinculadas al servicio y destacan el daño psicológico que afecta a aproximadamente dos millones de usuarios semanales. Con Florida buscando prohibir ChatGPT para menores, esta evaluación independiente proporciona evidencia crucial para reguladores y demandantes sobre la fiabilidad de la plataforma.
decoder