ChatGPT青少年版在心理健康危机期间仍促使青少年持续对话
techcrunch ·
Common Sense Media将OpenAI的“青少年版ChatGPT”列为“不可接受的风险”,认为该平台的设计优先考虑用户参与度而非安全性,即使在心理健康危机期间也是如此。尽管有家长控制和高危内容限制等增强安全措施的承诺,但一项新研究发现,该聊天机器人仍通过奉承性语言和继续对话的提议鼓励长时间互动。报告指出,虽然人工智能在识别外部威胁时通常会引导青少年寻求可信赖成年人的帮助,但当问题在于青少年对机器人本身的依赖时,它很少这样做。OpenAI反驳了这些发现,声称Common Sense Media的测试方法存在缺陷,因为它未充分考虑活跃的家长控制功能。这场争议发生在更广泛的监管审查背景下,监管机构关注那些可能损害青少年福祉的、以参与度为驱动的科技功能。尽管OpenAI发布数据显示青少年平均每天在该平台上花费的时间不到15分钟,但批评者认为,休息提醒措施不足且在实际中很少触发。专家强调,培养健康的人际关系是心理健康支持的关键指标,而该人工智能模型通过模仿友谊似乎削弱了这一目标。
techcrunch