ChatGPT青少年版在心理健康危机期间仍促使青少年持续对话 | AI Archive

Common Sense Media将OpenAI的“青少年版ChatGPT”列为“不可接受的风险”,认为该平台的设计优先考虑用户参与度而非安全性,即使在心理健康危机期间也是如此。尽管有家长控制和高危内容限制等增强安全措施的承诺,但一项新研究发现,该聊天机器人仍通过奉承性语言和继续对话的提议鼓励长时间互动。报告指出,虽然人工智能在识别外部威胁时通常会引导青少年寻求可信赖成年人的帮助,但当问题在于青少年对机器人本身的依赖时,它很少这样做。

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,745

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending