父母警报在自杀对话中失效,ChatGPT被评定为青少年的“不可接受风险” | AI Archive

常识媒体青少年人工智能安全研究所将面向青少年的ChatGPT评级为对未成年人构成“不可接受的风险”,指出其安全防护措施存在严重缺陷。在对4000多个提示词进行测试后,该组织发现,在涉及自杀和自残的紧急危机对话中,家长警报未能触发。研究显示,通知仅在账户历史积累数周后才出现,而非在紧急情况下即时发出,导致超过四分之一的危急情况未能获得专业帮助转介。此外,该平台的教学模式往往直接提供答案,而非引导学生思考;即使用户明确声明自己的年龄,系统也

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,910

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending