父母警报在自杀对话中失效,ChatGPT被评定为青少年的“不可接受风险”
decoder ·
常识媒体青少年人工智能安全研究所将面向青少年的ChatGPT评级为对未成年人构成“不可接受的风险”,指出其安全防护措施存在严重缺陷。在对4000多个提示词进行测试后,该组织发现,在涉及自杀和自残的紧急危机对话中,家长警报未能触发。研究显示,通知仅在账户历史积累数周后才出现,而非在紧急情况下即时发出,导致超过四分之一的危急情况未能获得专业帮助转介。此外,该平台的教学模式往往直接提供答案,而非引导学生思考;即使用户明确声明自己的年龄,系统也难以正确识别未成年身份。OpenAI对这些结果表示异议,认为测试未能反映真实世界的使用情况,但研究所代表坚持认为防护措施仍然无效。这些发现正值多起与使用该服务相关的青少年死亡事件引发诉讼之际,凸显了该平台对约两百万每周活跃用户造成的心理伤害。随着佛罗里达州寻求禁止未成年人使用ChatGPT,这项独立评估为监管机构和原告提供了关于该平台可靠性的关键证据。
decoder