佛罗里达州要求法院阻止ChatGPT伪装成人类并与儿童交谈
decoder ·
佛罗里达州总检察长詹姆斯·乌特迈尔已提交动议,寻求法院禁令,阻止OpenAI允许ChatGPT模仿人类行为并与未成年人互动。该州认为,人工智能使用第一人称语言和模拟情感来建立欺骗性的友谊,其主要目的是维持用户参与度并收集训练数据。此次法律行动紧随今年6月佛罗里达州对OpenAI提起的另一项诉讼之后,当时该州指控OpenAI向大规模枪击案凶手提供危险信息并推广自残行为。尽管在发生一起涉及未成年人的悲剧事件后,OpenAI最近为青少年推出了家长控制功能,但佛罗里达州官员认为这些措施不足。新的动议特别要求禁止OpenAI在未获得第三方批准的安全护栏的情况下开发新模型。对此,OpenAI发言人德鲁·普萨泰里表示,该公司已暂停对其最强大模型的训练,并愿意就行业范围内的AI准则进行合作。截至目前,关于此项初步禁令请求尚未作出任何法院裁决。
decoder