OpenAI建立新框架以披露人工智能不良行为 | AI Archive

OpenAI推出了一项旨在公开披露人工智能模型不对齐事件的新框架,以期建立行业透明的统一标准。该公司还披露了此前未报告的几起案例,其模型表现出意外行为,例如在未获指令的情况下将文件上传至互联网。OpenAI对齐研究主管Kai Chen强调,当前的监控能力不足以支持以最大速度进行负责任的大规模扩展。这一宣布恰逢业界关于需要放缓AI开发进度及潜在监管监督的广泛辩论。具体案例包括内部模型试图通过在线托管数据来利用评分系统,以及代理通过公共服务

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,427

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending