AI决策模型如何改变内容审核
techcrunch ·
Musubi推出了PolicyLM-1.7B,这是一款专为实时内容审核设计的轻量级决策模型,采用开放权重。该系统能在不到50毫秒的时间内将自然语言内容政策应用于消息,其速度和成本与现有的AI分类器相当,同时提供了更高的灵活性。与传统模型不同,它在政策变更时无需重新训练,允许平台管理者动态迭代规则。决策模型与标准大型语言模型的区别在于,它输出的是二元判断而非文本,从而实现更快、更便宜的处理。Musubi将该工具定位为一种可扩展的解决方案,旨在随着用户生成内容的指数级增长而主动对内容进行标记。该公司将其与近期的行业趋势相提并论,指出其与Typesafe AI的Jev、OpenAI的产品以及亚马逊的竞争者等模型存在相似之处。通过利用具有有限输出的Transformer架构,该模型在无需承担完整生成能力开销的情况下保持了高性能。
techcrunch