将数据库评分转化为强化学习奖励:使用ThinkingBox进行后训练智能体
huggingface ·
微软和Hugging Face发布了ThinkingBox-Training,这是一个将数据库状态验证转化为AI智能体强化学习奖励的框架。该系统通过将终端数据库状态的执行检查作为二元奖励,训练模型确保其产生正确的最终结果,而不仅仅是模仿工具调用。作者使用组相对策略优化(GRPO)在50个步骤中对Qwen3.8-27B进行了微调。这种训练显著提高了模型的可靠性,使模型在所有20次尝试中均成功完成任务的比例从7.5%提升至21.1%。虽然平均成功率上升了近9个百分点,但至少解决过一次的任务比例略有下降,表明性能变得更加稳定。团队利用离线策略相对难度估计筛选出187个具有挑战性的任务用于训练,完全排除了基准测试数据。结果显示,与基础版本相比,微调后的模型每完成一个可靠任务的成本更低,接近大型专有模型的效率。
huggingface