港中文提出 ReAgent:用“可解释奖励模型”重塑 Agent 强化学习,让推理过程本身成为监督信号

港中文提出 ReAgent:用“可解释奖励模型”重塑 Agent 强化学习,让推理过程本身成为监督信号 一句话总结本工作提出 ReAgent一个结合 Agent Reasoning Reward Model (Agent-RRM) 与 Agentic RL 的统一训练框架通过“推理轨迹 文本批评 连续评分”的多维奖励机制为智能体提供细粒度过程监督显著提升长链路工具使用与多步推理能力。 背景问题当前 Agent 强化学习方法大多依赖 稀疏的 outcome-based reward只看最终对错存在两方面核心瓶颈1️⃣ 仅用最终正确性打分无法区分“中间推理很好但最后一步错”和“全程错误”信用分配极其粗糙2️⃣ 现有 reward model 多为标量或 pairwise 偏好缺乏可解释、可操作的语言级反馈难以指导 agent 具体改进推理或工具调用策略。 方法简介提出 Agent-RRM ReAgent 的统一过程监督范式把奖励从“结果信号”升级为“推理信号”• 设计 Agent-RRM多维结构化反馈显式推理轨迹分析解释哪里错可操作文本批评告诉 agent 怎么改连续质量分数用于RL优化• 探索三种集成策略Reagent-C仅用文本 critique 做 inference-time refinement零训练纠错Reagent-R用 reasoning score 做 reward shaping密集奖励学习Reagent-U统一融合 critique score联合优化• 构建大规模训练数据709K RL 轨迹数据55.6K 高质量 SFT 轨迹28K/90K reward model 专用标注集形成“生成 → 评估 → 批评 → 强化”的闭环训练流程 实验结果在 12 个多类型 benchmark数学推理 / 知识检索 / Web Agent / 多模态工具上显著提升• GAIA43.7%• WebWalkerQA46.2%• Bamboogle76.8%• AIME2460.0%相比仅 rule-based reward 或 step reward 方法统一反馈的 Reagent-U 在 长链路、多工具、多步决策任务上全面领先表现更稳健、泛化更强✨ 一句话点评ReAgent 首次把 Reward Model 从“打分器”升级为“会思考、会批评的导师”让 Agent 不只知道“错了”更知道“为什么错、该怎么改”证明 过程级 reasoning reward 才是长程 Agent 强化学习的关键突破口。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】