R2来袭？DeepSeek与清华联手，开启大模型推理新时代

原创木冉 MGClouds蘑菇云

近日，中国AI企业深度求索（DeepSeek）与清华大学研究团队联合发布了一篇题为《奖励模型的推理时Scaling方法及其在大规模语言模型中的应用》的重磅论文，提出自我原则点评调优（SPCT）与元奖励模型（Meta Reward Model）两项核心技术，标志着大语言模型（LLM）推理能力优化的范式转变。

这篇学术论文发表在在线科学论文存储库arXiv上（点击“阅读原文”可以查看及下载）这项成果被视为DeepSeek下一代推理模型R2的重要技术铺垫，更被业界视为推动通用人工智能（AGI）进程的关键突破，引发全球AI界高度关注。

AI大模型DeepSeek/《南华早报》新闻报道图片

两项核心技术的原理

（一）自我原则点评调优

传统强化学习（RL）依赖固定规则或人工标注的奖励信号，但面对复杂场景时，模型往往难以灵活适应。SPCT的核心思想是让模型在推理过程中动态生成评判原则，并基于这些原则优化输出，从而实现“边推理边学习”的闭环。

技术实现分为两阶段：

1、拒绝式微调（Rejective Fine-Tuning）：通过筛选高质量数据冷启动，确保模型初步生成的原则与点评符合基本逻辑。例如，在数学推理任务中，模型会剔除错误答案或过于简单的样本，仅保留有效轨迹进行训练。

2、基于规则的强化学习（Rule-based RL）：引入动态奖励机制，模型根据生成的原则和点评内容实时调整策略。例如，在代码生成任务中，若模型输出的原则未能正确区分最优解，系统会通过对比真实奖励信号进行参数优化，逐步提升推理精度。

优势对比传统方法：

1、灵活性：传统RM（奖励模型）依赖预定义规则，而SPCT允许模型根据输入动态生成原则，适应多样化场景。

2、效率提升：实验显示，SPCT在GSM8K数学推理测试中准确率提升12%，代码生成成功率提高19%，且训练成本仅为同类模型的1/5。

（二）元奖励模型

在复杂任务中，单次奖励信号可能因噪声或偏见导致评估偏差。元奖励模型通过多层级投票机制，整合多个奖励信号，筛选出最优解。其核心流程包括：

1、多原则生成与投票：模型针对同一问题生成多个原则和点评，通过求和或加权计算综合得分。

2、低质量样本过滤：元奖励模型对生成的奖励进行二次评估，剔除低质量或存在偏见的样本，确保最终输出的可靠性。

实验效果：

在Reward Bench基准测试中，采用元奖励模型的DeepSeek-GRM-27B性能超越GPT-4o等主流模型。

结合推理时扩展（如32次采样投票），模型性能可达到与参数量10倍于自身的MoE模型相当的水平，验证了“轻量模型+高效扩展”路线的可行性。

论文图表1截图

两项核心技术的优势

（一）突破传统训练范式

传统大模型依赖训练阶段的参数调整，而SPCT实现了推理阶段的实时优化。例如，在处理长文本时，模型可通过动态生成原则，自适应调整生成策略，无需重新训练即提升任务表现。

（二）成本与性能的“双重革命”

1、低成本训练：采用FP8混合精度与多令牌预测技术，DeepSeek-GRM的训练成本仅为同类模型的1/5。

2、高效推理：通过元奖励模型的投票机制，仅需8次采样即可达到最优性能，大幅降低计算资源消耗。

（三）开源生态的“催化剂”

论文中公布的框架可直接应用于现有模型升级。例如，基于Gemma-2-27B微调的DeepSeek-GRM-27B已开源，为开发者提供了低门槛优化工具。清华大学教授沈阳评价称，该技术“加速了AI技术民主化进程”。

论文图表2截图

R2模型的猜想

关于R2的发布，各媒体都有不同的猜测，比如，路透社3月曾报道称，DeepSeek的R2最快可能在4月发布，而DeepSeek曾在3月辟谣“3月17日发布R2”的传闻，但此次论文发布恰逢传闻中的4-5月窗口期，因此，业内普遍认为R2或于2025年第二季度亮相。

虽然此次发布的论文未明确提及R2，但多方线索表明其即将面世：一是SPCT与元奖励模型的负载均衡策略，与DeepSeek前代模型R1的知识蒸馏技术一脉相承，为迭代奠定基础。二是OpenAI近期宣布将开源推理模型，被解读为应对R2的竞争压力。

（一）R2可能具备的优势预测

1、推理能力跃升

传统模型局限：DeepSeek R1依赖强化学习（RL）和人类反馈（RLHF），需大量人工标注，且在复杂推理任务中易陷入局部最优。

R2突破：SPCT让模型自主生成评价原则，实现“理解问题→动态分析→优化输出”的闭环，在数学竞赛类任务中超越GPT-4o。

2、成本效率革命

训练成本对比：R1的671B模型训练成本高昂，而R2的27B模型通过SPCT和Meta Reward Model，在相同任务中性能更优且成本降低80%。

硬件适配：R2支持FP8混合精度训练和多令牌预测技术，可在消费级GPU（如RTX3090）上流畅运行，大幅降低算力门槛。

3、泛化能力增强

多模态扩展：R2的元奖励模型框架可直接应用于图像、视频生成任务，实现“文本+视觉”的联合推理。

实时学习机制：在对话场景中，R2可“边推理边更新”，持续优化模型表现，适用于金融、医疗等对实时性要求高的领域。

（二）R2可能带来的对AI行业的冲击

1、技术路线变革：R2的“推理时Scaling”策略挑战传统“参数规模决定性能”的范式，可能引发行业对模型效率的重新评估。

2、应用场景拓展：R2的低成本和高泛化能力将推动AI在中小企业的普及，加速金融、制造、教育等领域的智能化转型。

论文图表3截图

畅想R2之后的AI新图景

（一）技术融合趋势

1、多模态深度融合：R2的元奖励模型框架可扩展至图像、语音等多模态任务，实现“跨模态推理-评价-优化”的全流程闭环。

2、边缘智能普及：R2的轻量化设计（如7B蒸馏版）将推动AI在物联网设备、自动驾驶等边缘场景的应用。

（二）伦理与治理挑战

1、生成内容标识：中国《人工智能生成合成内容标识办法》要求AI生成内容必须标注，R2需在技术层面实现隐式标识与显式标识的双重支持。

2、安全可控：DeepSeek通过元奖励模型动态拦截有害输出，在提升性能的同时保障模型安全性，为AI伦理治理提供技术参考。

推荐阅读

‍‍‍风物长宜放眼量：蘑菇云2024年工作总结暨新年贺词

2025年美国AI生成作品版权报告解析‍

‍‍‍‍3900万密钥泄露后,GitHub全面升级安全平台‍

阅读原文

继续滑动看下一个