Phi-4-reasoning - 微软推出的Phi-4推理模型系列
发布于 2025-05-05 · Phi-4-reasoning 是微软推出的 140 亿参数的推理模型,专为复杂推理任务设计。通过监督微调(SFT)训练而成,使用了 OpenAI 的 o3-mini 模型生成的高质量推理演示数据。模型能生成详细的推理链,在推理时有效利用计算资源。
Phi-4-reasoning是什么
Phi-4-reasoning 是微软推出的 140 亿参数推理模型,冲着复杂推理任务去的。训练方式是监督微调(SFT),用的是 OpenAI 的 o3-mini 生成的高质量推理演示数据。模型会写出详细的推理链,推理时把算力用在该用的地方。 多项基准测试里,Phi-4-reasoning 的成绩超过了一些参数更大的模型,比如 DeepSeek-R1-Distill-Llama-70B;数学推理、科学问题、编程、算法题这些领域表现都不错。Phi-4-reasoning-plus 是在它基础上用强化学习再优化过的版本,推理更强。Phi-4-mini-reasoning 则是个 38 亿参数的紧凑型推理模型,给资源受限的环境用,比如移动设备或边缘计算,微调数据由 DeepSeek-R1 生成。
Phi-4-reasoning的主要功能
- 强大的复杂推理能力:Phi-4-reasoning 能处理需要多步骤拆解、内部反思的复杂任务,数学推理、科学问题、编程和算法题都做得不错。
- 生成详细推理链:监督微调(SFT)训练出来的,推理链写得详细,推理阶段的算力用得足,准确性和效率都跟着上去。
- 高效利用计算资源:Phi-4-reasoning 靠推理时间扩展技术(inference-time scaling),推理过程中能动态多给算力,难题就啃得动。
- 教育与辅导应用:Phi-4-reasoning 覆盖中学到博士级别的数学问题,教育场景里的嵌入式辅导、低延迟应用合适。
- 轻量级部署:Phi-4-mini-reasoning 是系列里的紧凑版,专为资源受限的环境设计,移动设备、边缘计算都能部署。
- 多领域适应性:数学和科学推理之外,Phi-4-reasoning 在通用能力测试里也不差:长输入上下文问答、指令遵循、编程、知识与语言理解都算在内。
Phi-4-reasoning的技术原理
- 监督微调(SFT):Phi-4-reasoning 是在 Phi-4 基础上训出来的。做法是把两个占位符重新分配成“思考”和“结束思考”标记,用来容纳额外的推理标记,模型支持的最大标记长度也从 16K 扩到 32K。训练数据有合成生成的长链思考推理痕迹和高质量答案,数学、编程、安全这些领域都覆盖。大约 16K 步训下来,模型慢慢学会了用“思考”标记,推理能力也跟着涨。
- 强化学习(RL):Phi-4-reasoning-plus 用基于结果的强化学习把推理再推高一层。这块训练盯着数学,种子数据集是 72,401 个数学问题;奖励函数奖励正确、惩罚重复和过长这类毛病,也鼓励把回答格式写对。
- 数据方法论:Phi-4-reasoning 的训练数据讲究策划,一部分是创意设计的合成生成,一部分是筛选过的有机数据。种子库从各种网络资源里收题,再用 LLM 评估和过滤,需要复杂多步推理的提示优先。数据还做了完整的去污染,免得把常用推理基准给“泄”了。
Phi-4-reasoning的项目地址
- HuggingFace模型库:https://huggingface.co/collections/microsoft/phi-4
- arXiv技术论文:https://arxiv.org/pdf/2504.21318
Phi-4-reasoning的应用场景
- 教育与研究:Phi-4-reasoning 和 Phi-4-mini-reasoning 都挺适合教育领域,初中到博士级别的数学和科学问题都能解。
- 复杂业务决策支持:Phi-4-reasoning-plus 靠强化学习把推理又拉高了一截,需要高准确性的关键业务决策系统用它合适;多步骤的复杂任务它能处理,给出的方案也比较精确。
- 编程与算法问题解决:在编程和算法问题解决方面,Phi-4-reasoning 表现不错,推理链和解决方案都写得细,开发环境里的代码辅助、算法优化用得上。
- 轻量级部署与移动设备:Phi-4-mini-reasoning 是紧凑型推理模型,给算力受限的环境用,移动设备、边缘计算都算。
- 代理型应用的核心引擎:Phi-4-reasoning 系列可以作为代理型应用(agentic applications)的核心引擎,处理复杂的多方面任务。






0 条评论
暂无评论,来抢沙发。