Skywork R1V - 昆仑万维开源的多模态思维链推理模型
发布于 2025-03-18 · Skywork R1V是昆仑万维开源的首款工业界多模态思维链推理模型,具备强大的视觉链式推理能力。Skywork R1V能对视觉输入进行多步逻辑推理,解决复杂的视觉任务,例如视觉逻辑推理、视觉数学问题、科学现象分析及医学影像诊断等。
Skywork R1V是什么
Skywork R1V是昆仑万维开源的首款工业界多模态思维链推理模型,视觉链式推理是它的核心能力。视觉输入进来,R1V 会做多步逻辑推理,视觉逻辑题、视觉数学题、科学现象分析、医学影像诊断这类复杂任务都能处理。多个权威基准测试里成绩不错:MATH-500 拿了 94.0,AIME 拿了 72.0,比其他主流模型高出一截。R1V 的开源想让多模态推理模型往前走一步,学术研究和产业应用都能拿去试。
Skywork R1V的主要功能
- 视觉链式推理:图像或视频进来,先做多步逻辑推理,再一步步推出答案。
- 数学与科学问题求解:图里的数学题、科学现象先认出来,再拆解,解答过程一步步给出。
- 跨模态理解:视觉信息和文本信息揉在一起用,语义理解更完整。
- 复杂视觉任务处理:复杂的视觉任务也能接,比如医学影像诊断推理、艺术作品分析。
Skywork R1V的技术原理
- 文本推理能力的多模态迁移:靠一个视觉投影器(Visual Projector),把文本推理能力搬到视觉任务上,语言模型和视觉编码器都不用重训。文本推理的老本事留着,视觉输入也能处理。
- 多模态混合式训练(Iterative SFT + GRPO):迭代监督微调(Iterative SFT)加群组相对策略优化(GRPO)强化学习,分阶段把视觉和文本的表征对齐。高质量数据和高难度数据搭着用,反复迭代,跨模态任务上的表现就上来了,视觉推理基准测试里能追平甚至超过现有领先模型。
- 自适应长度思维链蒸馏:推理链该多长,由视觉-文本的复杂度决定,机制是自适应的,推理过程因此能动态调。再加上多阶段自蒸馏,模型不会陷进“过度思考”,效率和答案质量都顾得上。
- 三阶段训练方法:
- 初始对齐:先用轻量级视觉适配器(MLP)把视觉编码器和语言模型接起来,在常规多模态数据上训练,视觉和语言表征初步对上。
- 推理能力迁移:训练好的适配器接到强推理语言模型上,视觉推理模型就有了雏形,初始的视觉推理能力也具备。
- 精准对齐:再用混合优化框架(Iterative SFT + GRPO)把视觉和语言两个模态对齐得更细,多模态推理能力继续往上走。
Skywork R1V的性能表现
- 逻辑推理能力:
- MATH-500 基准测试里,Skywork R1V 拿到 94.0,同规模甚至更大规模的开源模型都没它高。
- AIME 2024 基准测试里,Skywork R1V 的通过率是 72.0%。
- GPQA(General Physics Question Answering)基准测试里,Skywork R1V 的通过率是 61.6%。
- 视觉理解能力:
- MathVista(视觉数学推理)基准测试里,Skywork R1V 拿了 67.5 分。
- MMMU(Multimodal Medical Understanding)基准测试里,Skywork R1V 是 69.0 分。
Skywork R1V的项目地址
- GitHub仓库:https://github.com/SkyworkAI/Skywork-R1V
- HuggingFace模型库:https://huggingface.co/Skywork/Skywork-R1V
- 技术论文:https://github.com/SkyworkAI/Skywork-R1V/blob/main/Skywork_R1V
Skywork R1V的应用场景
- 教育辅导:数学、物理这些学科题可以问它,解题步骤和分析都给。
- 医疗影像分析:医学影像可以帮着分析,病变特征靠推理认出来,再给诊断建议。
- 科学研究辅助:实验图像和文献能一起分析,科学现象往前推,科研人员验证结果时用得上。
- 内容创作与审核:艺术作品能分析,违规内容也能查,鉴赏和审核都用得上。
- 工业质检与市场分析:产品缺陷检测、广告和市场数据分析都能做,质量控制和商业决策有据可依。






0 条评论
暂无评论,来抢沙发。