Skywork-SWE-32B - 昆仑万维开源的自主代码智能体基座模型

Skywork-SWE-32B是什么

Skywork-SWE-32B 是昆仑万维开源的 32B 软件工程（SWE）自主代码智能体基座模型，主攻仓库级代码修复。多轮交互、长文本这些复杂场景，它应付得下来。团队攒了超过 1 万个可验证的 GitHub 仓库任务实例，做成目前规模最大的可验证仓库级代码修复数据集；SWE-bench Verified 上 pass@1 准确率 38.0%，刷新了同参数规模模型的最好成绩。再加测试时扩展技术，准确率能到 47.0%，32B 以下的开源模型基本都被超过，部分闭源模型的水平也够得着。

Skywork-SWE-32B的主要功能

• 仓库级代码修复：GitHub 仓库里的问题（比如 Bug）先定位，再写修复代码，最后验证效果，从看懂问题到解决走完一整圈。
• 多轮交互能力：交互能撑 50 轮以上，真实开发里那种反复调试、反复修的过程能模拟出来。
• 长文本处理：长文本能处理 32k tokens 以上，复杂代码文件和多文件依赖都装得下。
• 自动化验证：每个任务配专用运行时环境，加上单元测试验证，修好的代码在实际运行环境里管不管用，一试就知道。

Skywork-SWE-32B的技术原理

• 大规模数据集构建
  • 自动化数据收集与验证：三阶段自动化流程走下来——数据采集与预筛选、基于执行的验证、智能体轨迹生成——最后得到 10,169 个真实 Python 任务实例，覆盖 2,531 个不同的 GitHub 仓库。
  • 运行时环境支持：每个任务实例配一个专用 Docker 运行时镜像，单元测试自动跑，修复代码是否真管用能被验证。
  • 高质量训练轨迹：智能体解题时的多轮交互轨迹被拿来当训练样本，质量不错，直接用于微调。
• 模型训练与优化
  • 基于OpenHands框架：用的是 OpenHands 代码智能体框架，多轮交互、长文本都支持，真实开发里的修代码流程能模拟。
  • 数据缩放定律：系统验证下来发现，训练数据越多模型性能越好，数据缩放定律在软件工程任务里同样成立。
  • 测试时扩展技术（TTS）：推理阶段把独立 rollout 的数量加上去（比如 N=8），模型的推理能力用得更充分，性能还能再涨。

Skywork-SWE-32B的项目地址

• HuggingFace模型库：https://huggingface.co/Skywork/Skywork-SWE-32B
• 技术论文：https://huggingface.co/Skywork/Skywork-SWE-32B/resolve/main/assets/Report.pdf

Skywork-SWE-32B的应用场景

• 优化代码质量：代码里的潜在问题能挑出来，优化建议也提得具体，质量和可维护性都能往上走。
• 单元测试自动化：Skywork-SWE-32B 靠专用运行时环境加单元测试，测试用例自动跑，生成的修复代码有没有效果一目了然。
• 教学辅助：软件工程和编程课上，Skywork-SWE-32B 可以当教学工具，代码问题怎么一步步解决，学生看得见，编程能力也跟着长。
• 研究支持：研究人员拿它当实验平台，试大语言模型在软件工程任务里的表现，验证数据缩放定律这类理论。
• 内部开发工具：企业可以把 Skywork-SWE-32B 接进内部开发工具，代码问题自动处理，人工少插手，开发效率和代码质量都能提。