Mellum2.1 – JetBrains 开源的 AI 编程模型

发布于 2026-10-09 · Mellum2.1 是 JetBrains 推出的开源 AI 编程模型,采用 12B 混合专家架构。Mellum2.1强化学习从收尾环节变为训练主体,结合数百万次沙盒运行,模型能探索代码库、编辑文件、自查修改,智能体编程能力大幅提升。

Mellum2.1 是什么

Mellum2.1 是由 JetBrains 打造的开源 AI 编程编程模型,参数规模 12B,走混合专家路线。这一版最大的变化,是强化学习从收尾环节变成了训练主体,再结合数百万次沙盒运行,模型学会了探索代码库、编辑文件、自查修改,智能体编程能力明显上了一个台阶。高负载吞吐接近 Qwen3.5-9B 的两倍,支持私有化部署,已经上架 Hugging Face。

Mellum2.1

Mellum2.1 能做什么

  • 智能体编程:探索代码库、编辑文件、自查修改,能定位失败测试的根因,把修复方案起草出来再验证。
  • 代码补全与生成:延续 Mellum2 的定位,给编码工作流提供快速的代码生成与问答。
  • 工具调用:会调度外部工具把任务做完,适合拿来搭建 AI 智能体系统。
  • 通用推理:日常问答不在话下,数学和逻辑难题也能一步步推导演算。
  • 私有化部署:可以跑在本地或自有基础设施上,代码和数据全部留在企业内部。

Mellum2.1 的技术原理

  • 混合专家(MoE)架构:Mellum2.1 采用 12B 参数的混合专家架构,每次推理只激活 2.5B。模型由多个”;专家”;子网络拼成,输入经路由机制只分发给部分专家处理,容量保住了,计算量却大幅下降,用小开销换来高吞吐。
  • 大规模强化学习(RL):这版的核心升级在训练流程:RL 不再只是预训练后的短暂收尾,而是成了训练主体。团队新增了数学、竞赛编程、科学、工具使用和软件工程等任务,自建基础设施在训练期间拉起数百万个沙盒、覆盖数千个真实环境,让模型在与真实编码场景的交互中靠试错和奖励信号,习得探索、编辑、验证这些智能体技能。
  • 数据严格筛选:用到的开放数据集在入库前全部过滤过,测试有缺陷、答案不可验证或难度失当的任务都被剔除,保证 RL 训练信号可靠,不让模型从错误反馈里学习。
  • 多 Token 预测(MTP):MTP 让模型在单次前向传播里预测多个后续 Token。单请求场景下速度提升约 1.6 倍,再配上 MoE 的低激活参数设计,Mellum2.1 在高负载下的吞吐能接近 Qwen3.5-9B 的两倍。
竹江AI导航

Mellum2.1 怎么上手

  • 访问模型页面:去 Hugging Face 上的 JetBrains 官方组织页面,找到 Mellum2.1 模型仓库。
  • 下载模型权重:在模型卡页点击下载,或按许可条款拉取模型文件(有门槛的话要先同意使用协议)。
  • 选择部署框架:用 Transformers 或 vLLM 部署:前者适合简单验证,后者适合生产级高并发服务。
  • 配置推理环境:备好 GPU 环境(官方基准基于单张 H200),加载模型并把上下文设到 131K。
  • 启用加速选项:按官方指引开启多 Token 预测(MTP),单请求速度大约能提升 1.6 倍。
  • 发起推理调用:通过 API 发送代码生成、仓库级编辑或智能体任务的提示词,获取模型输出。

Mellum2.1 强在哪

  • 智能体编程能力突出:在真实环境里经过大规模 RL 训练,能自主探索代码库、编辑文件并验证修改,定位测试失败根因后还能起草修复方案。
  • 推理速度行业领先:高负载下吞吐接近 Qwen3.5-9B 的两倍,在同级模型里跑得最快。
  • 单请求响应快:多 Token 预测(MTP)把单请求速度提升了约 1.6 倍。
  • 架构高效:12B MoE 设计只激活 2.5B 参数,用低算力成本换来高性能。
  • 训练数据质量高:训练数据全部经过严格筛选,缺陷任务被剔除,学习信号靠得住。
  • 综合能力强:编程、竞赛编程、数学、工具调用、通用知识几个维度一起变强。
  • 私有化部署友好:本地或自有基础设施都能跑,代码与数据完全自主可控,适合企业的敏感场景。

Mellum2.1 的项目地址

  • 项目官网:https://blog.jetbrains.com/ai/2026/10/mellum2-1-gets-to-work-a-fast-open-model-for-coding-agents/
  • HuggingFace模型库:https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking

Mellum2.1 与同类竞品对比

对比维度 Mellum2.1(JetBrains) Qwen3.5-9B(阿里)
模型架构 12B 混合专家(MoE),激活 2.5B 9B 稠密架构
核心定位 主打编码智能体与子智能体,适合私有化部署 通用大模型,代码能力顺带兼顾
智能体编程 强项:能探索代码库、编辑文件、自查修改,还能定位测试失败根因 有工具调用能力,不过官方没有主打仓库级智能体操作
训练方式 强化学习是训练主体,跑过数百万次真实沙盒环境 常规预训练加后训练,未公开同规模的 RL 沙盒训练
推理速度 高负载吞吐约为 Qwen3.5-9B 的两倍,单请求靠 MTP 提升约 1.6 倍 作为基准参照,吞吐相对低一些
多 Token 预测 内置 MTP,vLLM 的推测解码头也快上线 未见同等的公开 MTP 能力
综合性能 编程、数学、竞赛、工具调用、通用知识全面往上走 通用能力不错,各项都是 Mellum2.1 的对比基准
生态背景 背靠 JetBrains IDE 生态(IntelliJ/PyCharm),还能与 Codex 等互补 依托阿里通义生态,Qwen 系列社区很大

哪些场景适合用 Mellum2.1

  • 智能体编程:自主探索代码库、编辑文件并验证修改,从定位测试失败到修复全程自己走完。
  • 企业私有化助手:部署在企业本地服务器上,代码和数据一步不出内网。
  • IDE 深度集成:嵌进 JetBrains 系列 IDE 或第三方工具,做代码补全和智能问答。
  • 子智能体调度:靠低延迟、高吞吐的底子,在多智能体系统里执行子任务或做请求路由。
  • 数学逻辑推理:数学解题、算法竞赛、日常问答都能接,通用助手的活儿也不落下。
0

相关文章

0 条评论

后参与评论

暂无评论,来抢沙发。