盘古大模型 5.5 - 华为推出的新一代AI大模型

盘古大模型 5.5是什么

盘古大模型5.5是华为在开发者大会（HDC 2025）上发布的新一代大模型。口号是“不作诗，只做事”，方向很明确：解决实际产业问题，推着各个行业往智能化走。盘古大模型5.5包含五大基础模型，分别对应自然语言处理（NLP）、多模态、预测、科学计算和计算机视觉（CV）。

盘古Ultra MoE 是 7180 亿参数的深度思考模型，昇腾全栈软硬件一起做的，长序列处理效率高，幻觉少，深度研究也能干。盘古Pro MoE 是 72B A16B 的模型，智能体任务上的表现能跟 6710 亿参数的 DeepSeek-R1 比肩。盘古大模型5.5 还引入了自适应快慢思考合一技术，推理效率提上去了；多模态世界模型则给智能驾驶和具身智能机器人的训练打底。

盘古大模型 5.5的主要功能

• 自然语言处理（NLP）
  • 高效长序列处理：靠 Adaptive SWA 和 ESA 技术，100 万 token 的上下文也接得住。
  • 低幻觉：知识边界判定、结构化思考验证这些方案都用上了，推理准确度往上提。
  • 快慢思考融合：自适应快慢思考合一，问题简单就快答，复杂就多想，推理效率提升 8 倍。
  • 深度研究能力：盘古DeepDiver 用长链难题合成和渐进式奖励机制来练，网页搜索、常识问答这些场景表现不错，5 分钟内能跑完超过 10 跳的复杂问答，还能写出万字以上的专业调研报告。
• 多模态
  • 世界模型：给智能驾驶和具身智能机器人的训练搭一个数字物理空间，模型在里面持续迭代。智能驾驶这块，它能源源不断地生成训练数据，高成本的路采可以少依赖。
• 预测
  • triplet transformer架构：不同行业的数据统一做三元组编码和预训练，预测精度更高，跨行业、跨场景的泛化也更好。
• 科学计算
  • AI集合预报：深圳气象局基于盘古大模型升级的“智霁”大模型，第一次做出 AI 集合预报，天气系统接下来怎么演变，看起来更直观。
• 计算机视觉（CV）
  • 300亿参数视觉大模型：多维度的泛视觉感知、分析、决策都支持；工业场景里稀缺的泛视觉故障样本库也能建起来，业务场景能识别的种类和精度都跟着提升。

盘古大模型 5.5的模型介绍

• 盘古 Ultra MoE
  • 超大规模与稀疏激活：7180 亿参数，256 个路由专家，每个 token 只激活 8 个，激活量 39 亿，规模大、稀疏比也高。
  • 先进架构设计：注意力机制换成 MLA（Multi-head Latent Attention），KV Cache 占的空间被压下来，推理时的内存带宽瓶颈松了一些。MTP（Multi-Token Parallelism）走的是多头扩展：先用单头 MTP 训练，再扩成多头，多 Token 投机推理跑起来，整体推理速度也就上去了。
  • 稳定训练技术：Depth-Scaled Sandwich-Norm（DSSN）稳定架构加 TinyInit 小初始化，把超大规模 MoE 训练容易失稳的问题解决了，18TB 以上的数据能长期稳定地训下去。
  • 高效负载优化：EP group loss 做负载优化，专家之间的活分得比较匀，领域特化的能力也练出来了。
  • 训练策略优化：训练用 Dropless 策略，Drop&Pad 训推不一致的问题绕开了，数据效率更高。另外还有迭代难例挖掘和兼顾多项能力的奖励函数，参考 GRPO 算法，训练效率和最终推理性能都受益。
• 盘古 Pro MoE
  • 分组混合专家架构：分组混合专家模型（MoGE）是这一版的新东西：选专家之前先分组，每个组里激活的专家数量固定，负载自然均衡，模型在昇腾平台上的部署效率提升明显。
  • 高效推理性能：昇腾 300I Duo 平台上，单卡吞吐 201 tokens/s，加上 MTP 解码和多 token 优化，能到 321 tokens/s。昇腾 800I A2 平台上，低并发时响应是毫秒级，高并发下单卡吞吐 1148 tokens/s，优化后到 1528 tokens/s，同等规模的稠密模型比它差一截。
  • 卓越推理能力：跨语言、多领域的基准测试里成绩都不错，英语通用推理、阅读理解、常识推理，逻辑推理里的代码生成和中英双语数学题，还有中文知识问答和阅读理解，都覆盖到了，复杂认知任务上的通用性和领域适应性基本得到了验证。
  • 硬件亲和优化：针对昇腾 300I Duo 和 800I A2 做了系统优化，把昇腾硬件的并行计算特性和算子级编译优化用在一起，从算法设计到系统落地，整条链路都动过。
• 盘古 Embedding
  • 快慢思考融合：双系统认知架构，把“快思考”和“慢思考”两种推理模式装进一个模型。训练分两阶段：第一阶段用迭代蒸馏和多源动态奖励系统（MARS）打底，建出基础推理器；第二阶段补上快慢思考，模型按任务难度自己切模式，效率和深度之间找动态平衡。
  • 高效训练策略：SFT 方案基于模型感知型迭代蒸馏（Model-aware Iterative Distillation），挑数据时看模型当前的能力，匹配得上的才拿来训；训练中再用模型合并策略把早期知识留住，性能一点点往上走。
  • 行业垂域能力拓展：把特定领域的长思考数据加进来继续训，专业任务上的能力能明显往上走。法律领域就是个例子：用法律语料训练之后，LawBench 基准测试的平均准确率到了 54.59%。
  • 自适应模式切换：任务复杂程度不同，推理深度也跟着变。简单问题快速给答案，复杂问题慢慢拆，输出尽量不出错。
• 盘古 DeepDiver
  • 复杂任务处理：科学助手、个性化教育、复杂行业报告调研这些深度研究场景，它能跑完超过 10 跳的问答，再写出一份万字以上的专业报告。
  • 高效信息获取：合成交互数据喂了不少，再用渐进式奖励做强化学习，开放域的信息获取表现不错，5 分钟内能把复杂任务做完，调研报告也拿得出手。
  • 高阶能力增强：盘古大模型的自主规划、探索、反思这些高阶能力被拉高了一截，复杂任务处理起来更稳。
• 盘古预测大模型：用的是业界首创的 triplet transformer 统一预训练架构，不同行业的数据先做统一的三元组编码，再放进同一个框架里处理和预训练，预测精度上去了，跨行业、跨场景的泛化也更好。
• 盘古科学计算大模型：华为云在把盘古科学计算大模型往更多科学领域推。深圳气象局就在盘古基础上把「智霁」大模型又升了一级，第一次做出 AI 集合预报，天气系统的演变可能性看得更直观，单一预报模型的误差也能少一点。
• 盘古计算机视觉 CV 大模型：华为云发了新的 MoE 架构视觉大模型，300 亿参数，按目前的口径是业界最大的视觉模型。图像、红外、激光点云、光谱、雷达等维度的泛视觉感知、分析、决策都能做；跨维度生成模型则用来建油气、交通、煤矿这些工业场景里稀缺的泛视觉故障样本库，业务场景能识别的种类和精度都提了。
• 盘古多模态大模型：新发布的世界模型基于盘古多模态大模型，能给智能驾驶、具身智能机器人的训练搭出数字物理空间，模型在里面持续迭代。

盘古大模型 5.5的项目地址

• 盘古 Ultra MoE 技术论文：https://arxiv.org/pdf/2505.04519

  盘古 Pro MoE 项目地址：https://gitcode.com/ascend-tribe/pangu-pro-moe

  盘古 Embedding 技术论文：https://arxiv.org/pdf/2505.22375

  盘古 DeepDiver 技术论文：https://arxiv.org/pdf/2505.24332

盘古大模型 5.5的应用场景

• 智能驾驶：盘古多模态大模型能给智能驾驶生成大量训练数据，高成本的路采不用再占大头。
• 具身智能机器人：盘古世界模型给具身智能机器人的训练搭数字物理空间，训练可以在里面反复迭代。
• 气象预报：深圳气象局用盘古科学计算大模型升级出的“智霁”大模型，第一次实现 AI 集合预报，天气系统会怎么变，看起来更直观，单一预报模型的误差也小一些。
• 工业场景：盘古CV大模型靠跨维度生成模型，建起油气、交通、煤矿等工业场景里稀缺的泛视觉故障样本库，业务场景能识别的种类和精度都上了一个台阶。