Yi-Lightning - 零一万物最新推出的高性能高速度旗舰模型

Yi-Lightning是什么

Yi-Lightning 是零一万物发布的旗舰模型，在盲测榜单 LMSYS 上排到世界第六、中国第一，超过了 OpenAI 的 GPT-4o-2024-05-13 和 Anthropic Claude 3.5 Sonnet。这是中国大模型第一次在全球竞技场上超过 OpenAI 的 GPT-4o。

Yi-Lightning 在几个分榜上成绩也不错：中文分榜与 o1-mini 等模型并列世界第二，多轮对话排第三，数学和代码分榜分别是第三和第四名。

Yi-Lightning 在推理速度和成本上也做了优化。跟上一代旗舰 Yi-Large 比，Yi-Lightning 的最高生成速度快了近四成，首包时间缩短一半；Yi-Lightning 的推理成本则降到每百万 token 0.99 元，基本是行业最低价。

Yi-Lightning的主要功能

• 推理速度和成本：跟上一代旗舰 Yi-Large 比，Yi-Lightning 的最高生成速度快了近四成，推理成本也降了，每百万 token 只要 0.99 元。
• AI 2.0 数字人解决方案：零一万物基于 Yi-Lightning 做了 AI 2.0 数字人方案，主要面向零售和电商。方案里有角色大模型、直播声音大模型、电商话术大模型，支持动作训练、表情生成、多国语言和情感表达、智能对话。某酒旅企业接入后，GMV 比此前上升了 170%。
• 全行业解决方案：零一万物的全行业解决方案里也用了 Yi-Lightning，除了基座模型，还会搭配 RAG、Function Calling 等工具。零售、医疗、教育、物流等领域都有落地，涉及 AI 搜索、AI 生产力工具、AI 智能巡检等场景。
• 模型架构创新：Yi-Lightning 用 Mixture of Experts（MoE）混合专家架构，训练时引入混合注意力机制和动态 Top-P 路由。这样的基座起点更高，做定制模型训练会更快、更省。
• 极速推理：Yi-Lightning 的推理速度是强项。动态 Top-P 路由会按任务难度挑选合适的专家网络组合，在推理成本和模型性能之间找平衡。
• 多阶段训练：Yi-Lightning 的训练分多个阶段：前期看重数据多样性，后期换成更丰富、知识性更强的数据，让模型在不同阶段吸收不同的东西。训练中会调 batch size 和学习率（LR），保证速度和稳定性。

Yi-Lightning的技术原理

• MoE混合专家模型架构：Yi-Lightning 用的是 Mixture of Experts（MoE）混合专家架构，把多个专家网络（Experts）放在一起处理不同任务。模型按任务难度决定激活哪些专家，以此来平衡推理成本和性能。训练时所有专家都会激活，推理时只挑更匹配的那部分。
• 混合注意力机制（Hybrid Attention）：Yi-Lightning 对混合注意力做了优化，只在部分层次把传统的全注意力（Full Attention）换成滑动窗口注意力（Sliding Window Attention），计算成本降下来，长序列照样能处理。
• 跨层注意力（Cross-Layer Attention, CLA）：Yi-Lightning 的跨层注意力机制让不同层次之间共享键（Key）和值（Value）头，存储需求少了，推理效率也上去了。
• 动态 Top-P 路由：Yi-Lightning 会按任务难度自动选择专家网络组合，不需要人工干预，各种任务都能应付，推理速度也快。

Yi-Lightning的项目地址

• 项目官网：platform.lingyiwanwu.com

Yi-Lightning的应用场景

• 翻译场景：翻译是 Yi-Lightning 的强项，语言理解、生成、跨语言、上下文感知这几项都用得上，译文质量不错。跟多个模型对比时，它的用词比较准，也带点文学色彩。
• 零售电商直播场景：零一万物的 AI 2.0 数字人方案面向零售和电商，靠 Yi-Lightning 做技术支持，实现了弹幕互动、商品信息提取、实时话术生成。接入之后，数字人的互动更顺，话术更流畅，回复也更准。
• 企业级解决方案：零一万物 To B 的企业级解决方案里也用了 Yi-Lightning，为企业提供定制化 AI 服务。
• 多语言处理：中文分榜上，Yi-Lightning 的中文处理能力跟国际顶尖模型比也不落下风。
• 数学和代码生成：数学和代码分榜上，Yi-Lightning 分别拿到第三、第四名。
• 长提问和艰难提问：长提问和艰难提问这两项，Yi-Lightning 都排到世界第四。