腾讯混元Turbo S - 腾讯推出的新一代快思考模型

发布于 2025-02-27 · 腾讯混元Turbo S是腾讯推出的新一代快思考模型。模型采用创新的Hybrid-Mamba-Transformer融合架构,有效降低了传统Transformer的计算复杂度,减少了KV-Cache缓存占用,显著提升了训练和推理效率。

腾讯混元Turbo S是什么

腾讯混元Turbo S是腾讯新一代的快思考模型,用的是 Hybrid-Mamba-Transformer 融合架构。这个架构降低了传统 Transformer 的计算复杂度,也减少了 KV-Cache 占用,训练和推理效率因此提高。它也是业界第一次把 Mamba 架构无损用到超大型 MoE 模型上,在知识、数学、推理等领域的表现与 DeepSeek V3、GPT-4o 等模型相当。

混元Turbo S 主打的是快:能“秒回”,吐字速度提升一倍,首字时延降低44%。它在短思维链任务(数学、代码、逻辑推理)里表现不错,同时结合了混元T1慢思考模型的长思维链能力,稳定性和准确性都兼顾到了。

腾讯混元Turbo S

腾讯混元Turbo S的主要功能

  • 快速响应能力:混元Turbo S 能“秒回”,吐字速度提升一倍,首字时延降低44%,交互更流畅。
  • 多领域知识与推理能力:在知识、数理、逻辑推理等领域表现不错,对标的是 DeepSeek V3、GPT-4o 这类模型。
  • 内容创作与多模态支持:支持文学创作、文本摘要、多轮对话,也能做文字生成图像。
  • 低部署成本与高性价比:Hybrid-Mamba-Transformer 融合架构降低了传统 Transformer 的计算复杂度,部署成本也随之下降。

腾讯混元Turbo S的技术原理

  • Mamba架构的优势:Mamba 架构基于状态空间模型(State Space Model, SSM),引入选择性机制(Selective Mechanism)来处理长序列数据。长文本是它的强项,计算复杂度和 KV-Cache 占用也降了下来。
  • Transformer架构的保留:Transformer 擅长捕捉复杂的上下文关系,混元Turbo S 保留了这一点,再融合 Mamba 架构,绕开了传统 Transformer 在长文本处理和推理成本上的瓶颈。
  • MoE模型的优化:混元Turbo S 是工业界第一次把 Mamba 架构无损地用在超大型 MoE(Mixture of Experts)模型上,模型的显存和计算效率提高了,训练和推理成本则降了下来。
  • 长短思维链融合:文科类问题仍然保持快速响应(快思考),同时混元Turbo S 用自研的长思维链数据补强了理科推理,整体性能也跟着上去。

腾讯混元Turbo S的性能表现

  • 知识领域:
    • 在MMLU基准测试中,混元Turbo S得分为89.5,略低于DeepSeek V3的88.5,但高于其他模型。
    • MMLU-pro 测试里,混元Turbo S 得分 79.0,GPT4o-0806 和 Claude-3.5 都在它后面。
    • GPQA-diamond 上,混元 Turbo S 拿到 57.5,高于 Llama3.1-405B 和 DeepSeek V3。
    • SimpleQA 是混元 Turbo S 的弱项,得分 22.8,不如其他模型。
    • Chinese-SimpleQA 上,混元 Turbo S 得分 70.8,超过 GPT4o-0806 和 Claude-3.5。
  • 推理领域:
    • BBH 测试中,混元 Turbo S 拿到 92.2,在所有模型里排第一。
    • DROP 上,混元 Turbo S 得分 91.5,优于 GPT4o-0806 和 Claude-3.5。
    • ZebraLogic 上,混元 Turbo S 得分 46.0,这一项不如其他模型。
  • 数学领域:
    • MATH 测试中,混元 Turbo S 得分 89.7,高于 GPT4o-0806 和 Claude-3.5。
    • AIME2024 上,混元 Turbo S 得分 43.3,同样高于 GPT4o-0806 和 Claude-3.5。
  • 代码领域:
    • HumanEval 上,混元 Turbo S 得分 91.0,优于 GPT4o-0806 和 Claude-3.5。
    • LiveCodeBench 上,混元 Turbo S 得分 32.0,这项表现不如其他模型。
  • 中文领域:
    • C-Eval 上,混元 Turbo S 得分 90.9,高于 GPT4o-0806 和 Claude-3.5。
    • CMMLU 上,混元 Turbo S 得分 90.8,也高于 GPT4o-0806 和 Claude-3.5。
  • 对齐领域:
    • ArenaHard 上,混元 Turbo S 得分 88.6,优于 GPT4o-0806 和 Claude-3.5。
    • IF-Eval 上,混元 Turbo S 得分 88.6,同样优于 GPT4o-0806 和 Claude-3.5。
腾讯混元turbo-s

如何使用腾讯混元Turbo S

  • 腾讯云官网:混元Turbo S 已经在腾讯云官网上线,开发者和企业用户可以通过 API 调用。
  • 腾讯元宝:模型将逐步在腾讯元宝APP 里灰度上线,用户可以在 APP 内选“Hunyuan”模型,关掉深度思考功能就能体验。
  • 免费试用:即日起,开发者和企业用户可以在腾讯云通过 API 调用混元Turbo S,免费试用一周。访问腾讯混元turbos模型API免费试用申请页面填写申请。
  • 未来计划:混元Turbo S 会成为腾讯混元系列衍生模型的核心基座,为推理、长文、代码等方向的衍生模型提供底层能力。

腾讯混元Turbo S的模型定价

  • 模型定价:混元Turbo S 的 API 调用定价是输入 0.8元/百万tokens,输出 2元/百万tokens。

腾讯混元Turbo S的应用场景

  • 日常对话:适合快速问答、智能客服这类场景。
  • 代码生成与逻辑推理:数学、代码生成、逻辑推理这些短思维链任务是它的强项。
  • 内容创作:支持文本生成和文生图。
0

相关文章

0 条评论

后参与评论

暂无评论,来抢沙发。