Step-2 mini - 阶跃星辰推出的轻量级极速大模型

发布于 2025-01-20 · Step-2 mini 是阶跃星辰推出的轻量级极速大模型,基于新一代自研 Attention 架构 MFA 开发。仅用 3% 的参数量就保留了 Step-2 超过 80% 的性能,显著提升了生成速度和性价比。

Step-2 mini是什么

Step-2 mini 是阶跃星辰推出的轻量级极速大模型,基于新一代自研 Attention 架构 MFA 开发。参数量只有 Step-2 的 3%,性能却保留了超过 80%,生成速度和性价比都提了上来。输入 4000 tokens 时,平均首字时延 0.17 秒,响应很快。Step-2 mini 用的是 MFA 架构,相比传统多头注意力架构,KV 缓存开销省了近 94%,推理成本降了不少。

Step-2 mini

Step-2 mini的主要功能

  • 通用任务处理:文本生成、问答、翻译这类通用语言任务都可以处理。
  • 代码生成与优化:代码生成是它比较拿手的一块,能理解需求并写出可执行的代码。
  • 逻辑推理与数学问题解决:逻辑推理能力比较强,复杂的数学问题也能往下解。

Step-2 mini的技术原理

  • 多矩阵分解注意力机制(MFA)架构:MFA 架构是阶跃星辰和清华大学等机构一起研发的新型注意力机制。它用矩阵分解的方式,把传统注意力机制里的键值缓存(KV Cache)用量压下来,内存消耗跟着减少。MFA 还用了比较激进的低秩分解策略,注意力头的数量和维度扩上去时,参数效率仍然很高。
  •  强化学习技术:Step-2 mini 做过大规模强化学习训练,用的是 On-Policy(同策略)强化学习算法,文理两边的能力都兼顾到了。
  • 高性价比与快速响应:Step-2 mini 计算成本低、响应速度快,适合对效率和成本都比较在意的场景。

Step-2 mini的项目地址

Step-2 mini的模型价格

  • 价格:输入 1 元/百万 token;输出 2 元/百万 token。

Step-2 mini的应用场景

  • 数学问题解答:Step-2 mini 能搭出合理的推理链,面对复杂数学问题先做规划,再一步步求解。
  • 逻辑推理:做逻辑推理时,Step-2 mini 会自己尝试多种解题思路,拿到初步答案后还会反问有没有别的可能,把效果好的解法都枚举出来。
  • 数据分析:Step-2 mini 能帮科研人员做逻辑推理和数据分析,把跨学科知识整合起来,推进科研项目。
  • 文献理解:模型能读也能总结科研文献,给出关键信息和研究方向上的建议。
  • 代码开发:Step-2 mini 可以协助程序员写代码,提供代码示例和逻辑分析。
  • 商业决策:给管理者做商业决策的逻辑分析和建议,办公流程也能顺一顺。
0

相关文章

0 条评论

后参与评论

暂无评论,来抢沙发。