Auto Think - 快手开源的自动思考大模型

Auto Think是什么

Auto Think是快手Kwaipilot团队开源的KwaiCoder-AutoThink-preview自动思考大模型。它针对深度思考大模型的“过度思考”问题做了深入研究，提出一种新的自动思考模型训练范式：在传统强化学习算法（GRPO）的基础上，推出带过程监督的强化学习方法Step-SRPO，把模型在复杂任务里的表现再往上推了一步。模型把“思考”和“非思考”两种能力融在一起，能按问题难度自动切换思考形态。这样训练出来的模型，在多个“思考”和“非思考”评测榜单上都拿到了性能提升；部分代码、数学类任务上，开启自动思考模式后得分能提升20分左右。

Auto Think的主要功能

• 自动切换思考形态：模型同时具备“思考”和“非思考”两种能力，按问题难度切换形态。简单问题走“快思考”，直接给答案，省掉不必要的复杂推理；复杂问题切到“慢思考”，先深度推理分析再作答，解决得更准。
• 提升效率与性能：自动切换思考形态这套能力，让模型在多个“思考”和“非思考”评测榜单上都实现了性能提升。部分代码和数学类任务上，开启自动思考模式后得分提升20分左右。

Auto Think的技术原理

• 最小提示干预：靠一个加了省略号的Ellipsis Prompt，把模型随机切换思考模式的能力激活。这种提示词结构简单但管用，能把模型在不同思考模式之间引导着切换，后面的强化学习训练也以此为底。
• 多阶段强化学习
  • 第一阶段：这一阶段要让模型稳定地出现快、慢两种思考模式——简单问题用“快思考”，复杂问题交给“慢思考”。目标是模型能根据问题难度初步判断，并选对相应的思考模式。
  • 第二阶段：对快慢思考行为做优化，把两种模式下答对的能力都提上去。练完这一阶段，模型不管处在哪种思考模式，处理问题都更准，整体性能跟着上涨。
  • 第三阶段：把快慢思考的思维链输出精炼一遍。经过这个阶段，模型不再靠随机决定要不要深入思考，而是按问题难度自主选择思考模式，推理过程更高效、更精准。

Auto Think的项目地址

• HuggingFace模型库：https://huggingface.co/Kwaipilot/KwaiCoder-AutoThink-preview

Auto Think的应用场景

• 视频生成：自动思考的能力可以用来优化视频生成过程，让生成内容更贴合不同难度、不同复杂度的需求。
• 文案创作：它能按问题难度自动切换思考形态，文案创作时给出的思路和方法会更快也更准。
• 智能客服：和用户交互时，它会看问题的复杂程度来定：该快答的快答，该想清楚的想清楚，回应又快又准，体验更顺。
• 精准搜索：自动思考能力可以用来进一步优化搜索结果，给出的信息更精准、更符合用户需求。
• 个性化推荐：根据用户的个性化需求自动切换思考模式，推荐结果会给得更准。