什么是草稿链（Chain-of-Draft, CoD） – AI百科知识

草稿链（Chain-of-Draft, CoD）是一种新型 AI 推理范式，通过简洁的中间推理步骤提升推理效率。它模仿人类解决问题时的简洁思维，将每一步输出限制在不超过五个词的关键信息内。与传统的思维链（CoT）相比，草稿链大幅减少了 Token 使用量，显著降低了推理成本与延迟，同时保持较高的准确率。在算术、常识和符号推理等多种推理任务中，草稿链表现出色，适合实时 AI 应用、资源受限环境和成本敏感场景。

什么是草稿链

草稿链（Chain-of-Draft, CoD）是 Zoom 研究团队提出的一种新的 AI 推理范式，通过模仿人类的简洁思维过程来提升推理效率、节省成本。它受到人类解决问题时依赖草稿或速记来捕捉关键见解这一习惯的启发。与传统的思维链（Chain-of-Thought, CoT）相比，草稿链鼓励模型生成极简的中间推理步骤，只捕捉解决问题的关键信息。

草稿链的工作原理

草稿链（Chain-of-Draft, CoD）的工作原理，是模仿人类解决问题时的简洁思维方式，让大型语言模型（LLM）在推理过程中生成极简但信息丰富的中间步骤。具体而言，CoD 策略要求模型在每一步推理中限制使用的词汇数量，通常不超过五个单词。这一方法并非硬性限制，而是一种指导性建议，用以推动推理步骤更加简洁。

CoD 鼓励模型在每一步推理中生成最小化且信息丰富的中间结果，专注于关键的计算或转换步骤。通过减少冗长输出，CoD 显著降低了 Token 使用量，缩短了整体输出长度与延迟。尽管 Token 用量减少，CoD 在算术推理、常识推理和符号推理等多种任务中，仍能保持与传统思维链（CoT）相当的准确性。

草稿链的主要应用

• 实时客户支持：在实时客户支持领域，响应速度对用户体验至关重要。草稿链通过减少推理过程中的 Token 数量，显著降低延迟，使 AI 能更快速地提供解决方案。
• 教育和学习辅助：在教育领域，草稿链可用于快速解答学术问题。例如，在数学教育中，CoD 能迅速展示解题的关键步骤而非详尽推理过程，帮助学生更快抓住问题核心。
• 对话式AI系统：聊天机器人等对话式 AI 系统需要快速、准确地理解用户意图并作出回应。草稿链通过生成简洁的中间推理步骤，使 AI 系统能更快处理用户输入并生成回应。
• 大规模AI部署：在云计算服务等需要大规模部署 AI 模型的场景中，成本控制是重要考量。草稿链通过减少 Token 使用量，显著降低了推理任务的成本。
• 资源受限环境：在移动设备或边缘计算设备等资源受限环境中，计算能力与存储空间可能非常有限。草稿链通过生成极简但信息丰富的中间推理输出，使 AI 模型能在这些设备上以更低的资源消耗运行。
• 总结和提取关键信息：在新闻摘要或研究报告快速阅读等需要从大量文本中快速提取关键信息的场景中，草稿链能有效提炼核心要点。通过限制每个推理步骤的词汇数量，CoD 帮助用户迅速抓住文本主要内容，无需深入阅读所有细节。
• 金融高频交易：在金融领域尤其是高频交易中，决策速度对成败至关重要。草稿链通过减少推理延迟，使 AI 系统能更快分析市场数据并作出交易决策。
• 自动驾驶决策：自动驾驶系统需要在极短时间内做出复杂决策。草稿链提供快速而准确的推理能力，有助于自动驾驶系统在面对复杂交通情况时迅速反应。

草稿链面临的挑战

• 零样本设置下的性能下降：在没有提供少量样本（few-shot examples）的零样本（zero-shot）设置下，草稿链的性能显著下降。这可能是因为大型语言模型的训练数据中缺乏 CoD 风格的推理模式，使得在没有样本指导时生成简洁而有洞察力的"草稿"变得困难。
• 小模型上的性能差距：在参数少于3B的小型语言模型上测试 CoD 时，虽然 CoD 能减少每次响应所需的 Token 数量并提高准确性，但与 CoT 相比，性能差距更为明显。
• 复杂任务中的局限性：草稿链可能不适用于需要大量反思、自我纠正或外部知识检索的复杂任务。在这些情况下，CoD 的简洁性可能会限制模型的推理深度与准确性。
• 推理深度与简洁性的平衡：虽然 CoD 通过减少冗余、聚焦关键洞察来降低延迟和计算成本，但这种简洁性可能牺牲推理深度。在某些情况下，详细的中间步骤对于理解和验证推理过程至关重要；CoD 的极简主义可能使推理过程不够透明，难以追踪和理解模型的思考路径。
• 成本与性能的权衡：尽管 CoD 在降低成本方面表现出色，但在某些高性能要求的应用场景中，成本优势可能以牺牲准确性为代价。例如，在需要极高准确性的金融分析或医疗诊断领域，CoD 的性能可能不足以满足需求。
• 模型适应性：CoD 要求模型在每一步推理中限制词汇数量，这种限制可能并不适用于所有类型的模型。不同模型可能需要不同策略来适应 CoD 的要求，这会增加模型训练与调优的复杂性。
• 实时应用的挑战：虽然 CoD 通过减少 Token 使用量显著降低了延迟，但在自动驾驶或高频交易等实时应用中，即使微小的延迟也可能影响决策质量。因此，CoD 需要在保持低延迟的同时，确保推理的准确性与可靠性。

草稿链的发展前景

草稿链（Chain-of-Draft, CoD）作为一种新兴的 AI 推理范式，发展前景十分广阔。CoD 通过模仿人类的简洁思维过程，将复杂的推理任务分解为简洁而信息密集的中间步骤，显著降低了 Token 使用量与推理延迟。CoD 的高效性与成本效益在多个领域具有显著的应用潜力：对于每月处理100万次推理查询的企业，使用 CoD 可将成本从3800美元降低到760美元。这种成本优势在实时客户支持、教育、金融服务等对延迟敏感的场景中尤为突出。CoD 的实现方式简单，只需对现有模型的提示进行简单修改即可切换，在大规模部署中具有很高的可行性。总体来看，CoD 为 AI 推理提供了一种更高效、更经济的解决方案，有望在未来的 AI 应用中得到更广泛的推广。随着技术的不断进步与优化，CoD 有望克服当前的局限，进一步提升其性能与适用性。