ARTICLE / 极客公园

华人团队提出「CoD」草稿链,减少 80% Token,AI 省钱第一名!

2025年03月17日 17:42 · 来自 极客公园

阅读原文 → 收藏

两个月前 DeepSeek R1 横空出世,震惊所有人。除了成本巨低,大模型在回答问题时候显示的思维链 CoT 也功不可没。 在 AI 领域,大规模语言模型(LLMs)已经展示了强大的推理能力。这些模型通常生成长长的「思维链(Chain-of-Thought, CoT)」来逐步推导答案,好处显而易见,问题是计算成本和延迟高。 最近,Zoom 的研究团队提出了一种全新的推理范式——「草稿链(Chain-of-Draft, CoD)」,试图通过模仿人类的简洁思维过程,来提升 AI 的推理效率,从而节省成本。 数据显示,相同的任务,使用 CoD 能将 Token 使用减少 80%,大幅度降低成本。 成本更低,准确率却不低的 CoD,会成为大模型的下一个趋势吗? 01 如何让 AI「少写点」? 无论是 OpenAI 的 o1,还是 DeepSeek 的 R1,在使用「思维链」处理任务时都有出色表现,这个范式鼓励模型将问题分解成一步步的推导,类似于人类在纸上写下完整的解题过程。 「尽管这一方法有效,但它在推理时需要大量的计算资源,导致输出冗长且延迟较高。」Zoom 研究人员指出,LLM 通常会在得出最终答案