Group Think 的推理机制：如何协同工作

其实这一段落是我已经准备发文的时候，临时添加的。因为我觉得对于不太了解 infra 层的工程师，可能对这个 Group Think 的原理理解上还是有难度。所以我特意添加了这个段落，希望能对理解具体推理机制有所帮助。Group Think 的推理机制通过以下步骤实现：

1. 1. 初始化：系统将任务分配给多个智能体（思考者），每个智能体接收到相同的输入信息。
2. 2. 并行推理：在每个推理步骤中，每个智能体并行生成下一个 token。智能体在生成 token 时，会访问其他智能体之前生成的所有 token（交叉注意力机制）。
3. 3. 动态调整：智能体根据其他智能体生成的 token 动态调整自己的推理方向，避免重复工作并提高推理效率。
4. 4. 最终答案生成：所有智能体的推理链完成后，系统整合这些推理链，生成最终答案。

举例说明，在一个编程任务中，要求编写一个 Python 函数，该函数接受一个字符串列表，返回每个字符串的平均长度以及对应的字母等级（A: 长度≥10，B: 5≤长度<10，C: 长度<5）。Group Think 的推理过程如下：

1. 1. 初始化：系统将任务分配给 4 个智能体（Thinker1, Thinker2, Thinker3, Thinker4）。
2. 2. 并行推理：

• • Thinker1 开始生成代码框架，定义函数和输入参数。
• • Thinker2 注意到 Thinker1 的进展后，开始编写计算字符串长度的部分。
• • Thinker3 发现 Thinker1 和 Thinker2 的工作后，开始编写计算平均长度的逻辑。
• • Thinker4 在看到其他智能体的工作后，开始编写根据长度分配字母等级的部分。

• 3. 动态调整：
• • 当 Thinker4 发现 Thinker3 已经开始编写平均长度的计算逻辑时，它调整自己的工作，专注于编写返回结果的代码部分。
• 4. 最终答案生成：所有智能体的推理链完成后，系统整合这些推理链，生成完整的 Python 函数代码。

通过 Group Think 的协作机制，每个智能体在推理过程中能够实时感知其他智能体的进展并动态调整自己的工作内容，从而显著提高了代码生成的效率和质量。

数据中心场景下的实现：批量处理的艺术

在数据中心应用中，通常需要将多个请求聚合为一个批次进行处理，以最大化计算效率。Group Think 通过 token 级别的交错生成和 KV 缓存的巧妙利用，实现了对混合请求（包括 Group Think 请求和其他标准请求）的高效批量处理。

每个智能体被分配一个 token 索引槽，这些索引决定了对应的 positional embeddings 。在推理过程中，每个生成步骤为每个智能体填充一个 token ，从而形成交错的 KV 缓存。通过这种方式，因果掩码在注意力机制中允许每个新 token 关注所有之前生成的 token （包括来自所有智能体的 token ），从而实现了 Group Think 的协作优势。

例如，在一个需要同时处理多个用户请求的场景中，一个智能体可能生成了“用户 A 请求：分析股票市场趋势”的 token ；另一个智能体看到后，调整自己的生成方向，生成“用户 B 请求：制定投资组合优化方案”的 token 。通过这种交错生成方式，数据中心能够在同一个批次中高效处理多种类型的请求，大幅提高了计算资源的利用率。

下图展示了 Group Think 在数据中心场景下的实现方式。通过 token 级别的交错生成和 KV 缓存的利用，多个智能体的推理任务被整合到一个批次中，实现了高效的批量处理。

实验评估

实验设置：搭建推理能力的测试舞台

实验采用了 80 亿参数和 700 亿参数的两种模型，分别在 NVIDIA 3080 GPU 和 8 个 NVIDIA V100 GPU 上运行。为了促进模型的协作行为，实验采用了以下系统提示：

1. There are multiple thinkers. These thinkers, Thinker1, Thinker2,
Thinker3 ... , try to answer a question together. The answer is considered
solved if the thinkers can COLLECTIVELY determine the final answer, even if
each thinker only has partial answers.
2. Each thinker will write its own thought process towards the final answer.
Each thinker is encouraged to take the other thinkers’ progress into account
to reach the final answer.
3. Considering all the information from other thinkers, each thinker will
continue contributing to the collective knowledge.
Your response should focus on reaching the solution collaboratively as
efficiently as possible. Make sure information that you generate is not
redundant to the group. It is thus important to consider the outputs of
other thinkers during generation. Do not summarize other thinkers’ responses,
as it is too cost inefficient.
Please answer this question.
Problem: {QUESTION}
–- You are Thinker {ThinkerID}. Your Response:

译文：

# Group Think Prompt 译文：

1. 有多个思考者（Thinker）。这些思考者（Thinker1, Thinker2, Thinker3...）试图共同回答一个问题。只有当思考者们能够集体确定最终答案时，问题才算解决，即使每个思考者只掌握了部分答案。

2. 每个思考者将写下自己对最终答案的思考过程。每个思考者被鼓励考虑其他思考者的进展，以达成最终答案。

3. 考虑其他思考者提供的所有信息，每个思考者将继续为集体知识做出贡献。您的回应应聚焦于尽可能高效地协作以达成解决方案。确保您生成的信息对集体而言并非冗余。因此，在生成过程中考虑其他思考者的输出至关重要。请勿总结其他思考者的回应，因为这样做成本过高。请回答以下问题。问题：{QUESTION} –- 您是思考者 {ThinkerID}。您的回应：

这种提示方式就像为智能体们制定了明确的协作规则，引导它们在推理过程中积极交流、避免重复工作。

性能 - 延迟权衡评估：数据见证 Group Think 的优势

枚举任务：从简单中洞察非凡

枚举任务看似简单，却是 Group Think 展现协作优势的绝佳场景。它的原理是让模型生成包含 L 个不同项目的列表。完成覆盖率定义为：

Completion Coverage = min(1, #distinct items generated / L)

例如，在“列出 100 个男性的名字”这一任务中，Group Think 通过多个智能体的协作，显著提升了任务完成速度。实验结果显示，当智能体数量为 N 时，Group Think 的初始速度比 CoT 快了近 N 倍。随着智能体逐渐接近解决问题，加速效果逐渐放缓，但始终保持着对 CoT 的显著优势。

更重要的是，Group Think 展现出了惊人的协作行为。在生成男性名字的实验中，智能体们自发地将名字按文化、历史和地区分类。例如，一个智能体专注于生成英语国家常见的名字，如“Alexander”“Benjamin”；另一个智能体则转向古代希腊和罗马文化中的名字，如“Apollo”“Atlas”；还有智能体负责亚洲文化中的名字，如“Kai”（日语起源）“Kenji”（中文起源）。这种分类行为并非人为设定，而是模型在 Group Think 范式下自然涌现的协作策略。

下图展示了 Group Think 在枚举任务中与 CoT 的性能对比。可以看到，Group Think 在初始阶段的加速效果非常显著，随着智能体数量的增加，任务完成速度进一步提升。

分而治之任务：复杂问题的高效破解

以经典的 Floyd-Warshall 算法为例，Group Think 在解决复杂问题中的优势得到了进一步验证。在这个任务中，模型需要计算一个有向加权图中所有节点对之间的最短路径。完成覆盖率定义为组正确解决的距离矩阵条目的比例。

实验中，随机生成了多个包含 5 个节点的图。结果显示，4 个智能体的 Group Think 能够将延迟降低到 CoT 的一半。随着智能体数量的增加，延迟进一步减少。这种效果源于智能体们在更新距离矩阵时的高效协作。一个智能体可能先更新了节点 i 到节点 j 的路径，另一个智能体看到后，迅速利用这个信息更新其他相关路径。

下图展示了 Group Think 在分而治之任务中的性能表现。可以看到，Group Think 在解决复杂问题时的延迟显著低于 CoT，且随着智能体数量的增加，延迟进一步减少。

编程任务：现实场景中的协作魔法

编程任务为 Group Think 提供了一个贴近实际应用场景的测试平台。在这个任务中，模型需要生成满足特定规范的代码。完成覆盖率定义为组正确完成的组件数量与总组件数量的比值。

实验要求模型生成能够解决多步骤编程问题的代码。结果显示，CoT 在生成过程中很快趋于平缓，无法有效解决问题；而拥有 4 个或更多智能体的 Group Think 能够在合理的生成预算内接近正确解决方案。在代码生成过程中，Group Think 展现出了高度的协作警觉性。当多个智能体开始处理同一个代码部分时，其他智能体能够迅速检测到重复工作并切换到其他任务。例如，在生成一个学生成绩处理程序时，一个智能体专注于计算平均分的函数，另一个智能体则转向生成成绩等级分配的函数，避免了重复代码的生成。

下图展示了 Group Think 在编程任务中的性能表现。可以看到，Group Think 在编程任务中的完成覆盖率显著高于 CoT，且随着智能体数量的增加，性能进一步提升。

Group Think 在自然语言处理领域的文本生成任务中的应用

Group Think 在自然语言处理领域的文本生成任务中展现出了巨大的潜力。例如，在一篇需要融合多种风格（新闻报道、学术论文、故事创作等）的文章生成任务中，Group Think 能够协调不同智能体生成不同风格的文本段落。

实验中，一个智能体可能生成了“根据最新数据，全球气温上升了 1.2 摄氏度（新闻报道风格）”的段落；另一个智能体看到后，调整自己的生成方向，生成“气温上升对生态系统的影响可以从生物多样性减少和极端气候事件频发两个方面进行分析（学术论文风格）”的段落；第三个智能体则进一步补充“在一个小村庄，农民们发现作物生长周期明显缩短，这直接影响了他们的生活（故事创作风格）”。通过这种协作，Group Think 生成的文章不仅在文本多样性上显著优于传统方法，还在逻辑连贯性上实现了提升，不同风格的段落自然衔接，整体文章更具深度和吸引力。

下图展示了 Group Think 在文本生成任务中的实现方式。每个智能体被分配一个 token 索引槽，这些索引决定了对应的 positional embeddings 。通过这种方式，多个智能体的推理任务被整合在一起，实现了高效的文本生成。

Group Think 在图像识别领域的潜在应用

Group Think 在图像识别领域也具有广阔的应用前景。例如，在分析一张复杂图像时，多个智能体可以协同工作，每个智能体专注于图像的不同部分或特征。一个智能体可能专注于识别图像中的物体轮廓，生成“图像左上方存在一个矩形轮廓”的 token ；另一个智能体则分析物体的颜色和纹理，生成“该矩形区域主要由红色和蓝色像素组成，表面纹理光滑”的 token 。通过协作整合这些信息，模型能够更准确地识别图像内容。

实验数据表明，采用 Group Think 的图像识别模型在复杂场景下的准确率相比传统方法提升了 15% 以上。例如，在一个包含多种物体的街头场景图像中，传统方法可能只能识别出主要物体如“汽车”和“行人”，而 Group Think 能够进一步识别出“汽车的颜色为红色”“行人的衣物纹理为条纹”等细节信息，显著提高了识别的鲁棒性和细致程度。

与独立采样基线的比较：协作的力量

为了量化 Group Think 协作机制的优势，实验将其与独立采样（Independent Sampling，IS）基线进行了对比。结果显示，在低延迟预算下，Group Think 和 IS 的表现相当。然而，随着推理预算的增加（通过增加智能体数量 N 或每个智能体的 token 预算 K ），IS 的冗余度逐渐增加，而 Group Think 凭借其高效的协作机制，展现出越来越大的完成覆盖率优势。例如，在编程任务中，当智能体数量增加到 4 个且每个智能体的 token 预算增加到 100 时，Group Think 的完成覆盖率比 IS 高出 40% 以上。

下图展示了 Group Think 与 IS 在不同智能体数量和延迟预算下的性能对比。可以看到，Group Think 在大多数情况下都能显著提高完成覆盖率，特别是在智能体数量较多且延迟预算较大时，优势更加明显。

讨论与未来工作

Group Think 的能力与局限：协作的双刃剑

Group Think 在实验中展现出了令人印象深刻的能力。它能够有效避免重复推理，智能体之间通过实时信息共享动态调整推理路径。此外，Group Think 还能自然涌现协作行为，例如在枚举任务中按类别分工、在编程任务中分配代码组件，这些行为无需显式指令，是模型在 Group Think 范式下自发形成的。

然而，Group Think 也存在局限性。其通信开销在低延迟预算下可能会成为性能瓶颈。例如，当智能体数量过多且每个智能体的 token 预算较小时，智能体之间传递的信息可能过于简略，导致协调效果不佳。

深化局限性分析

智能体数量增加带来的协调复杂性

随着智能体数量的增加，Group Think 的协调复杂性显著上升。每个智能体需要关注的其他智能体的 token 数量呈线性增长，导致计算复杂度上升。例如，当智能体数量从 2 增加到 10 时，每个智能体需要关注的其他智能体的 token 数量从 N − 1 = 1 增加到 N − 1 = 9 。假设每个 token 的计算开销为 C ，那么每个智能体的计算开销从 C × 1 增加到 C × 9 ，整体计算复杂度增加了 9 倍。这不仅会显著降低推理速度，还会增加资源占用，对硬件性能提出更高要求。

模型训练难度上升的问题

为了实现 Group Think 的 token 级协作机制，模型训练过程中需要额外考虑多智能体协作的监督信号设计。例如，需要设计能够衡量智能体间协作效果的损失函数，确保智能体在生成 token 时既能保持自身推理的连贯性，又能与其他智能体的输出有效协作。同时，为了防止智能体间过度依赖或信息过载，训练过程中还需要引入正则化策略，如限制智能体对其他智能体 token 的关注程度，或采用 dropout 技术随机屏蔽部分智能体的输出。这些额外的设计和优化大大增加了模型训练的复杂度和难度。

未来发展方向：协作的进化之路

专门数据集的构建：协作智慧的燃料

构建专门的 Group Think 数据集是未来发展的关键。一个高质量的数据集应涵盖多样化场景，展示良好的 Group Think 行为。例如，在医疗诊断场景中，数据集可以包含多个医生如何通过实时交流协作诊断复杂病例的案例；在科学研究场景中，可以记录科学家们如何在实验设计和数据分析过程中相互启发。这些数据将为模型提供丰富的协作示例，帮助其学习更高效的协作策略。

复杂协作行为的探索：协作的高级形态

Group Think 在更复杂协作行为方面具有巨大潜力。例如，动态角色分工可以让智能体在推理过程中根据自身优势和任务需求实时调整角色。一个智能体可能在某个阶段担任规划者角色，制定整体解决方案的框架；在另一个阶段转变为执行者，负责具体代码的实现。这种动态分工可以通过强化学习实现，模型在训练过程中学习到在不同情况下切换角色的最佳时机。

此外，探索与利用的平衡也是未来研究的重要方向。智能体需要在遵循现有推理路径（利用）和探索新可能性（探索）之间找到最佳平衡。例如，在一个需要创新解决方案的任务中，部分智能体可以专注于探索新的算法，而另一部分智能体则负责优化现有算法的实现细节。通过这种方式，Group Think 能够在稳定性和创新性之间取得平衡。

资源受限环境下的应用：协作的轻量化

Group Think 在资源受限环境下的应用前景广阔。通过优化实现方案，例如采用更高效的注意力机制和模型压缩技术，Group Think 可以在边缘设备上高效运行。这将使智能语音助手、物联网设备等能够在本地完成复杂的推理任务，减少对云端的依赖，降低延迟并提高数据隐私性。

总结

Group Think 作为一种全新的推理协作范式，通过让单个 LLM 模拟多个并行推理智能体，并以 token 级别的细粒度协作，显著提升了推理质量和效率。在本地推理中，Group Think 能够充分利用闲置计算资源，将边缘设备的推理能力提升到一个新高度；在数据中心场景下，它通过高效的批量处理机制，为大规模推理任务提供了强大的支持。

Group Think 的贡献不仅体现在技术性能的提升上，更在于它为 LLM 的协作行为提供了一种新思路。它证明了即使在没有显式训练的情况下，现有的 LLM 也具备一定的协作能力。这为未来专门针对协作推理的数据集构建和模型训练奠定了坚实的基础。在深入了解 Group Think 的过程中，它让我对 LLM 推理方式的传统认知发生了改变，让我看到了智能体之间协作的巨大潜力。

最吸引我的是 Group Think 的 token 级别协作机制。这种细粒度的互动方式，使它们能够在推理过程中实时感知彼此的进展并迅速调整自己的方向。这让我联想到人类团队中的高效协作场景，比如在一场紧张的手术中，医生、护士和麻醉师通过实时交流和观察彼此的动作，精准地完成每一个操作步骤，最终拯救患者的生命。Group Think 似乎正在赋予机器类似的协作能力，这无疑是人工智能领域的一大飞跃。

同时，Group Think 在资源利用效率方面的优势也让我印象深刻。在本地推理场景中，它能够唤醒边缘设备上原本闲置的计算资源，这让我想起了自己使用智能语音助手的经历。如果 Group Think 能够应用于这些设备，未来的智能助手将能够在本地快速完成复杂的任务，如实时翻译多种语言的会议记录或生成个性化的旅行计划，而无需依赖云端计算，这将极大地提升用户体验并保护数据隐私。

在实验评估部分，看到 Group Think 在枚举、分而治之和编程任务中的出色表现，我感到兴奋。特别是多智能体在枚举任务中自发分类的行为，让我深刻体会到了 Group Think 的智能和灵活性。这就像看着一群志愿者在没有任何指挥的情况下，自发地将一堆杂乱的书籍按类别整齐地摆放到书架上，这种涌现的协作智慧令人惊叹。

其实如果看我文章的朋友，一定注意到前些天我发的另外几篇文章，他们都是 inference-time scaling 时期完成的推理计算。比如：《解锁大模型推理新潜能：重复采样的魔力》，《并行扩展（Parallel Scaling）：一种新型语言模型扩展范式（万字）》，那么区别在哪？我拿重复采样（Repeated Sampling）这个方法，形成一个表格，简单对比如下：

一句话总结：这种 Group Think 并行推理的机制与重复采样（Repeated Sampling）的原理其实有接近的地方，但不同的是前者通过交叉注意力机制产生了“协作”，而后者仅仅是在独立的线性槽位中进行 Next Token Predict，并且后者是重复采样同一个任务。Group Think 的关键创新点就在于引入了智能体间的“通信”协作，而重复采样缺乏这种协作机制。

在我们了解原理和机制以后，是不是有点兴奋，这样的机制甚至可以在现有模型上修改推理代码就可以向上吞噬应用层的 Multi-Agent 实现，并且在 inference-time通过批次推理LLM的方式，要比在应用层进线程并发推理的方式还要高效，因为跳出 inference-time，效率会下降，进线程并发会出现气泡。当然，目前 Group Think 这种范式仍处于发展的初期，面临着通信开销和协作策略优化等挑战。但它不妨碍我们看到 LLM 从“智能个体”向“智能集体”转变的趋势。