跳至主要内容

功能

ClawAI 中的模型路由与编排

决定由哪个模型回答消息的七种路由模式,以及让多个模型协同处理同一问题的九种编排原语,均按 ClawAI 的实际实现详细说明,不含任何虚构的性能数据或夸大的营销措辞。

所有功能 · 最近审核:

七种路由模式,而非单一隐藏默认

ClawAI 会对每条消息分类,并可自动将其发送给合适的模型,你也可以自行设定规则。这些模式包括:Auto(按任务分类并为该类别选择强模型)、Manual Model(为对话固定一个模型)、Local-Only(每个请求都通过 Ollama 或 llama.cpp 留在你控制的硬件上)、Privacy-First(一个独立模式,有自己的优先级,把请求排除在通用云路径之外)、Low Latency(优先选择响应最快的模型)、High Reasoning(不论速度或成本,优先选择推理能力最强的模型)以及 Cost Saver(优先选择仍能处理请求的最便宜模型)。路由器的一般工作原理请参见下方链接的“什么是 AI 模型路由”。

让多个模型协同处理一个问题的九种方式

当单个模型不够时,ClawAI 的编排原语——在账本中记录于与普通聊天不同的 ORCHESTRATION 维度下——包括 Compare(最多五个模型并列处理同一提示词)、Consensus(从多个模型的一致之处综合出一个答案,并标记分歧点)、Escalation(从便宜的模型开始,仅在质量不足时自动升级)、Best-of-N(生成多个候选答案并保留最强的一个)、Repair(修复现有答案中的特定缺陷,而不是整体重新生成)、Verify(由第二个模型以可配置的修订轮数上限核查正确性)、Role packs(一小队按角色专精的模型依次交接)、Pipelines(把多个这样的阶段串联成一个可重复运行的命名工作流)以及 Judge 与 Critic(由独立模型按明确标准为答案打分,并由 Critic 阶段就薄弱之处给出书面反馈)。Compare 和 Judge 各自单独受方案限制(COMPARE_MODE、JUDGE_MODE、CRITIC_REVIEW);评估本身的运作方式请参见下方链接的“什么是 AI 共识”和“什么是 AI 裁判”。

当提供商在请求中途失败时会发生什么

路由决策不是一次性的赌注:如果请求发送到的提供商或模型在处理中途失败,ClawAI 可以自动切换到另一个模型,回答中会记录实际接手的模型,而不仅仅是最初选定的模型。该切换决策的做出方式请参见下方链接的“什么是模型故障转移”。

常见问题

ClawAI 有多少种路由模式?
七种:Auto、Manual Model、Local-Only、Privacy-First、Low Latency、High Reasoning 和 Cost Saver。Auto 是默认模式;其余六种适用于你想自行决定路由,或将其导向特定方向的情况。
Compare 和 Consensus 有什么区别?
Compare 会并列展示每个模型对同一提示词的回答,附带每个模型的延迟和令牌数,阅读交由你决定。Consensus 则从模型的一致之处综合出一个答案,并标记分歧点。
我能看到实际是哪个模型作答,以及原因吗?
可以——每个回答都带有生成它的提供商和模型、路由选择背后的理由,以及从你额度中扣除的成本。如果某个提供商失败而由另一个模型接手,这一点也会被记录下来。

与其相信我们的话,不如亲自试试

七种路由模式和九种编排原语是 ClawAI 中真实已上线的机制,而非单一隐藏默认设置——Compare、Judge 和 Critic 各自单独受方案限制,并在各自的账本维度上单独计量。