爱意满满的作品展示区。
VforVendetta

[开源] 让人人用上 Claude Fable 5,基于多模型 MoA 编排

  •  
  •   VforVendetta · 8h 52m ago · 422 views

    Claude 的额度实在扛不住高频使用。 所以自己折腾了一个东西,把多个模型「组队」起来——不指望一个诸葛亮包打天下,而是让几位军师各出一招、再有个判官做交叉审稿,合起来希望能力逼近 Fable 5

    为什么觉得这事儿值得做

    OpenRouter 前阵子在 DRACO 深度研究基准上做了个实验:Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro 三个模型 Fusion 起来,得分 **64.7%**,和 Claude Fable 5 单跑的 65.3% 只差 0.6 个百分点,而单任务成本大约只有一半。详见 OpenRouter Fusion

    结论很直接:单个模型不是终点,多个模型合体很多时候比单模型更强。

    但 OpenRouter 的 Fusion 是云端服务。我更想要的是:

    • 模型可以换、供应商可以换、路由策略可以改
    • 跑在免费 / 便宜的边缘推理上
    • 最好支持多种各种 api 格式

    于是就有了这个项目。

    做了什么

    基于 Mixture-of-Agents 论文,在 Cloudflare Worker 上实现了多层 MoA 编排:

    请求
      ├─ Layer 0: AnySearch 联网检索(可选,结果注入 <CONTEXT>)
      ├─ Layer 1: N 个 proposer 并行(不同模型提供多样化视角)
      ├─ Layer 2: judge 冲突分析(产出共识 / 冲突 / 遗漏 / 无证据清单)
      └─ Layer 3: aggregator 综合最终答案(非简单拼接,是带裁决的二次审稿)
    

    关键点:aggregator 不是把几个答案拼一起,而是基于 judge 的分析做二次审稿——保留共识、修正冲突、补上遗漏、删掉无证据的自信表述。

    对外暴露两套协议:

    • /v1/messages:Anthropic Messages API 兼容(非流式 + SSE 流式)
    • /mcp:MCP Streamable HTTP ,工具 moa_reason

    灵活支持各种调用

    模型组合

    Cloudflare Workers AI 现在有 12 个前沿模型可选,我预置了三套组合:

    预设 组合 说明
    A (最强) kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / kimi-k2.6 3 前沿 proposer + kimi-k2.6 aggregator
    B (均衡) kimi-k2.7-code / glm-5.2 / nemotron-3-120b-a12b / gpt-oss-120b proposer 全前沿,aggregator 省
    C kimi-k2.6 / qwen3-30b-a3b / glm-5.2 / gpt-oss-120b 对标 DeepSeek+Kimi+Qwen Fusion

    格式是 proposer1/proposer2/.../aggregator,最后一个做综合。URL 里直接拼模型组合就能切,不用改配置。

    还可以使用在线的 moa 模型组合配置器 pasted-image-1784383411523.webp

    评测结果

    基础基准( GSM8K / ARC / C-Eval ) 70 题,整体准确率 **98.6%**。

    DRACO 深度研究基准( 100 个复杂任务,4 维度 rubric ,LLM-as-judge 评分)对标 Fable 5 的 65.3%,达标阈值 ≥ 60%。写这帖的时候评测还在跑,已完成 26/100 ,当前 overall 均值 43.5%,单题最高 70%。完整结果跑完会更新到 README 。

    一点想法

    做这个最大的感受是:「前沿模型能力」不一定只能靠买更贵的模型获得。 它也可以被拆成一套本地可控的协作流程——谁出推理、谁出代码、谁出事实、谁做裁决。Fable 5 的能力不是黑盒,是几种能力的组合,组合可以被工程化复现。

    项目 MIT ,模型组合、搜索 provider 、judge 策略都可以换。如果你有更强的模型组合建议或者评测结果,PR 直接提。

    GitHub: cpcc/moa

    2 replies    2026-07-18 23:38:01 +08:00
    shakaraka
        1
    shakaraka  
       8h 37m ago
    https://omo.dev

    Oh My OpenAgent 已经实现了类似编排
    VforVendetta
        2
    VforVendetta  
    OP
       7h 53m ago
    @shakaraka 两者编排的对象不一样:
    omo 跑在本地
    moa 跑在云端

    omo 编排任务:计划→委派给专家 agent→验证→写代码
    moa 编排推理:proposer→judge→aggregator 把多个便宜模型输出合成一个答案
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1037 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 23:31 · PVG 07:31 · LAX 16:31 · JFK 19:31
    ♥ Do have faith in what you're doing.