Journal / 2026 / 科技

五个小模型组队,能否追上前沿编码模型

2026 年 10 月 31 日,Memdoor 用五个 Qwen3.8-27B 智能体组队,在 LiveCodeBench Hard 前 10 题上跑出平均 9.8/10,追平 GVS5H 作者 harness。本文拆解角色分工、对照数字与污染风险。

五个小模型组队,能否追上前沿编码模型
封面 取自本文正文首图,点击可放大
目录 · 1105 字 / 3 分钟

2026 年 10 月 31 日,Memdoor 在 Hacker News 发布了一个叫 team-solve 的工作流:五个 Qwen3.8-27B 智能体组队,在 LiveCodeBench Hard 的前 10 道题上五轮平均拿到 9.8/10。它复刻的是 GVS5H(Lee, 2026)的方法——五个小模型通过共享文件系统协作,而不是让一个大模型一次生成。

它是怎么组队的

按 Memdoor 的说明,team-solve 由五个角色组成:一个规划者、两个出主意的人、一个求解者、一个管理者、一个修复工。每个角色都从全新的上下文开始,彼此只通过磁盘上的文件交流——计划、笔记、当前解法。

工作流本身是八个 YAML 文件,没有代码,也没有写死模型。这意味着你可以把 Qwen3.8-27B 换成别的模型,或者接到本地推理后端上跑。

数字怎么看

Memdoor 公布的对照是这样的:

  • 前 10 道题、每题 5 轮:team-solve 平均 9.8/10,GVS5H 作者自己的 harness 9.6,Fable 5 单次调用 8.0。
  • 作者完整 100 题的口径:GVS5H 92.4,Fable 5 90.4。
  • 50 次运行的中位数是 40 分钟、0.39 美元一次;50 次合计 35.79 美元。
  • 全部 50 次运行的请求、回复、程序、评分器输出都公开了。

这里要克制:Memdoor 只跑了 10 道题、5 轮,而作者跑的是 100 道题。9.8 和 9.6 的差距在噪声范围内,Memdoor 自己的结论也只是「与作者 harness 打平」,不是「超过前沿模型」。

GVS5H 原本做了什么

GVS5H 的论文摘要给出的范围更大:在 100 道最新的 LiveCodeBench Hard 题上,跨十一个开源与闭源模型,这套「基于账本的零样本自编排」最多带来 25.6 个百分点的提升。编排后的 Qwen3.8 Flash Next 达到 93.0% pass@1,而 Fable 5 是 90.4%,成本约为后者的 9%;本地部署的 Qwen3.8-27B 从 66.8% 升到 92.4%。

论文也明确说,收益不是普适的:有些模型没有变化,甚至更差。

怎么自己试

  1. 按 GVS5H 仓库的说明准备 uv 和一个模型 API key。
  2. 用 --engine multiagent 跑多智能体,--engine single 跑单次调用基线。
  3. 先跑 10 道题、1 轮,确认环境和评分器,再扩大到 5 轮。
  4. 记录每题耗时、token 成本和失败模式,别只看平均分。

Memdoor 那边则可以直接装 CLI,用 YAML 工作流接本地模型;适合想改角色分工的人。

还没验证的部分

  • 污染:题目来自 2025 年春季的比赛,模型可能见过;论文和 Memdoor 都没有排除这一点。
  • 样本量:Memdoor 的 10 题 5 轮不能替代作者的 100 题结论。
  • 失败模式:Memdoor 记录了一次「管理者编造错误反例,团队把正确程序改错」;这类协作失败是否普遍,没有统计。
  • 成本口径:0.39 美元一次是 OpenRouter 上的中位数,换后端会变。

参考来源

本文基于以下公开报道整理:


本文由 AI 辅助整理,事实与引文来自 Memdoor 公开结果页、GVS5H 论文与仓库、Hacker News 公开元数据;未独立复跑基准,配图为本地生成的信息图。

§

所属主题

Topics

主题只是把现有标签归并后的浏览方式,标签本身不变;全部标签 · 画廊

← 全部文章