Skip to content

[Forge Next][E11] 运行能力组消融评测 #47

Description

@ZeroZ-lab

Parent

#2

What to build

使用结果导向 benchmark 比较无能力、单能力、能力组和完整组合,判断每个 skill 对不同模型和任务族的真实收益、成本与干扰。

Acceptance criteria

  • 消融组和对照组使用相同 fixture、预算和 verifier。
  • 分别报告 outcome、安全门禁、上下文成本、验证成本和失败模式。
  • 直接行动和未激活能力被视为正常结果。
  • 结果按模型与任务族分层,不用单个总分掩盖异质性。
  • 样本不足、结果冲突和无显著收益会被明确报告。
  • 评测结论不预设最终 skill 数量。

Verification

执行预注册的消融矩阵和必要重复样本,生成可追溯到运行报告的决策输入。

Blocked by

Guardrails

  • Skill 是可选能力,不是阶段或强制路由节点。
  • 不以调用命中率代替 outcome 证据,不预设最终 skill 数量。
  • 不修改发布版本号。
  • 完成变更后同步权威事实,并由顶层任务写一个 Change Unit;记录未验证项与回滚方式。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions