OpenClaw 工作流出过问题以后,如果只在群里说一句“已经处理”,这个事故很快就会消失。下次改提示词、换工具、重建知识库时,同样的问题还有可能再来一次。
失败样本库的价值,就是把事故、接管和回滚沉淀成可复用材料。它不是为了追责,而是为了给后续评测、灰度、回放和培训提供真实样本。它可以连接 回滚预案、人工接管入口 和 回放验收。
先定义什么算失败样本
失败样本不只是严重事故。高置信度错误回答、错误工具调用、无证据生成、该接管没接管、回滚失败、重复告警、人工修正幅度很大,都值得进入样本库。
如果只收大事故,样本库会太少;如果所有小波动都收,又会没人维护。比较实用的标准是:这件事是否能帮助未来发现同类风险。
样本要保留完整过程
一个失败样本至少要包含用户输入、任务目标、当时上下文、工具轨迹、引用来源、Agent 输出、人工修正、最终结果和影响范围。只保存最终错误答案,后面很难复盘原因。
这部分和 审计日志字段 是配套的。日志字段越完整,失败样本库越容易自动生成;日志越粗糙,后面越依赖人工回忆。
给样本打上可检索标签
样本库要能检索。建议至少有错误类型、业务场景、工具名称、知识源、严重程度、是否客户可见、是否已修复、是否进入评测集这些标签。
标签不要太多,但要能服务后续动作。比如“工具顺序错误”和“知识库冲突”比“表现不好”更有用,因为它们能指向不同的修复方式。
从样本库生成评测题
不是每个失败样本都要变成评测题。适合进入评测集的,是那些会反复出现、影响关键流程、可以写清通过标准的样本。
比如某次 Agent 在退款场景里跳过了订单校验,就可以变成一条评测题:必须先调用订单查询工具,确认状态后才能生成建议。这样旧事故就变成了新版本上线前的检查点。
总结
OpenClaw 失败样本库的核心,是把事故记录、人工接管、回滚过程、工具轨迹、修正答案和复盘结论沉淀下来。每一次失败都应该变成以后更稳的一部分,而不是只在当天被处理掉。