只更换知识问答中的回答模型,也需要重新核对答案。相同证据可能被新模型组织成不同结论,尤其是限定条件、引用关系和无依据时的处理方式。要判断变化来自模型,应先固定问题与最终上下文,做一次只比较回答行为的回归。
把回答模型变化从检索变化中分离
如果同时更新了向量模型、文档切分和回答模型,整体结果变好或变坏都难以定位。可以先保存一组已经核对的检索上下文,让两版回答模型读取完全相同的证据,再比较输出。这个阶段不评价新检索效果,只观察模型如何使用给定资料。
记录模型版本、回答指令、生成设置、输入证据和运行时间。对于会产生不同输出的设置,可以重复少量关键题,观察是否稳定;一次偶然答对,不能证明该问题已经可靠解决。重复次数与样本范围应写在记录中。
优先挑选容易改变结论的题
| 题型 | 重点核查 |
|---|---|
| 含例外的规则 | 是否省略“除外”“仅限”等条件 |
| 多来源回答 | 是否把不同对象的资料合并 |
| 证据不充分 | 是否用常识补成企业事实 |
| 数字与期间 | 是否改变单位或适用时间 |
例如旧模型会说“资料未明确处理时限”,新模型却根据一般经验写出“通常三个工作日”。这句话更具体,却没有得到当前证据支持。评测不能因为表达更流畅就奖励这种变化。
比较实质差异,不只比较文本
两个答案的段落顺序和句式可以不同。核查者应按必要信息、禁止推断和引用支撑逐项判断,区分表达改善与事实退步。若自动比较工具标出大量文字差异,先筛出影响结论、条件和证据的部分,再安排人工复核。
可以为每题记录“保持正确、改善、退步、仍失败”,并附上判定依据。关键失败应单列,而不是隐藏在整体得分里。是否接受某些表达变化,应根据业务任务决定,不能事后为了让新版本通过而修改标准。
通过固定上下文测试后再看完整链路
固定证据对照通过,说明新模型在这组输入上能够正确回答;它并不证明线上检索一定提供同样完整的证据。随后再运行完整知识问答流程,检查实际上下文长度、格式和缺失情况是否引入新问题。
若发生退步,保存失败输入和两版输出,尝试有明确目标的修复,并用原题及近似题复测。不要把失败题从测试集中移除,也不要仅给这一题加一个固定答案就结束。保留旧配置与比较记录,能使后续版本选择有依据。
这篇方法聚焦生成答案的内容行为,不涉及 Agent 工具执行或文档写回。把检索、生成和业务动作的验收范围划清,才能避免一个环节通过就被误解为整个系统已经可用。
在企业文档中验证
如果要把本文方法用于企业文档,可预约演示,结合实际资料核对协作、权限与集成方式。
需要在自己的环境中验证时,可先了解私有化部署方案,再确定试用范围与验收要求。