题目:你在测试一个基于 RAG(检索增强生成)架构的知识库问答系统,产品反馈"回答不准确"。请口述你会如何分层设计测试策略来评估检索质量,并说明常用指标和工具。
难度:中级 题型:面试口述题
参考答案/答题要点:
- 分层归因思路:先测检索层再测生成层,定位问题在"召回不对"还是"召回对了但生成跑偏"。
- 检索层核心指标:
- Recall@K:Top-K 结果中包含正确文档的比例
- MRR(Mean Reciprocal Rank):正确文档首次出现位置的倒数均值
- NDCG@K:考虑排序位置的归一化折损累计增益
- 生成层端到端指标(RAGAS 框架四维度):
- Faithfulness:答案是否可被检索到的上下文支撑(防幻觉)
- Answer Relevance:答案是否切题
- Context Precision:检索到的上下文是否精炼
- Context Recall:上下文是否覆盖了回答所需信息
- 测试集构造:人工标注 Golden QA 对 + LLM 辅助批量生成边界/对抗样本
- 常用工具:RAGAS、TruLens、DeepEval、LangSmith Tracing
- 实际工作采分:强调与业务对齐(如客服场景关注幻觉率,搜索场景关注 Recall),以及 bad case 分类归因能力