【每日一题】RAG系统检索质量如何评估(附答题要点)

题目:你在测试一个基于 RAG(检索增强生成)架构的知识库问答系统,产品反馈"回答不准确"。请口述你会如何分层设计测试策略来评估检索质量,并说明常用指标和工具。

难度:中级 题型:面试口述题

:point_right:参考答案/答题要点:

  1. 分层归因思路:先测检索层再测生成层,定位问题在"召回不对"还是"召回对了但生成跑偏"。
  2. 检索层核心指标:
  • Recall@K:Top-K 结果中包含正确文档的比例
  • MRR(Mean Reciprocal Rank):正确文档首次出现位置的倒数均值
  • NDCG@K:考虑排序位置的归一化折损累计增益
  1. 生成层端到端指标(RAGAS 框架四维度):
  • Faithfulness:答案是否可被检索到的上下文支撑(防幻觉)
  • Answer Relevance:答案是否切题
  • Context Precision:检索到的上下文是否精炼
  • Context Recall:上下文是否覆盖了回答所需信息
  1. 测试集构造:人工标注 Golden QA 对 + LLM 辅助批量生成边界/对抗样本
  2. 常用工具:RAGAS、TruLens、DeepEval、LangSmith Tracing
  3. 实际工作采分:强调与业务对齐(如客服场景关注幻觉率,搜索场景关注 Recall),以及 bad case 分类归因能力