- 原岗位：大模型相关测试开发部门，一面
- 适用难度：初级—中级（按题目内容建议，不代表原岗位资历）
- 日期：2026年5月
- 来源性质：候选人本人公开分享
内容说明
本篇为社区对用户分享面经的整理汇编，旨在帮助求职者了解面试考察方向。问题部分力求忠实还原原帖问答脉络；「参考答案 / 复盘思路」为整理方结合工程实践原创补充，仅供交流参考，不代表官方标准答案。
面试问题与考核任务
1. Transformer 的 Encoder 和 Decoder 有什么区别，各自负责什么？
参考答案 / 复盘思路
Encoder 的主要任务是把输入序列转成包含上下文信息的表示，典型做法是让输入位置彼此进行双向注意力交互；Decoder 则负责按顺序预测输出，生成时通常使用因果掩码，不能偷看未来 token。原始编码器—解码器结构中，Decoder 还会通过交叉注意力读取 Encoder 输出；但不是所有大模型都同时具备两者，很多生成式 LLM 是 Decoder-only。
面试中可举测试例子：做摘要时关注长输入理解与输出忠实性；做续写时关注因果约束、停止条件和生成一致性。不要简单回答“Encoder 理解、Decoder 生成”，还要说明注意力掩码和数据流的差异。
2. 为什么模型总参数更多，单个 token 的推理成本不一定更高？
参考答案 / 复盘思路
总参数量是模型存储规模，不等于每生成一个 token 都会执行的计算量。实际成本还取决于激活参数量、网络结构、序列长度、注意力实现、批处理、硬件和缓存策略。比如稀疏模型可能存有大量专家参数，但每步只激活其中一部分；而长上下文会增加注意力和 KV Cache 的负担。
测试时应固定硬件、输入输出长度和并发，再分别记录首 token 延迟、每秒输出 token、显存峰值和单位请求成本。只比较模型参数规模或单次耗时，很容易把缓存命中、批大小变化误当成模型效率提升。
3. MoE 为什么能出现“总参数大，但单 token 计算不同比例增加”的情况？
参考答案 / 复盘思路
MoE（混合专家）通常通过路由器为每个 token 选择少量专家参与计算，未选中的专家参数虽然存储在模型中，却不参加该 token 的专家层前向计算，因此总参数量与激活计算量可以明显分离。不过注意力层、路由、专家间通信和显存驻留仍有成本，并非“参数免费”。
工程验证不能只测平均吞吐：还要构造不同领域、不同长度和高并发输入，观察专家负载不均、跨设备通信、尾延迟与显存溢出。若某类请求集中命中少数专家，平均指标可能好看，P99 却恶化。
4. 什么是灾难性遗忘？
参考答案 / 复盘思路
灾难性遗忘是模型在学习新任务或新分布时，原本掌握的部分旧能力显著退化的现象。它常见于持续训练或微调：模型在新数据上指标上升，但通用问答、旧领域分类或安全约束的表现下降。并不是所有新旧指标波动都属于遗忘，还要排除数据集变化和随机误差。
测试设计应在训练前冻结旧任务回归集，同时准备新任务集，升级后做同条件对比。除均值外按场景分桶，看哪些旧能力退化；对重要样本保存模型版本、Prompt 与推理配置，确保问题可复现。
5. 大模型为什么会产生幻觉？
参考答案 / 复盘思路
模型按条件概率生成看似合理的文本，并不天然具备事实校验机制。知识缺失、训练数据冲突、检索证据不足、提示词歧义和过强的“必须回答”倾向，都可能让它在没有依据时补出细节。幻觉不等于所有错误：格式错误、工具超时、过期知识也应分别归因。
做质量评测时，先定义“哪些事实必须有证据”，建立带出处的样本集；分别统计无依据断言、与证据矛盾、遗漏关键限定条件等类型。对高风险场景应允许模型拒答或提示不确定，而不是单纯追求回答率。
6. Temperature 参数控制什么？
参考答案 / 复盘思路
Temperature 会改变下一 token 概率分布的尖锐程度。温度较低时，高概率 token 更容易被选中；温度较高时，低概率候选被采样的机会增大，输出往往更丰富但波动也可能增加。它不是准确率开关，实际效果还受到 top-p、采样实现和模型服务端约束影响。
测试时固定 Prompt、模型版本、随机种子（若接口支持）和其他采样参数，重复生成多次，比较答案一致性、任务正确率和多样性。不能仅凭一条样例断言“温度越低越好”。
7. Temperature 接近 0，模型就不会出现幻觉了吗？
参考答案 / 复盘思路
不会。低温度通常减少随机采样带来的输出差异，却不能修复模型知识错误、错误检索、错误上下文或推理逻辑缺陷。即使每次稳定地产生同一个答案，也可能是稳定地答错。部分推理服务还可能因并行计算或内部实现导致小幅非确定性。
验证方案应把“稳定性”和“事实忠实性”分开：重复相同输入测输出一致性，再对照可信证据判断事实是否正确。对于 RAG 还需核验引用是否真的支持断言，避免把低温下的高重复率误当成低幻觉率。
8. 向量数据库中，两个同义词通常是什么关系？
参考答案 / 复盘思路
在语义向量空间中，语境相近的词或短语往往有较高相似度，例如“退款”和“退货退款”在某些业务语境下可能接近；但具体距离取决于嵌入模型、训练语料和上下文。向量数据库本身主要负责存储、索引和检索，不负责保证同义词一定相邻。
测试可构建同义改写、近义但业务含义不同、否定句和多义词样本，观察 Top-K 召回率、排序与误召回。比如“取消订单”和“取消退款”字面相近，却不能被当成相同意图。
9. 完全同义的词语在向量空间中，会落在同一条线上吗？
参考答案 / 复盘思路
没有这种必然几何约束。Embedding 是高维表示，语义相似通常用余弦相似度或距离衡量，并不要求两个向量共线，更不保证坐标完全相同。词在不同上下文中也可能得到不同表示；如果使用归一化向量，余弦相似度接近 1 只能表示方向接近，不能据此认定业务语义完全等价。
验证时可做向量可视化辅助理解，但不能用二维投影位置直接判定语义。真正的质量门槛应来自标注过的同义、反义和易混淆业务样本的检索表现。
10. RAG 的整体工作流程是什么？
参考答案 / 复盘思路
RAG 可以拆成离线建库和在线问答两条链路。离线侧进行文档解析、清洗、切分、向量化、索引建立和权限标记；在线侧处理问题、检索候选片段、必要时重排，把证据连同指令交给模型生成答案，再做引用与安全校验。系统不一定每一步都使用向量检索，也可结合关键词或结构化查询。
测试时分别覆盖文档入库正确性、召回质量、权限隔离、生成忠实度和端到端延迟。否则最终答案错误时，很难判断是切分丢信息、召回失败还是生成阶段编造。
11. 从用户 Query 进入系统开始，完整讲一遍一次 RAG 请求如何执行。
参考答案 / 复盘思路
用户发起 Query 后，服务先做鉴权与输入规范化，识别租户和检索范围；必要时改写问题或拆分子问题。随后进行混合检索、过滤无权限内容、重排候选 Chunk，并判断证据是否足够。把有出处的片段和用户问题组装成受控上下文，交给模型生成，最后检查引用、格式和敏感信息，再返回答案与可追溯来源。
面试中最好顺着一条 Trace 讲清每步输入输出及失败路径：例如索引滞后、召回为空、重排超时、引用失配时，系统如何降级或拒答。还要说明日志中不应明文泄露用户隐私。
12. RAG 检索到的 Chunk 不足以回答问题时，后续怎么处理？
参考答案 / 复盘思路
第一步不是让模型“发挥”，而是识别证据不足。可以检查检索阈值、文档解析是否遗漏、权限过滤是否过严，再按策略扩大 Top-K、使用关键词补召回、改写 Query 或触发二次检索；如果仍无可靠依据，就明确提示无法确认，必要时转人工或请求补充信息。
测试要构造“无资料”“部分证据”“证据相互冲突”和“权限外资料存在”等场景，分别检查拒答、引用、越权与延迟。不能为了提高回答率而无条件降低相似度阈值，否则误召回可能放大幻觉。
延伸思考（社区补充）
如果一套企业RAG问答系统在更新Embedding模型后，Top-K召回率提高了，但回答中的无依据断言也变多了，如何分层定位并判断是否允许上线？可对照固定问答基准集，分别检查召回、重排、引用忠实度和拒答表现。
