LLM 面试备考
首页/总览

GLOSSARY —— LLM 中英术语表

中文列是理解入口，英文列是面试输出用词。写英文答案时，同一个概念必须始终用英文列的写法。

格式：中文 | English | 一句话说明 | 所属章节

状态：初版骨架，按「广度优先」先铺宽。定义会随内容加深而修订。
尚未核对一手来源；如发现可疑条目，在 ## Comments 里标记，不要直接删。

01-llm-core#

中文 English 说明 章节
变换器 Transformer 基于自注意力、可并行训练的序列建模架构，现代 LLM 的底座 01
自注意力 Self-Attention 序列内每个位置对全部位置加权求和，权重由 Q·K 相似度决定 01
多头注意力 Multi-Head Attention 并行多组注意力，各头学不同子空间的关系 01
因果掩码 Causal Mask 遮蔽未来位置，保证自回归生成时只能看到左侧上下文 01
KV 缓存 KV Cache 缓存历史 token 的 K/V，避免每步重算，是推理显存的主要占用 01
分组查询注意力 GQA (Grouped-Query Attention) 多个 query 头共享一组 K/V 头，压缩 KV Cache 体积 01
多头潜在注意力 MLA (Multi-head Latent Attention) 把 K/V 压到低维潜空间再缓存，进一步压显存 01
旋转位置编码 RoPE (Rotary Position Embedding) 用旋转矩阵编码相对位置，支持长度外推 01
分词 Tokenization 把文本切成模型词表内的 token 01
字节对编码 BPE (Byte-Pair Encoding) 按频次合并字符对的子词切分算法 01
嵌入 Embedding 把 token 映射成稠密向量 01
预训练 Pretraining 在海量语料上做下一 token 预测，得到基座模型 01
缩放定律 Scaling Law 损失与参数量、数据量、算力的幂律关系，指导资源配置 01
上下文窗口 Context Window 模型单次能处理的最大 token 数 01
混合专家 MoE (Mixture of Experts) 每层多个专家网络，按路由只激活少数，参数量大但计算量小 01
幻觉 Hallucination 生成看似合理但与事实不符的内容 01
长上下文外推 Context Extension 把训练时的窗口长度扩展到更长（RoPE 缩放、位置插值等） 01
多模态 Multimodal 同时处理文本、图像、音频等多种模态的模型或任务 01
时间序列建模 Time Series Modeling 对时序数据做预测/分类的方法族（CNN-LSTM、Transformer、自监督预训练等） 01
视觉编码器 Visual Encoder 把图像编码成向量的模块，主流是 ViT 家族；输出即「视觉 token」 01
视觉 Transformer ViT (Vision Transformer) 把图像切成 patch、每个 patch 当一个 token 送进 Transformer 的编码器 01
连接模块 / 投影器 Connector / Projector 把视觉特征映射到 LLM 的 embedding 空间；同时决定送入多少 token、每个装什么 01
模态鸿沟 Modality Gap 视觉特征与文本 embedding 分属无关空间、维度与分布均不匹配的问题 01
视觉 token Visual Token 图像经 patchify 与编码后得到的一串向量；对 LLM 而言与文本 token 无异 01
早融合 / 晚融合 Early / Late Fusion 多模态信息在架构的哪一层合并；注意与「多模态特征融合」这类宽泛用法的区别 01

02-post-training#

中文 English 说明 章节
监督微调 SFT (Supervised Fine-Tuning) 用「指令 → 答案」对继续训练，让基座模型学会听指令 02
指令微调 Instruction Tuning SFT 的常见形态，用多样化指令数据提升泛化 02
基于人类反馈的强化学习 RLHF 用人类偏好训奖励模型，再用 RL 优化策略 02
奖励模型 Reward Model 学习人类偏好、给回答打分的模型 02
近端策略优化 PPO (Proximal Policy Optimization) 经典 RL 算法，RLHF 常用；需同时载入 4 个模型，成本高 02
直接偏好优化 DPO (Direct Preference Optimization) 跳过奖励模型，直接在偏好对上优化策略，把 RL 问题转成分类损失 02
组相对策略优化 GRPO (Group Relative Policy Optimization) 对同一 prompt 采样一组回答，用组内相对优势替代价值网络 02
偏好数据 Preference Data (prompt, chosen, rejected) 三元组，DPO / 奖励模型的训练输入 02
灾难性遗忘 Catastrophic Forgetting 微调后丢失基座原有能力 02
数据混合 Data Mixing / Replay 在微调语料里掺入通用数据，缓解灾难性遗忘 02
低秩适配 LoRA (Low-Rank Adaptation) 冻结原权重，只训低秩增量矩阵，显存友好 02
过度拒答 Over-refusal 安全对齐过强，对无害问题也拒绝作答 02
对齐 Alignment 让模型输出符合人类价值与规范 02
拒绝采样 Rejection Sampling 用模型自采样 + 筛选构造高质量训练数据 02
知识蒸馏 Distillation 用大模型输出监督小模型 02
开源 RL 训练框架 Verl 字节开源的 RL/RLHF 训练库，支持 SFT + RL 两阶段流水线 02
智能体强化学习 Agentic RL 把 RL 的训练单元从「一条回答」换成「一条轨迹」（多轮工具调用）；见 08-agentic-rl.md 02
轨迹 Trajectory / Rollout 一次任务从开始到结束的完整交互序列，Agentic RL 的训练单元 02
优势 Advantage 相对 baseline 的好坏估计，策略梯度的权重；GRPO 用组内归一化奖励替代 02
信用分配 Credit Assignment 把终局奖励归因到具体步骤或动作；GRPO 在长轨迹上归因很粗 02
可验证奖励 Verifiable Reward / Verifier 由规则或执行结果判定的奖励，稳定且难被钻空子 02
零优势组 Zero-advantage Group 组内奖励方差为零（全对或全错）的小组，对训练无贡献 02
动态采样 Dynamic Sampling 优先采样处于能力边界附近的样本，缓解零优势组 02
轮级奖励 Turn-level Reward 把终局奖励拆到每次工具调用上，缓解信用分配过粗 02
策略滞后 Policy Lag 异步 rollout 下轨迹进入训练时 policy 已更新多次，数据变 off-policy 02
交互片段 Interaction Chunk 多轮 agent 轨迹中「一次环境交互到下一次交互之间」的连续片段，通常以一次工具调用结束；被当作语义上的动作单元 02
分块马尔可夫决策过程 Chunked MDP 把多轮 agentic 交互建模在 chunk 层而非 token 层，理由是「大多数 token 并不改变环境状态」 02
交互感知的智能体策略优化 IPA (Interaction-Perceptive Agentic Policy Optimization) 在 chunk 层计算回报与重要性采样、并对整个 chunk 做 masking；见 08-agentic-rl.md §5（阿里，arXiv 2512.24873） 02
掩码与过滤 Mask and Filter 把无法提供有效学习信号的样本剔出梯度：不可恢复的错误整体 mask 并用占位样本替换，偶发可恢复的错误按全局比例 filter 02
过程奖励模型 PRM (Process Reward Model) 给中间步骤打分的奖励模型；手上已有训好的 PRM 是值得从 GRPO 转向 PPO+critic 的三条判据之一 02
训推不一致 Train-Infer Mismatch 即便参数一致，rollout 引擎（如 SGLang）与训练引擎（如 Megatron）之间仍存在 logprob 的系统性偏差 02
约束数据集 Constraint Dataset 为特定规范（如合规作答）定制的训练数据 02

03-rag#

中文 English 说明 章节
检索增强生成 RAG (Retrieval-Augmented Generation) 先检索外部知识再生成，降低幻觉、接入私有数据 03
分块 Chunking 把长文档切成检索单元；粒度直接影响召回质量 03
向量数据库 Vector Database 存稠密向量并做近似最近邻检索（FAISS / Milvus / Chroma 等） 03
嵌入模型 Embedding Model 把文本编码成向量（如 BGE 系列） 03
双编码器 Bi-Encoder 查询与文档分别编码，可预建索引、检索快，但精度略低 03
交叉编码器 Cross-Encoder 查询与文档拼在一起打分，精度高但慢，通常只用于重排 03
重排序 Reranking 对初筛结果重排序，提升 top-k 精度 03
混合检索 Hybrid Retrieval 稀疏（BM25）与稠密向量结果融合，互补长尾与语义 03
倒数排名融合 RRF (Reciprocal Rank Fusion) 按排名倒数融合多路检索结果，无需调权重 03
知识图谱增强检索 GraphRAG 抽出实体关系构图，做社区摘要，回答跨文档全局问题 03
查询改写 Query Rewriting 把口语化/多轮问题改写成利于检索的查询 03
召回率 Recall@k 前 k 条里命中率；RAG 里通常比精确率更关键 03
上下文压缩 Context Compression 运行期对注入的检索结果做减法，降低 token 成本与噪声 03
上下文感知检索 Contextual Retrieval 索引期用 LLM 为每个 chunk 生成前缀摘要再拼接索引；对稀疏与稠密两路同时增益。注意与「上下文压缩」相反：一个在索引期做加法、一个在运行期做减法。见 07-contextual-retrieval.md 03
检索失败率 Retrieval Failure Rate 工业口径：正确信息未出现在 top-20 的比例。不等于学术的 recall@k（后者是相关文档被召回的比例） 03
倒排索引 Inverted Index 词 → 含该词的文档列表；稀疏检索（BoW / TF-IDF / BM25）共享的底层结构，也是它「精确匹配强、语义弱」的原因 03

04-agent-architecture#

中文 English 说明 章节
智能体 Agent 由 LLM 驱动、能自主规划并调用工具多步完成任务的系统 04
多智能体 Multi-Agent 多个分工不同的 agent 协作（主管、路由、流水线等拓扑） 04
主管模式 Supervisor Pattern 一个调度 agent 分派子任务给专职 agent 并汇总结果 04
工具调用 Tool Use / Function Calling 模型输出结构化调用请求，由外部执行并回灌结果 04
模型上下文协议 MCP (Model Context Protocol) 标准化模型与外部工具/数据源连接的开放协议 04
推理—行动循环 ReAct Reasoning + Acting 交替，边想边调工具 04
人在环中 Human-in-the-loop 关键节点插人工确认（如先确认提纲再写作） 04
反思 / 自修正 Reflection / Self-Correction 让模型检查自己的输出并重试，提升鲁棒性 04
任务分解 Task Decomposition 把复杂请求拆成可执行子任务 04
上下文工程 Context Engineering 有意识地组织注入模型的上下文（检索、记忆、工具描述） 04
记忆 Memory 跨轮次保留状态（短期对话 / 长期向量记忆） 04
智能体框架 LangGraph 用图结构编排 agent 状态机与多智能体流程 04
智能体框架 Agno 以 team / workflow 原语组织多智能体的框架 04
提示工程 Prompt Engineering 通过设计指令、示例与工具描述来引导模型行为；在 agent 场景中等同于接口设计 04
技能 Skill ⚠️ 两个义项：A 任务封装义 —— 面向任务的可复用能力单元（Prompt + 工具调用编排 + 控制逻辑），判据是「单动作 vs 面向任务的多步编排」；B 上下文机制义 —— 装着 SKILL.md 的文件夹，核心属性是渐进式披露，判据是「是否按需加载」。遇到「Skill 和 MCP 什么关系」先摆义项。见 08-agent-stack.md 04
命令行接口 CLI (Command Line Interface) 在 agent 语境里通常指一种特殊的 Tool —— 暴露给 Agent 的可执行能力；特殊性在于输入输出是非结构化的，所以需要 MCP 这类协议包装 04
框架环境 / 评测框架 Harness 先给主流定义：Agent = Model + Harness，Harness = 上下文管理 + 工具接口 + **约束 + 验证 + 纠正**，在 Agent 边界之内。另两个位置：① 评测 —— 批量运行 Agent、收集轨迹、自动打分、支撑回归与 A/B 的那套设施（在 Agent 外面）；② 训练/生产一致性 —— 强调训练时那套与线上那套是否同一套，「训练 harness ≠ 生产 harness」会导致部署后退化。别再说「Harness 不提升能力」 —— 是不改变智能上限但显著改变任务表现 04
技术栈分层 Agent Stack Tool（能力）→ MCP（接入）→ Skill（任务）→ Agent（决策）→ Harness（跑与评），Prompt 贯穿全程不占层。见 08-agent-stack.md 04
编码智能体 Coding Agent 以代码为动作空间的 Agent：读写文件、执行命令、跑测试直到通过。成熟度最高不是模型特别强，而是软件工程几十年的基础设施（测试/类型/Git）天然构成 Harness。见 09-coding-agent.md 04
渐进式披露 Progressive Disclosure 先只给 Agent 一份薄目录（name + description，数百 token），需要时再加载正文；Skill 机制的核心属性，也是 2026 平台原生 tool_search 的思路。常驻成本与同时暴露多少条能力是两个独立决策 04
提议者—审核者 Proposer–Reviewer 产出与评判由不共享上下文的两个角色承担，评判方看产物本身（渲染结果、测试输出、结构化参数）而非推理过程。前提是「自审不可靠」 04
只增不改 Append-only 已写入的轨迹不回头修改；换来可缓存、可重放、可审计。KV Cache 的前缀稳定性是它的性能形态 04
最小 diff + 可回滚 Minimal Diff & Rollback 每次修改尽量小、带来源、可单独回滚，让归因成为可能 04
智能体状态栏 Agent Status Bar 把 cwd / git 分支 / 最近提交 / 未处理事件数等元信息动态注入上下文，用于提升轨迹管理与循环控制 04
安全点 Safe Point 异步 Agent 可被打断的位置：一段推理结束或一次工具返回；取消点必须在能安全收尾处，未完成的工具结果用占位符表示，不能伪造成功。见 11-async-event-driven.md 04
持续进化 Continual Evolution 从运行轨迹中获得学习信号、更新模型外围的知识/指令/程序/参数四类载体。见 12-continual-evolution.md 04
睡眠学习 Sleep-time Learning 空闲期离线整合：触发 → 定向 → 采集整合 → 验证审批 → 修剪索引；与在线服务隔离 04

05-agent-evaluation#

中文 English 说明 章节
基准测试 Benchmark 标准题集 + 指标，用于横向比较模型能力 05
模型当裁判 LLM-as-a-Judge 用 LLM 给输出打分/成对比较，需防位置与长度偏置 05
精确匹配 EM (Exact Match) 答案与标准答案完全一致的比例 05
答案包含率 Answer Containment 生成答案包含标准答案的比例，EM 的宽松替代 05
黄金集 Golden Set 人工标注的高质量评测集 05
回归评测 Regression Eval 每次改动后跑固定集，防止能力回退 05
离线评测 Offline Evaluation 用固定数据集评测，不涉及真实用户 05
在线评测 Online Evaluation A/B 或影子流量上的真实指标 05
区域化评测集 HKMMLU 面向香港本地知识与价值的区域基准 05
通过率 Pass@k 同一任务跑 k 次，至少一次通过的比例（=1−(1−p)k=1-(1-p)^k）；衡量能力上限，适用于探索性任务 05
连续通过率 Pass^k / Pass consecutive k 同一任务连续 k 次全部通过（=pk=p^k）；衡量业务可靠性，适用于支付、退款、权限变更、生产部署等场景。p=0.6,k=5p=0.6,k=5 时 Pass@5≈99.0% 而 Pass^5≈7.8% 05
最好成绩 Best@k 连续得分任务里 k 次中最好的一次；与 Pass@k 同属「给足机会看上限」的口径 05
标准误 SE (Standard Error) p(1−p)/n\sqrt{p(1-p)/n}；误差按 1/n1/\sqrt{n} 缩小，故要减半误差需 4 倍样本 05
配对检验 Paired Test（McNemar / paired bootstrap） 同一批任务比较两系统时只看分歧样本的检验；比两个独立成功率相减灵敏得多 05
统计显著性 Statistical Significance 判据三件套：分差超过噪声 + 配对成立 + 可复现；另需 3–5 个随机种子与多重比较校正 05
边界集与保留集 Boundary Set & Retention Set 任何修改都要在「应当改变的样本」与「不应受影响的样本」上同时验证；只测前者会把过拟合当进步 05

06-agent-infra#

中文 English 说明 章节
推理服务引擎 vLLM 高吞吐 LLM 推理引擎，OpenAI 兼容接口 06
分页注意力 PagedAttention 把 KV Cache 按页管理，消除显存碎片，大幅提吞吐 06
连续批处理 Continuous Batching 每步动态进出请求，避免等最长序列拖慢整批 06
张量并行 Tensor Parallelism 把单层权重切到多卡，降低单卡显存压力 06
量化 Quantization 降权重/激活精度（FP16→INT8/INT4）省显存提速 06
首 token 延迟 TTFT (Time To First Token) 从请求到首个 token 的延迟，影响体感 06
单 token 延迟 TPOT / ITL 生成阶段每个 token 的间隔 06
吞吐 Throughput 单位时间处理的 token 数，与延迟通常相互取舍 06
模型网关 AI Gateway 统一入口：多模型路由、限流、配额、密钥与日志 06
智能路由 Model Routing 按意图/难度选最合适的模型，兼顾质量与成本 06
可观测性 Observability 链路追踪与指标（如 Langfuse），定位 agent 失败点 06
提示词缓存 Prompt Caching 缓存公共前缀的 KV，降低重复系统提示的成本 06
结构化输出 Structured Output 约束模型按 JSON Schema 输出，便于程序消费 06

岗位与角色#

中文 English 说明 章节
前端部署工程师 FDE (Forward Deployed Engineer) 驻场客户侧、把模糊业务问题翻译成可交付系统的工程师角色，工程与客户沟通约各半 —
算法工程师 Algorithm Engineer 中文招聘语境里对 ML/AI 建模岗的通用称呼，覆盖面比 AI Engineer 宽 —

Comments#

（术语存疑、需要核对来源的，记在这里，不要直接删条目。）