我这些年面过的LLM岗位候选人少说也有上百个，坦白讲，简历上写着“精通Transformer”“熟悉RLHF”的人不少，但真正能把几个核心问题答利索的，十个里面也就两三个。更有意思的是，很多被淘汰的候选人不是死在项目经验上，而是栽在几个看似基础的问题上——这些问题就是大模型面试的“淘汰题”，答不上来，后面聊什么都白搭。
这篇文章把这8个必问题整理出来，逐个拆解面试官为什么要问、到底想听什么、怎么答才能拿分，再附上我作为面试官视角的一些观察和避坑经验。无论你是准备校招、社招，还是在团队里带人做技术面试，这篇文章都能帮你把“会背概念”和“真懂原理”之间的那道坎迈过去。
1. 为什么面试官都爱问这8个问题
1.1 从淘汰率看考察逻辑
先聊一个现象。我在自研大模型团队带人那段时间，每周都要做两三轮技术面，初筛简历时能看到大量类似表述：“熟悉GPT系列模型”“精通PyTorch”“做过LLM微调”。可真正进入一面，用这8个问题过一遍，淘汰率非常高。我印象很深的一场面试，候选人做了整整一年RAG项目，能很流畅地讲出RAG的流程、向量库选型、chunk切割策略，但当我问他“Transformer里为什么要用LayerNorm而不是BatchNorm”时，他愣住了——他知道是“为了稳定训练”，但说不清稳定在哪、为什么BatchNorm在NLP里不灵。
这就是淘汰题的考察逻辑：不是考你会不会背诵，而是考你有没有真正理解自己每天在用的那些东西。LLM是一个知识密集度极高的领域，面试官通过8个基础问题能在30分钟内快速判断出候选人对这项技术的理解是浮于表面的“应用层”，还是深入到“机制层”。如果是前者，大概率后面一遇到新颖问题就崩盘，工程上遇到诡异bug也排查不了。
1.2 面试官真正想判定什么
很多候选人误以为面试官在考“标准答案”，于是拼命背概念。但真实情况是，面试官手里没有标准答案册子，他们心里只有几个判定维度。
第一个维度是“讲不讲得出机制”。比如问你“多头注意力为什么比单头好用”，你如果说“因为多个头可以关注不同信息”，这只算入门；接着说“每个头在高维空间里的投影子空间不同，多个头相当于在不同子空间并行建模不同关系，而单头只能在一个子空间里做权衡”，这就算到机制层；如果还能补一句“但多头不是越多越好，头数多了单个头的维度变低，容易丢失信息，而且显存占用更大，实践中常看到8头、32头的设置”，这就完全踩中了面试官想听的点。
第二个维度是“会不会关联到工程问题”。面试官不会满足于“RoPE让模型拥有外推能力”这种一句话结论，他们会追问“外推能力从哪来”“如果序列长度超过训练长度会怎样”“怎么缓解”。这里能答上来的候选人，说明他真的用过、调过、踩过坑，而不是只看过论文。
第三个维度是“思维框架是否结构化”。面对“大模型为什么会产生幻觉”这种开放问题，优秀的候选人会一层层展开：训练目标导致的概率采样问题、知识截止带来的时间盲区、数据噪声被记忆、解码策略会放大不确定性……每个点都能举出例子。这种结构化的回答方式，比背三段式答案强得多。
所以这8个问题不是单纯的知识点，而是三块试金石：机制理解、工程经验、结构化思维。答不上来，本质上不是“知识点遗漏”，而是“学习方式有问题”——只看热闹，没看门道。
2. 硬核八连问：第一梯队必答的4个基础架构问题
2.1 Transformer为什么成了大模型的地基
这道题为什么放在第一个？因为Transformer是GPT系列、Llama系列、DeepSeek系列所有模型的地基，基础不牢，后面的遍数全白搭。面试官通常先给一个开放口：“聊聊你理解的Transformer结构”，然后慢慢收窄到关键细节。
一个拿高分的回答我会这样展开：首先点明Transformer的核心创新是抛弃了循环结构，完全依赖注意力机制建模序列关系，因此可以高度并行，极大提升训练效率；其次说清楚它的基本组成：多头自注意力模块、前馈网络（FFN）、残差连接和层归一化，叠很多层就成了大模型的主体。
这里有一个很关键的追问点：为什么LLM普遍用decoder-only，而当年BERT是encoder-only、机器翻译用的是encoder-decoder？这个问题值得提前想明白。Decoder-only用因果注意力（每个token只能看到自己之前的token），这让它天然适合“根据前文预测下一个token”的自回归生成任务，而预训练和生成时行为是一致的。Encoder是双向注意力，适合理解任务，但基于双向信息去做生成会有训练/推理不一致的问题。Encoder-decoder虽然灵活，但结构复杂、参数量翻倍、部署成本高，而且在大规模数据上并不比纯decoder模型表现好。这也是为什么今天的LLM几乎清一色是decoder-only架构。
另一个高频追问是“为什么用Pre-LayerNorm”。早期Transformer用的是Post-LN（把LayerNorm放在残差加法之后），但后来人们发现Post-LN在深层网络中容易训练不稳定，需要加warmup小心调。Pre-LN把LayerNorm挪到子层计算之前，残差路径更干净，梯度能顺畅回传，训练更稳，收敛更快。虽然理论上会稍微降低模型表达能力（有论文分析过），但工程上这点代价完全可以通过增加层数来弥补。
我遇到过不少候选人能画出Transformer结构图，但问“为什么”就卡壳。其实只要记住一条主线：结构设计本质上是在“表达能力、训练稳定性、计算效率”之间反复权衡。你把这个权衡讲清楚了，面试官就知道你是真的懂。
2.2 自注意力机制到底在计算什么
这道题几乎是必问中的必问，基本没有跳过它的可能。面试官最常见的问法：“抛开公式，用你自己的话解释Self-Attention在做什么。”
合适的回答是：Self-Attention就是让序列里每一个token，去看一遍所有其他token（如果是因果注意力就是它自己和之前的token），算出“我应该重点关注谁”，然后把注意力加权汇总各自信息。翻译一下这句话就是：每个位置从整个序列中收集信息，更新自己的表示。
再往深一层说，Q、K、V是从输入X分别通过三个不同的线性变换得到的。为什么需要三个不同的向量空间？因为要让“查询”和“被查询”的角色分开。Q代表“我想找什么信息”，K代表“我能提供什么信息”，两者的点积决定了匹配度，V代表“实际被提取的内容”。这个过程很像搜索：你输入query，搜索引擎把query和候选文档的key做匹配，返回value。
接下来有个细节面试官最爱抠：为什么点积除以√d_k？这里一定要讲清楚。假设token的维度是d，两个向量每个维度都是均值为0、方差为1的独立随机变量，它们的点积方差就是d。d一大，点积的数值范围就大，进到softmax的指数函数后，概率分布会极端尖锐（一个值特别大，其他趋近于0），梯度接近消失。除以√d_k是把方差重新缩回1，让softmax的输入分布保持稳定。这是一个为了梯度传播做的标准化操作。
然后是多头注意力。我的回答思路：单头注意力只能在一个高维子空间里计算一个“关系模式”，但语言里的关系是多重并行的——“张三在李四的公司上班”这句话，有“李四拥有公司”的所有权关系、有“张三在其中作为员工”的雇佣关系，还有“上班”这个动作蕴含的时间关系。多头让每个头在各自降维后的子空间里专注某类关系，最后拼接再线性变换，表达能力就更丰富。同时多头可以并行计算，对算力利用非常友好。
如果面试官追问“头数变多有什么代价”，拿分点是：总维度不变时，每个头的维度会变低，可能丢失细粒度信息；头数增加会让注意力矩阵的计算和显存开销上升；实践中常用的8、16、32等需要靠实验调，而不是越大越好。
2.3 位置编码：没有它，顺序就乱了
自注意力是一种“排列不变”的操作——你把一句话里的词打乱顺序，注意力矩阵的值不会变。但语言本质上是顺序敏感的，“我打你”和“你打我”完全是两个意思。所以Transformer必须显式地把位置信息注入进去。这一问考的本质是“能否发现模型架构的天然缺陷并理解补丁方案”。
面试官喜欢从“为什么需要位置编码”切入，接着问“有哪些方案、现在主流是什么、各有什么优劣”。回答框架可以这样组织：
第一代方案是绝对正弦位置编码，用不同频率的正弦和余弦函数生成每个位置的固定向量加进token embedding。它的问题是只能隐式地把“相对位置”信息编码在绝对位置里，导致外推能力差——训练时只见过最长2048的位置，推理时一旦超过2048，位置编码分布完全没见过，模型表现会崩。
第二代方案是相对位置编码，核心思路是只建模“两个token之间隔了几个位置”。好处是泛化到更长序列的能力变强，因为相对距离的分布模式和训练时接近，但实现起来更复杂。
当前的主流是RoPE，也就是旋转位置编码。RoPE的巧妙之处在于：它不用加法把位置信息混进向量，而是通过旋转矩阵把位置信息“融进”Q和K的投影空间里。这样两个向量做点积时，结果天然只取决于它们的相对位置差，同时保留绝对位置信息。RoPE还有一个优点：旋转编码本质上是在高频维度上转得快、低频维度上转得慢，这让模型在长距离依赖上也能表现出周期性泛化能力。DeepSeek也用了RoPE，还在此基础上做了NTK和YaRN外推改进。
这道题想拿高分，最好补一句实际经验：“RoPE并不是万能的。我遇到过推理长度超过训练长度时，模型开始重复同样的话，后来用NTK-aware的缩放方式改base_freq，效果才恢复。这告诉我，位置编码的外推能力与训练数据长度分布、频率设置都强相关。”
2.4 Tokenization：大模型的第一道门
很多候选人会栽在Tokenization上，因为它太基础、太琐碎，很多人觉得“分词跟我有什么关系”。但面试官问Tokenization是有讲究的：它决定模型能看到的输入单元、词汇表大小、训练效率、多语言能力，是一个影响全局的决策。
最常见的追问是“介绍一下BPE”。BPE的核心思想是贪心地合并最高频字符对：先按字符级别切分文本，统计相邻字符对共现频率，把最高频的字符对合并成一个新符号，重复这个过程直到达到预定的词汇表大小。到后期，高频词会被合并成一个整体token，少见词则保留为多个子词的组合。这样既控制了词汇表大小，又能通过子词组合覆盖任意新词，解决OOV问题。
接下来面试官很喜欢问“词汇表大小怎么影响模型”。我的回答是：词汇表太小，长词会被拆成很多子词，序列长度变长，计算量和推理延迟都会上升；词汇表太大，embedding矩阵和输出层的参数量会大幅度膨胀（输出层维度很大时，这个矩阵可能占模型总参数的30%到50%甚至更多），训练和推理显存压力大。所以词汇表大小通常是经验设定，常见的有32K、50K、100K，需要根据语料语言分布和显存预算来权衡。
还有一个小细节值得准备：Tokenizer的训练数据分布会影响多语言能力。如果你只用英文语料训练BPE，中文字符会被拆得特别碎，反过来中文语料占比多了又可能挤压英文效率。多语言模型在分词阶段通常要做均衡采样，也就是按语言重要性重新配比语料，而不是简单按原始数量来。这个问题聊开了能聊很久，面试官观察的就是你有没有意识到Tokenization是一个系统工程。
我建议候选人真正去跑一次tokenizer训练，用sentencepiece或tiktoken跑个小语料，观察合并过程，看看同一个词在不同词表大小下的切分差异，再想想这会对下游训练和长文本处理产生什么影响。跑完之后，你对这个问题的理解会超过一半的竞争对手。
3. 硬核八连问：第二梯队必答的4个训练与推理问题
3.1 预训练：海量文本背后的学习目标
聊完基础架构，面试官会把话题转向“模型怎么来的”。第一问大概率是：“预训练到底在做什么？为什么next token prediction这么简单的目标就能练出这么强的大模型？”
这里有一个经典的答法：预训练的官方定义是用海量无标注文本，以自回归的方式做next token prediction（给定前k个token预测第k+1个）。表面上看，模型只是在“猜下一个词”，但这个简单的目标有隐藏的巨大价值——为了准确预测下一个词，模型必须隐式学会语法规则、事实知识、推理链路、逻辑一致性等大量信息。尽管训练目标里没有一个字提到“理解语言”，但“有效压缩文本”本身就是理解语言的一种体现。
面试官紧接着会问“那预训练会遇到什么困难”。这时候拿分点就多了：一是数据工程层面的困难——数据清洗、去重、质量过滤、毒性消除，每一环都直接决定模型最后的能力天花板；二是训练稳定性层面的困难，比如loss spike，通常几百步训练里突然出现一个巨大的loss跳动，如果不干预，模型可能直接发散；三是数据配比的困难，不同来源不同语言不同任务的数据放在一起，比例不对会导致训练不均衡。
要拿更高分，可以聊一个很多候选人忽略的点：你为什么不能用太多的纯重复数据去训练？因为重复数据会让模型在某些局部模式上过度学习，泛化能力下降，同时训练损失会严重失真，让人误以为模型学得很好。在一个高质量数据集中重复训练5个epoch和用10倍大的多样化语料只训1个epoch，后者的效果通常会更好，当然成本也更高。这背后是“数据质量优先于数据数量”的工程经验。
最后我会建议候选人跑一次小型预训练实验，比如用一个小型GPT用一个亿左右的token训练，亲手调一调学习率、batch size和warmup，观察loss曲线变化。体验过loss不降、loss spike、训练发散这些真实问题之后，你对预训练的认知会比只看文章深得多。
3.2 对齐：让模型学会“听话”
预训练模型只会“推理由续写”，它并不会乖乖回答你的问题。比如你问“1+1等于几”，它可能续写“这个问题太简单了，让我想想……”然后开始废话。对齐技术解决的就是这个问题：让模型听人类的指令、遵循人类的偏好、避免输出有害内容。
面试官在这一块的偏好非常明确：先问“你知道哪几种对齐方法”，再问“它们之间有什么本质区别和各自痛点”。
SFT最容易讲。它是用人工标注的“指令-回答”数据做监督微调，核心目的是让模型学会问答的格式和基本风格。Reinforcement Learning from Human Feedback（RLHF）往前迈了一步：先训练一个奖励模型，用人类对模型输出的打分来学习“什么回答更好”，再用强化学习PPO让主模型沿着奖励模型的方向优化。但RLHF工程复杂度很高，PPO训练不稳定，奖励模型可能被“钻空子”，在训练中模型会发现某些bug式输出能骗到高奖励但实际质量很差。DPO（直接偏好优化）是这两年的热门替代方案：它不需要单独的奖励模型和复杂的强化学习采样，而是直接从人类偏好数据中推导出一个损失函数，训练更稳定、更省资源。但DPO也有自己的问题，比如对偏好数据的质量和多样性更敏感，训练过程中容易被“偏好极端”的数据带偏。
我强烈建议准备一个实战例子。比如我自己做过的一个对话模型对齐项目，第一轮只用SFT，效果是“有问有答但回答空洞”；第二轮加了RM+PPO，明显感觉回答更贴题但偶尔出现格式崩坏；第三轮换用DPO，训练时间明显缩短，但发现模型开始堆砌华丽的辞藻，在简单问题上说一堆废话。后来在偏好数据里加强了“简洁性”标注，问题才缓解。这种“我试过、我踩过坑”的经验，比任何背诵的公式都值钱。
还有一个点值得提：对齐税。对模型做对齐训练之后，它在某些通用任务上的表现会轻微下降，因为对齐本质上是把模型的能力“定向收紧”到人类偏好区域。业界一直在试图平衡对齐效果与通用能力损失，这也是一个很好的加分话题。
3.3 推理采样：为什么同一个问题答案不同
对齐之后面试官通常会抛出一个非常落地的问题：“部署模型时为什么同一个问题每次生成的答案都不一样？这个‘随机性’从哪来，怎么控制？”这个问题几乎人人都会遇到，但能解释清楚的人不多。
核心切入点在于解码策略。模型每次生成下一个token时，输出的其实是一个概率分布：每个候选词都有个概率值。如果你用贪心解码（每次选概率最大的那个token），同一个输入每次输出完全一样，非常稳定但容易陷入重复和单调。如果你不想那么死板，就会从概率分布中采样，也就是“按概率随机抽一个”。概率大的词被抽中的几率高，但概率小的尾巴偶尔也会被抽中，这就带来了多样性，也带来了随机性。
面试官紧接着就会问“temperature怎么调、为什么能控制随机性”。这时候给出公式层面理解就对了：温度系数在softmax里起作用——logits除以temperature之后再做softmax。temperature越低，概率分布越尖锐，接近贪心；temperature越高，分布越平坦甚至接近均匀采样，输出就越发散。实践中常见的经验值是代码生成用0.1到0.3保持确定性，创意写作用0.7到1.0保留多样性，超过1.5基本就在胡言乱语了。Top-p也是同样的思路：只保留累积概率达到p的最小token集合，去掉长尾。拿分的关键是强调它们搭配使用：先top_p把不靠谱的尾巴砍掉，再用temperature锐化或平滑剩余分布。
最后我会加一个工程视角的坑：在开启采样的生成场景中，如果将temperature和seed配合使用，你可以兼顾稳定复现和多样性。很多线上服务为了做A/B测试，需要让同一个Prompt产生多版本候选，同时又要能控制质量波动，这里的核心就是控制解码参数而不是调整模型本身。
3.4 幻觉与评测：如何客观判断模型水平
这道题几乎每个候选人都会遇到：“大模型会产生幻觉，你怎么分析原因？你怎么评估一个模型好不好？”它把“理论理解”和“工程评估”两个能力一起考了。
先说幻觉。幻觉的根本原因可以拆成三层：训练数据里的错误信息和噪声被模型以参数化记忆的方式记住了；预训练目标只是“预测下一个词”，模型天然会把高频的、顺口的、说话漂亮的话生成长尾巴，而不是优先保证事实正确；解码阶段的随机性会放大不确定性，让模型在拿不准时倾向“编一个顺理成章的答案”而不是说“我不知道”。还有一层是知识截止：模型训练完那一刻，新知识就不会自动长出来，所以面对时间边界外的问题只能靠训练数据里的分布去猜。
面试官会接着问“那你如何降低幻觉”。我的回答思路是：训练侧可以做事实性微调、RLHF中加事实偏好；推理侧最常见的是RAG，把外部知识源检索出来拼到上下文里，让模型“带着资料回答问题”，同时配上引文让答案可验证；系统层面可以给模型设置“不知道就说不知道”的指令，以及做统一的置信度判断。这里如果能提一句“RAG不是万能的，检索质量差时会引入新的幻觉”，会让面试官眼前一亮。
然后说评测。一个合格的从业者必须清楚评测的层次：基础指标层，比如困惑度降低多少、BLEU、ROUGE，这些偏低层并不能直接反映产品体验。能力基准层，比如MMLU（多任务知识理解）、GSM8K（数学推理）、HumanEval（代码生成），这些是模型能力横向对比的重要参考。真实产品层，比如线上用户反馈、badcase分析、人工盲测对比。还需要知道评测的坑：基准测试数据集很可能出现在预训练数据里，也就是数据泄露，刷分很厉害但实际体验不行；基准题目的难度分布和你的业务场景差异很大，不能直接照搬。
一个实际经验可以这样讲：我在评估中文对话模型时，发现MMLU分数高不代表中文产品好用，因为MMLU是英文基准，中文语域、中文错误表达、中文用户指令习惯根本没有覆盖。后来我们搭了一套“业务场景人工评测集+线上用户真实问题采样回流”的双层评测体系，才真正开始驱动模型迭代。这种经验才是面试官想听到的。
4. 面试官最爱追问的细节与排查技巧
4.1 追问一：从答案反推工程能力
上面的8个问题只是第一层。很多候选人能背出概念，但一到追问就露馅。我这里说几个实际面试中最常见的追问路径，给你们打个预防针。
第一个路径是“简历项目深挖”。候选人说“我用LoRA微调过LLM”，面试官问：“你rank设了多少？为什么？学习率多少？跟全量微调比有什么差别？你训练中loss多少算收敛？”如果候选人答不上来，这说明LoRA对他而言只是“跑了个脚本”，本质是没有独立做过实验。这里最适合展示工程能力的方式，是能把参数和实验直接说出来：比如“我用的是Qwen2-7B，rank设64，alpha设16，学习率2e-4，用4张A10训练了3个epoch，loss从1.2降到0.67，而且我尝试过rank=8，效果明显变差。”
第二个路径是“从原理考到实践”。比如他前面讲了RoPE，面试官跟着问：“如果推理长度超过了训练长度，你线上会怎么优化？只用RoPE的base调大可以吗？”这一下就过滤掉只会背论文的人了。候选人如果能说“我先用NTK-aware RoPE scale把base从10000调到500000扩展上下文，再配合sliding window、稀疏注意力或者FlashAttention减少显存占用，最后在上线前做长文档压力测试”，面试官就能确认他真的处理过长文本推理的问题。
4.2 追问二：长上下文场景下的硬骨头
长上下文是当前LLM应用落地最棘手的工程瓶颈之一。面试官很爱在这个方向挖掘候选人的深度。
核心难点就是“注意力矩阵的平方复杂度”：序列长度从2K涨到64K，注意力矩阵的计算量就是32倍的增长，显存和延迟都顶不住。解决思路分几个层次：一是算法层，比如稀疏注意力，只让部分token互相attention，但实现复杂、效果有损；二是计算层，FlashAttention通过对分块计算、一次读取多次复用的方式，把IO开销大幅压低，是当前长文本推理的基础标配；三是工程层，KV Cache是很关键的一环——推理时每个token都要保存对应的K、V向量，序列越长缓存越大，于是又有了KV量化、PagedAttention、多级缓存淘汰策略等一堆优化。这背后的本质是一个典型的“内存管理问题”，跟操作系统里的页面置换非常像。
这里的加分项是能聊出“为什么长文本任务里模型还会‘忘记’开头内容”。如果候选人知道“lost in the middle”现象——位置在中间的上下文内容容易遗忘的问题，并且还能补充“配合同样的Prompt重排策略或者在关键位置加总结”，那这就不是书呆子式理解了，是真的在长文本产品里趟过水。
4.3 追问三：混合精度训练背后的数字
混合精度这个话题，面试官很少主动问，但如果候选人前面聊到了训练成本或“我在做些优化”，它就会自然冒出来。核心问题是：fp16、bf16、fp32这些精度到底差在哪，为什么现在训练用bf16更主流？
此时讲清机制就很关键：fp16只有16bit，其中5bit指数、10bit尾数、1bit符号，优点是省显存和加速，但问题在于范围不够大、精度不够高，训练时容易出现梯度上下溢出。bf16也占16bit，但指数位扩到8bit、尾数位只有7bit，所以它数值范围和fp32几乎一样大，不容易上下溢出，只是精度低，训练时对梯度的表示不够精细。但引入loss scaling技术后，bf16在训练中的稳定性优势非常明显，几乎成了大模型预训练的标准选择。而int8、int4这些量化则是把精度进一步牺牲到极致，主要用于部署阶段跑推理，而不是训练。
在回答这个问题时最忌讳的就是背参数。你如果能补上一句“我在实践里发现用bf16时loss曲线比fp16平稳很多，但做超参数搜索时梯度噪声也更大”这样的经验，面试官才会给你“真训过模型”的标签。
5. 我自己踩过的坑和给候选人的建议
5.1 从面试官视角看淘汰原因
复盘我面过的所有候选人，被淘汰的原因高度集中在这几个方向。第一个就是“背结论不推导”。事实证明，只要是背下来的东西，换一个角度追问就会崩。比如能说出“AdaFactor是省显存的优化器”，但问“它相对于Adam到底改了什么”，就完全哑火。第二个是“只会调包不懂原理”。这种候选人往往在简历上写了很多用现成框架跑通的项目，一深挖到底层原理，就只剩下“调用接口”这四个字。第三个是“简历一点都不诚实”，写“精通RLHF”，但连RLHF有哪几个阶段、PPO为什么需要价值模型都说不清楚，这种是最败好感的。
我反而是这么看的：面试官不太要求你把每个细节都背得一字不差，更看重“这个知识点你有印象、有思考、有实践场景”。人总会忘细节，但忘了之后你能说出来“我不太记得确切公式，但我记得它大概是做一件什么样的事、解决什么问题”，这种表现也远强于胡编乱造。
5.2 回答问题的黄金公式
基于我的观察，有一种回答结构在面试中最讨喜，也可以说是“黄金公式”：定义 → 机制 → 参数 → 场景 → 踩坑。
举一个完整例子。面试官问：“什么是KV Cache？”你按这个公式答：“KV Cache是在自回归解码时缓存已生成token的K、V向量，避免重复计算。机制上，每个新token的attention都要跟之前所有token做计算，不缓存的话复杂度会翻很多倍。参数上，它占用显存和序列长度成正比，比如7B模型在4K长度下KV cache可能占几百MB甚至上GB。场景上，在线对话服务基本必用，流式输出也要配合用。我踩过的坑是，超长对话时KV Cache导致显存爆掉，后来用PagedAttention和量化KV cache解决了。”这样一个回答，从深度学习到工程经验全都cover到了，想不给高分都难。
这个公式你可以在面试前刻意练几次，用在自己最熟悉的项目上，练到不假思索。它不只是“面试技巧”，更是工程师汇报和写方案时通用的表达框架。
5.3 最后分享一个小技巧
面试之前，很多人会疯狂刷题、背八股文，这没错，但我会额外建议做一件事：挑一个你真正做过且有深度的问题，把它研究到“能把面试官讲嗨”的程度。比如你做过多轮对话的缓存优化，就把KV Cache、量化、流式响应彻底研究透。面试的时候，你可以主动引导：“我最近在做生成推理优化上花了很多时间，要不要我详细讲讲KV Cache这块？”一旦面试官进入你熟悉的话题，主动权就到了你手里，整个面试节奏都会被你带起来。
另一个小技巧是面试的时候不要怕“承认不知道”。我面过的候选人里，最尴尬的往往不是那些说“我不太了解”的人，而是强行编答案把面试官带沟里的人。大模型领域知识面极广，没有人全都知道。承认不知道，再补一句“但以我的理解，它可能是从这里入手的”，这在沟通上是加分项——它表现出你思路清楚，并且真的知道自己在做什么。这一点，很多候选人要练很久才能磨合到位。
说到底，大模型面试考的不是你记了多少知识点，而是你有没有真正理解这套技术体系的来龙去脉。准备这8道题的过程，其实就是一个把知识从“听了个热闹”变成“真懂了门道”的过程。沉下心慢慢来，把这个过程走扎实，面试只是顺带的事。
