★ FEATURED ARTICLE 最近两个月我集中面了三十多位大模型方向的候选人从P5到P8都有简历上清一色写着精通LLM原理与应用结果在几个最核心的问题上翻了车的不在少数。我桌上有一份固定的面试题库标题就叫LLM面试必问的8个问题答不上来直接淘汰。这里面没有偏题怪题全部来自日常做应用、调模型、部署推理、搭Agent时会反复遇到的真实场景。写这篇文章是想把这8个问题连同背后的考察逻辑、参考答案和常见死法一起拆开给正在准备LLM岗位面试、或者是团队里需要设计考察方案的负责人一个可以直接用的参照系。需要说明一点这类题不存在背出标准答案就过关的事。面试官真正在听的是你有没有亲手踩过坑、能不能把原理讲到能和工程实践互相印证。所以下面每个问题我都会先讲清楚它为什么有资格必问再拆解回答的深度层次——你看到还能这样答的部分就是拉开差距的地方。1. 为什么Transformer能统治LLM答不出自注意力如何工作等于白来这一题我几乎每场都第一个问。它看起来是送分题实际上是分水岭。不少候选人能背出multi-head attention的公式但一旦被追问为什么要除以sqrt(d_k)为什么多头不是多个模型位置编码怎么被模型理解的就开始含糊其辞。这个问题的考察点不是记忆力而是你对模型本质有没有直觉。1.1 面试官到底在问什么表面在问自注意力机制实际在考察三件事第一你是否理解RNN/LSTM时代的长距离依赖困境以及Transformer为什么能并行处理整个序列第二你是否知道自注意力的计算复杂度是O(n²)以及这个代价如何影响训练和推理第三你有没有追踪近两年的架构演进比如MHA到MQA、GQA再到DeepSeek用的MLAMulti-head Latent Attention。如果你只把Attention Is All You Need的公式默写一遍那么这个问题顶多算及格不算过关。面试官要看到的是你能从机制层面解释为什么是它。1.2 自注意力的核心链路按这个顺序讲不会乱一段好的回答应该这样递进每个token生成三个向量Query、Key、Value分别来自输入与三个权重矩阵的相乘。可以理解为每个词在问我该关注谁、展示我是谁、给出我真正的内容。注意力分数 ( softmax(\frac{QK^T}{\sqrt{d_k}}) )。这里有一个关键细节除以根号dk的原因。当dk变大时点积的数值方差会增大使得softmax进入饱和区梯度变得极小。除以根号dk相当于把点积结果的方差拉回1附近保训练稳定。用softmax归一化后加权求和Value得到每个token的新表示。这样每个位置的输出都包含了整个序列的信息长距离依赖不再受距离衰减。多头机制不是把多个注意力跑一遍而是把Q/K/V拆成多份子空间每个头在不同维度上做注意力。它们各学各的关系模式——有的头关注语法依赖有的头关注指代关系有的头关注相邻词——最后拼接再次线性变换。这里补一句多个头允许模型在同一层同时捕捉不同类型的依赖关系这是单头注意力做不到的会比干背公式高出半档。位置编码自注意力本身对位置不敏感把序列打乱后计算结果一样。所以必须加位置信息。早期是正弦位置编码后来有了各类相对位置编码、RoPE旋转位置编码。RoPE是目前的主流它的好处是能外推到训练长度之外的序列面试里能点到这一层说明你真跟过前沿。1.3 高分回答的加分姿势与翻车现场能主动讲自注意力机制在解码时KV为什么会被缓存的就是明显加分项。KV Cache把历史token的Key和Value存下来避免重复计算——这个问题我会在推理优化部分详细讲但如果面试者在第一题就主动提到说明他对训练时并行、推理时逐token生成这个根本矛盾有概念。常见的翻车现场有这么几类把注意力分数直接说成相似度完全不提softmax归一化和加权求和过程说多头就是多个独立的注意力模型拼接——方向对但没有点出子空间分工的意义被问为什么不用RNN时只会说RNN不能并行但讲不出并行背后是每一时刻都独立计算、无时间依赖这个结构性原因提到位置编码时分不清绝对位置编码和相对位置编码的区别。这一题能给到优秀的评价标准是候选人能从训练并行性讲到推理代价再讲到KV Cache对显存的压力一路衔接到后面的大模型部署问题。能这样串起来的人通常是真的动手训过或部署过模型。2. Tokenizer和数据标注大模型眼中的文本和我们不一样第二题我习惯从一道小题切进去BERT的词表里12345和1 2 3 4 5分别的token数量是什么很多人答不上来。Tokenization是LLM读取文本的第一道关口它决定了模型看到的文本长什么样但这个最底层的问题常常被忽略。这一题同时会带出数据标注相关的问题毕竟热词里也有llm怎么数据标注和使用聊天记录模型精调llm——数据质量从tokenizer开始就一直在影响模型。2.1 主流的Tokenizer方案与中文的特殊性当前主流训练方案基本围绕三种算法BPEByte Pair Encoding从字符级开始反复合并出现频率最高的相邻符号对最终形成子词表。GPT系列使用的主要是这条路。WordPiece和BPE类似但合并时以使似然提升最大为准则BERT用这个。Unigram / SentencePiece用一个语言模型目标来剪枝词表最终保留概率贡献最大的子词。很多日文、中文模型偏好SentencePiece因为它天然处理无空格语言。中文是特殊难点。英文有天然空格做词边界中文没有如果把整个词作为token词表会爆炸而且词边界本身有歧义。字节级BPE的方案BBPE在中文上会把汉字拆成UTF-8字节也出现过一个罕见汉字被拆成多个token的情况导致模型对生僻字的语义感知变弱。我自己在精调中文聊天记录模型时实测过词表里是否保留足够多的常用汉字组合直接决定了模型对口语化短句的稳定性比如嗯嗯好嘞这类高频口语如果不进词表就会被拆碎回复里就老冒出奇怪的重复。关于词汇表大小要能说出一个权衡词表太小单个token的信息量不足模型需要更长上下文才能表达同样的语义词表太大embedding矩阵和输出层的显存占用剧增。7B级别模型常用词表在3万到10万之间更大的模型用更大的词表但不等于越大越好。2.2 数据标注的现实问题不是打标而是造数据顺着llm怎么数据标注这个热词我要额外提一句LLM的数据标注早就不是传统意义上的给人打标签了。现在做指令微调或RLHF最贵、最影响最终效果的是偏好数据和对话数据的构建。我见过很多团队拿着标注平台去标这段回复好不好结果标注员的标准五花八门带来大量噪声。实操中比较稳的一套流程是先定维度正确性、完整性、忠实度、有害性、有帮助性。每个维度单独评分不要给一个笼统的总分。构造对比对同一问题下生成多个候选回答让标注员排序而不是打分。排序的一致性远高于打分。标注员培训用20条标答做校准标注员之间的一致率达到85%以上才算合格。用大模型做预标注人工做修正这个流程特别适合聊天记录精调因为聊天记录有天然的多轮结构和角色标签只需要清洗格式、去掉敏感信息、分级质量。使用聊天记录模型精调llm这个场景里还有一个很多人会踩的坑聊天记录里的语气词、口头禅、打断语如果不过滤模型会学走这些噪声。我处理过一批客服聊天记录里面大量话术是亲这边为您查询到…结果精调后模型在普通问答场合也满嘴亲代价是删掉这批数据重新调了一版时间和算力全浪费了。3. 微调和RLHF你分得清模型在学还是在被控吗第三个必问题直接戳向实际操作你微调过的模型你敢说它到底变了哪里很多候选人做过SFT但把微调对齐RLHF混为一谈说不出层次关系。这题能判断一个人是真训过模型还是只在别人的框架里跑过脚本。3.1 三个训练阶段的本质差异预训练Pre-training学的是语言本身。token预测任务让模型掌握词法、语法、常识的世界知识。此时模型是一个高智商但没规矩的文本续写器。指令微调SFT学的是格式与意图对齐。让模型知道用户问什么、应该怎么响应。这个阶段模型开始变成助手但依然可能顺着用户说错的假设往下编。RLHF/DPOAlignment学的是价值观和偏好。通过奖励信号让模型学会什么话该说、什么话不该说、什么语气更讨喜。这是从能力强到可靠的关键一段。很多面试者的误区是以为SFT能让模型学会新知识。严格说SFT阶段如果数据量不够大、学习率不够高模型主要是学会了以某种风格对已有知识进行组织并没有真正把新知识刻进参数。如果你想通过微调注入新知识要么喂足大量反复出现的数据要么改用RAG。这一点我在第六题会展开。3.2 RLHF的完整链路和一个反直觉细节RLHF走通一遍的逻辑是训练一个SFT模型作为基线。用这个模型生成多条候选回答人工排序训一个Reward Model奖励模型。用PPO优化策略让模型在最大化奖励的同时通过KL惩罚约束不要偏离SFT基线太远。面试里能说出为什么加KL惩罚就是加分项因为奖励模型不是完美的如果完全按奖励最大化走模型会钻空子reward hacking输出大量语义空洞但高奖励的话。KL惩罚就是拴住模型的绳子防止它跑飞。DPO则是这两年最火的替代方案。它绕过了显式奖励模型的训练直接用偏好对构造一个隐式奖励目标。好处是省了一套Reward Model的训练流程稳定性也好不少。但DPO不是免费的午餐它对偏好数据的质量更敏感数据一脏模型会明显变笨。实际项目里如果偏好数据量不大少于5万对我一般建议先试DPO性价比确实高。3.3 面试官为什么想知道对齐的代价一个优秀的候选人会主动说RLHF不是免费的午餐过度对齐会损失多样性。OpenAI那些早期模型在RLHF后创造性写作能力下降、回答风格趋于保守是公开讨论过的事。这背后的逻辑是偏好数据总会存在一个整体倾向把模型往安全、稳妥、简短方向推代价是长尾的、创新的回答被压制。所以当候选人口若悬河讲我用RLHF把模型调得特别安全时我会追问你怎么验证安全提升不是以有用性下降为代价的答不上来说明他大概率只是跑通了流程没建立评估闭环。4. LoRA、QLoRA、DeepSeek Harness低资源微调的真实边界第四个问题紧跟微调场景你手里只有一张24G的显卡怎么在7B模型上做全参微调正确答案是做不了但很多人会硬答用LoRA啊。这一题的精髓在于LoRA不是12GB显存微调7B的全能方案它有很多边界条件面试官想知道你清不清楚这些边界。4.1 LoRA为什么有效秩到底怎么选LoRA的核心逻辑是冻结原权重在每一层插入低秩分解矩阵Delta W B乘A只训练B和A。它的有效性和一个关键发现绑定大模型微调时的参数更新矩阵本质上是低秩的。也就是说真正需要改动的方向只集中在少数子空间里用一个很小的矩阵就能逼近全参微调的效果。秩r的选择是实操里的经典问题。r8是小改动任务比如风格对齐、指令格式调整r16是通用任务比如领域问答r32以上是复杂任务比如代码能力、数学推理能力迁移。不是r越大越好r过大会引入噪声和过拟合训练速度也变慢。我实测过一个意图分类任务r16和r64的表现几乎一样但训练时间差了快一倍。还有一个容易被忽略的点LoRA作用在哪些层上默认是Q和V矩阵但如果你想更好地改变行为应该扩展到K、O乃至MLP层。注意力层改动影响的是模型关注什么前馈层改动影响的是模型如何转换语义。行为风格类任务调前馈层效果更明显知识更新则注意力层更重要。4.2 QLoRA4比特的魔法和它的显存账单QLoRA在LoRA基础上做了两件事把基座模型量化到4bit的NF4格式一种信息保持更好的4bit量化格式以及利用双重量化分页优化器来压显存。它让单卡24G微调70B成为可能——当然是极限状态下的可能。这里要会心算显存。7B模型在16bit下权重就占14GBLoRA训练时还要算上梯度、优化器状态和激活值24G也就勉强在4bit量化下跑通。70B模型如果走QLoRA24G是跑不起来的通常需要48G甚至更多或者用多卡。面试中能快速报出这个账就说明你真和显存搏斗过。4.3 DeepSeek Harness在微调评估里扮演的角色热词里有个deepseek harness 安装llm wiki这里提一下因为它正好是微调闭环里最容易缺的一环评估。DeepSeek-Harness是一个偏评测的工具链用来在标准benchmark集合上做评测类似的还有lm-evaluation-harness。它们解决的问题是你微调完一个模型怎么知道它有没有变笨我见过太多团队微调后只在几十条自测数据上看效果一上线才发现通用知识大幅退化。正确做法是微调前后都跑一遍标准评测集比如MMLU、GSM8K、HumanEval再看目标场景的定制测试集。DeepSeek-Harness这类工具的价值就是把这件事标准化不用每回都自己糊一套评测脚本。5. 推理优化与本地部署量化、KV Cache和GGUF的关系进了第五题面试基本进入硬核环节。这个问题的常见问法是同样一个7B模型在GPU上为什么token生成速度上不去你现在手头有安卓手机怎么把模型跑起来这里会顺带扯出热词里的安卓本地运行gguf格式llm软件llm studio。5.1 自回归推理的瓶颈比你想的更简单LLM生成是逐token的第n1个token依赖前n个token的完整注意力结果。这个依赖关系决定了它没法像BERT那样一次到位。解码阶段每个token都要重新计算当前token对所有历史token的注意力如果不做缓存复杂度会随序列长度平方级爆炸。KV Cache就是把这些历史token的K、V存起来每个新token只算自己那一个位置的Q、K、V再和缓存里的历史K、V做注意力省下海量重复计算。但KV Cache不是免费的。它是显存消耗的大头之一尤其在长上下文场景下。8K上下文、7B模型、16bit精度KV Cache大约占用1GB52K上下文就得6GB。所以业界才搞出GQA和MLA——GQA把多头KV共享成一组MLA更进一步把KV通过低秩投影压缩DeepSeek选MLA不是玄学就是为了在长上下文下把KV占用量砍掉一大截。FlashAttention则是从另一个维度优化让注意力计算过程中不把完整的N乘N矩阵写到显存再读回来而是通过切块、即时计算的方式减少HBM带宽压力。很多人以为FlashAttention快是因为计算更快其实是省了IO。面试里能说清计算瓶颈被带宽瓶颈取代这个转换是明显的加分点。5.2 量化的三个流派别再只会说INT8量化是把模型权重从16bit降到8bit或4bit的表达方式。三个主流流派需要分清GPTQ对训练好的权重做基于误差补偿的二次量化属于训练后量化PTQ主要面向GPU推理。它对质量损失有缓解但过程中可能不稳定偶尔会有个别层精度崩掉。AWQActivation-aware Weight Quantization核心洞察是权重的重要性不均——有的channel更关键不能被粗暴量化。AWQ根据激活值分布去找显著权重protect它们。相比GPTQ质量更稳定量化速度也更快。GGUF其实不只是量化格式它是llama.cpp定义的模型打包格式把权重、超参、tokenizer配置打包到一个文件里同时支持CPU推理和GPU卸载。GGUF之所以在安卓本地运行场景里火爆是因为llama.cpp能把推理优化到纯CPU也能用的程度加上量化降低内存带宽需求手机也带得动。热词里llm studio是另一个容易混淆的点。LLM Studio官方是LM Studio是一个桌面端的模型加载与对话工具底层调用llama.cpp引擎用户拿一个GGUF文件就能本地跑模型。它和GGUF的关系是消费端和格式的关系。面试里能主动说清楚GGUF是格式、llama.cpp是引擎、LM Studio是壳至少说明你不是只会在界面上点来点去。5.3 本地部署的实测体会我在支持安卓8这类老机型上跑GGUF模型的经验是硬件老化内存小CPU推理的token速度往往只有几token每秒能用但谈不上流畅。实际选择模型大小时要同时考虑内存空间、内存带宽、NPU加速能力。7B模型4bit量化在旗舰手机上勉强能跑在国产品牌的中端机型上还可能存在NPU驱动不兼容的问题。这种瓶颈是拿着量化工具对着文档跑一遍感受最直观的比背一堆推理优化术语有用得多。6. RAG和微调知识注入到底该选谁第六题几乎是每个业务导向候选人的必考老板让我用企业内部文档做大模型问答有人提RAG有人提微调你作为技术负责人怎么定方案这一题最见功力因为能讲清楚权衡的人才真正做过系统设计而不是只会背工具名。6.1 决策矩阵不要二选一要找适用边界考虑维度RAG微调知识更新频率高文档一变检索库刷新即可低改知识要重训可追溯性强能给出引用来源弱知识在参数内部无法解释出处领域术语吸收中检索到才行强直接内化语义输出格式与行为控制弱强训练成本低主要是向量化和检索优化高上下文长度压力高每轮把检索片段塞进context低知识在参数中需要GPU资源检索系统推理即可需要训练资源RAG的第一性优势是不需要让模型记住文档只需要让模型看到文档。企业知识库场景里文档经常更新、权限体系复杂、回答需要给依据RAG的天然优势就非常大。微调更适合场景模型回答的风格有硬性要求、领域知识稳定不变、你希望模型渗透式的理解行业黑话和惯用表达。6.2 RAG的四个核心坑位别只有检索embedding和向量库第一chunk怎么切。按固定字数切是最省事但最不推荐的做法。正确方法是按语义段落切每chunk保持在300-500字、携带上下文标题如果文档本身有章节结构优先按章节节点切同时把父段落和子段落关联起来这样检索时可以返回一段父子打包避免切碎语义。第二embedding模型的选择。中文场景用通用英文embedding模型的效果往往堪忧要选在中文语料上训练或微调的模型或者干脆用多语言模型。向量维度不是越高越好但常见768或1024维度在召回质量上会好于更低维度的方案。第三检索质量决定上限。RAG系统的瓶颈90%不在生成模型而在检索环节的召回率。如果Top-K召回里没有正确答案LLM再强也答不对。所以在做LLM优化之前先把检索recall做上去。这里就需要引入rerank重排序先向量召回50条再用cross-encoder式的rerank压缩到5条效果比单纯加大Top-K好得多。第四引用溯源。生产环境跑了就懂业务方第一需求永远是答案有没有出处。RAG要习惯性在返回答案的同时给来源页码或文档链接微调模型给出的答案是黑盒没法对这种场景负责。6.3 聊天记录精调算微调里的特殊情况回到使用聊天记录模型精调llm这个热词。聊天记录精调本质上是行为风格迁移特定渠道知识注入——模型要学习客服口吻、常用话术、多种会话槽位。这类数据里有大量重复模板对行为塑造很有效但容易把模型锁死在某一种语气里。我的建议是聊天记录精调只做SFT不做RLHF因为偏好标注量通常不够数据里要把用户和客服的角色分开处理训练时用system提示符强制锁定角色边界。另外把精调后的模型放到RAG场景里做生成层也是常见做法——RAG管知识精调管讲话方式两者根本是补集。7. 幻觉、评估与元评论残留如何判断模型真的靠谱第七题不问原理问结果你的模型上线后用户投诉它胡说八道你怎么定位、怎么修这一题杀伤了得因为幻觉问题没有万灵药但面试官想知道你有没有系统性的排查闭环。这里顺手可以把热词llm元评论残留也串进去讲——它是我在实际评估中发现的一类特殊伪幻觉。7.1 幻觉的根因本质是目标函数和事实无关LLM训练时的目标函数是最大化下一个token的概率不是输出与客观事实一致。模型在SFT阶段学会了回答要流畅、要自信RLHF阶段学会了后面该跟着一个符合偏好的收尾但没有任何一个训练信号告诉它这段话必须有外部事实支撑。一旦某个事实在训练数据里出现频率不足模型就只能靠泛化去猜而流畅的语言生成让它猜得很有迷惑性。7.2 评估的正确姿势与测试集思维大模型时代评估早就过了BLEU、ROUGE这个阶段。BLEU和ROUGE基于n-gram重合度对生成式任务的评价能力很差——一段语义完全正确的自由回答因为措辞不同分数可能很低。现在的主流评估手段是三维度组合标准benchmarkMMLU测知识面、GSM8K测数学推理、HumanEval测代码、DROP测阅读理解。这类评测适合模型版本间对比不适合业务上线验收。LLM-as-judge用一个强模型如GPT-4级别用结构化prompt给回答打分。最大争议是评分模型的偏见会用进评测任务里。实操时建议打分prompt里明确要求先给出依据再给分数并且用多次重复多数投票来平抑噪声。业务场景测试集必须扔掉凑数题用真实用户问题、真实文档上下文、真实边角情况构造至少200条测试样本按正确率拒答率引用命中率三个指标来验收。我不会只听你说我们用了RAG而是会追问那你怎么知道RAG检索出来的内容是对的检索对了之后模型有没有忠实引用把幻觉排查拆成检索问题和生成忠实度问题两个独立环节去验证才是正确的链路上排查法。7.3 元评论残留一种容易被误判为幻觉的现象llm元评论残留就是指模型的生成文本里泄漏出训练阶段或系统阶段的内部加工信息。比如你让它做文本分类它输出Instruction: 判断下面评论的情感极性。 Input: 这家餐厅的菜太难吃了。 Output: 这是一个负面的评论。更严重的是它会把作为AI我需要…这类对齐残留直接变成正文输出或者在回答中间冒出注意此处需要引用用户资料这样的内部注释。这类问题不是知识幻觉而是格式污染——通常是训练数据的格式标记没清洗干净、上下文里塞了过多显式指令导致的。排查方法很简单把输出dump出来人工扫描一遍看有没有[INST]|assistant|注意需要引用之类的模板痕迹。一旦发现先查训练数据的格式标记再查推理时的prompt模板是否稳定。我遇到过一个案例问题出在推理框架重新组装了system prompt导致模型把自己的一部分系统指令原样输出——改完prompt拼装逻辑就修复了。这个雷很隐蔽面试里能讲出这个case比空谈幻觉有说服力得多。8. Agent不是调用一下就行容错、记忆投毒与红队思维第八题是给加分题准备的让你设计一个带记忆的Agent系统它调用工具时出错了你会怎么做如果攻击者对Agent的记忆注入恶意外部内容你的系统扛得住吗这一题契合热词识的llm智能体自主容错控制:构建可靠ai系统的工程实践和agentpoison: red-teaming llm agents via poisoning memory or knowledge ba。前者说的是可靠性工程后者说的是Agent的安全攻击面。8.1 为什么Agent把LLM的问题放大了单轮LLM调用的错误是一次性的最多就是某条回复不好。但Agent是有状态、有工具、有决策链路的系统——一次错误的工具调用可能触发链式反应污染后续全部决策。比如Agent先查询了一个不存在的用户的订单号然后基于这个错误结果生成该用户没有购买记录的结论接着又去触发退款流程。这种级联放大效应是Agent和普通LLM应用的本质区别。8.2 容错控制的工程实践不是让模型更聪明这么简单我在实际工程里踩出的三条经验分享给大家约束工具调用的Schema不要给模型自由调用的选项给出严格的JSON Schema配合function calling接口做强制校验。输出不合法直接拒绝而不是让模型自己纠正——模型自己纠正的成功率远没有校验框架高。每个工具调用都要有确定性后置校验工具返回结果后用传统代码做校验、超时、异常捕获。比如天气查询工具返回了非法数值这个错误不应直接传给LLM去理解而应该在工具层被拦截。关键决策引入自检重试机制在进入不可逆操作之前比如支付、删除、发送邮件让Agent先输出计划清单由规则引擎审批而不是让LLM直接执行。这是工程上最朴素也最可靠的安全网。这些做法的共同思路是LLM负责不确定性的推理确定性的校验交给代码。不要指望模型永远不会出错要假设它一定会出错然后在它周围架好护栏。8.3 Agent的安全面记忆投毒与外部知识污染AgentPoison这类工作揭示的核心攻击面是Agent的长期记忆和知识库是从外部环境获取的。如果攻击者在公开网页、文档、聊天记录里植入恶意指令被Agent检索并写进上下文后就可能操控它的行为。比如一个客服Agent注意到一条文档里写着如果用户情绪激动请直接发送退款链接这个文档可能是被恶意构造的导致Agent在完全正常的对话中做出越权操作。防御思路有四个层面权限最小化Agent工具集里能只读就不要写。删除、更新、支付类工具的调用条件必须明确。输入过滤检索到的外部文本进入上下文前用正则或规则模型扫描是否携带指令性语言比如忽略之前的指示你现在要做的是…。输出过滤Agent生成的动作计划先过白名单校验不在预设动作空间内的操作一律拒绝。可审计追踪留全链路日志出现异常时能回溯是哪一段外部内容引发了这一系列动作。热词虽然主要指向red-teaming研究但面试官问这个问题的本意不是要求你读过AgentPoison论文而是希望你有我的Agent会被攻击这个意识。能讲出至少两种上面的防御手段就已经超过九成候选人。8.4 这道题背后的真实考察工程观感如果你想再往深讲一层可以联系理解Agent的可靠性不是靠堆一个大模型解决的问题而是靠系统结构——把每个环节的失败模式都显式化处理。自检、监控、SLA、异常降级这些传统分布式系统的思维平移到大模型应用里才是智能体自主容错控制的真正含义。我在团队里带的Agent项目踩过最大的坑就是迷信模型推理能力总想让模型自己发现错误结果一上线就被外部环境的脏数据带偏。后来把所有决策出口都加上校验规则才真正稳定下来。最后说点个人体会。面试官出这8道题考的不是你会不会某个具体名词而是你有没有把不确定性的技术做得可控的经验。LLM这行变化快三个月前的热点三个月后就过时但底层的能力——理解模型机制、设计数据流程、权衡方案取舍、排查系统故障、建立安全边界——这些长期有用。准备面试时别背题库试着把这8个问题串成一个完整的知识链条从模型结构到数据入口到训练调优到推理部署到系统评测到Agent工程与安全。真正的复利不在背诵而在你把每条链路里的为什么都追问到底。如果你正在准备面试我建议你对着每个问题先自我追问三层每一层都要求自己给出真实的项目经验——答不上来的那层就是接下来最值得花时间的那个坑位。
阅读完成 · 觉得有帮助？
