★ FEATURED ARTICLE 1. 为什么提示词工程值得当成一门手艺来练我接触大模型应用开发差不多三年从最早拿API瞎试到后来带团队做智能客服、文档问答、自动化报告生成踩过的坑比写过的提示词还多。提示词工程这个词听起来有点玄乎但说白了就是你如何用自然语言把任务说清楚让模型稳定地输出你想要的结果。它跟写代码不一样代码报错了有堆栈提示词写崩了模型可能给你一段看起来合理但完全跑偏的内容排查起来非常头疼。这篇文章想聊的是我自己从参数调优到思维链、ReAct、思维树这一路摸索出来的完整方法论。适合谁看如果你已经在调用大模型API做应用或者准备把大模型能力接进自己的业务流里但发现输出忽好忽坏、格式老是不对、复杂任务搞不定那这些经验应该能帮你省下不少试错时间。如果你刚入门也没关系我会从最基础的参数讲起用生活化的例子把原理说透。核心关键词先摆出来提示词工程、参数调优、思维链、ReAct、思维树。这几个词不是并列关系而是递进关系——参数调优是地基思维链是让模型学会“一步步想”ReAct是让模型学会“边想边查”思维树则是让模型学会“多想几条路再选”。下面我按这个逻辑一层层拆。2. 参数调优三件套temperature、top_p、presence_penalty到底怎么配2.1 这三个参数各自管什么很多人调API的时候看到temperature、top_p、presence_penalty这三个参数就头大干脆全用默认值。默认值不是不能用但你要做严肃应用必须知道它们各自在干什么。temperature温度控制的是输出的随机性。你可以把它想象成“抽签的激进程度”。温度越低模型越倾向于选概率最高的那个词输出越确定、越保守温度越高低概率的词也有机会被选中输出越多样、越有创意。我实测下来做事实性问答、代码生成、结构化抽取temperature设0到0.3就够了做文案创意、头脑风暴可以拉到0.7到1.0。top_p核采样控制的是候选词的累积概率阈值。举个例子top_p0.9意味着模型只从累积概率达到90%的那批词里选剩下的长尾词直接砍掉。它和temperature的区别在于temperature是调整概率分布的陡峭程度top_p是直接截断候选集。两者配合使用但一般建议只调一个另一个保持默认。presence_penalty存在惩罚控制的是模型重复已经出现过的词的倾向。正值会惩罚重复鼓励模型说新内容负值会鼓励重复。做长文生成时适当加一点presence_penalty比如0.3到0.6能减少车轱辘话但做代码生成时变量名重复是正常的这个值就别乱动。2.2 参数组合的实战配置表我把常见任务场景的参数配置整理成了一张表这些都是我在实际项目里反复验证过的任务类型temperaturetop_ppresence_penalty说明结构化信息抽取0.0-0.21.00.0要的是稳定不要创意代码生成与补全0.0-0.31.00.0代码重复是正常的别惩罚事实性问答0.1-0.31.00.0降低胡编乱造的概率文案创意写作0.7-1.00.9-0.950.3-0.5要多样性要新鲜感多轮对话0.5-0.70.90.2-0.4平衡稳定性和趣味性长文报告生成0.4-0.60.950.4-0.6防止重复保持连贯注意不同厂商的API对参数的定义范围可能略有差异比如有的temperature上限是1有的是2。调参前先看文档别照搬。2.3 调参的底层逻辑先定任务再定参数我见过很多人的做法是先随便写个提示词跑出来效果不好就开始疯狂调temperature。这是本末倒置。正确的顺序是先把提示词写清楚把任务定义明白参数只做微调。为什么因为temperature再低也救不了一个模糊的提示词。比如你写“帮我写个方案”模型根本不知道是什么方案、给谁看、多长、什么风格。这时候你把temperature调到0它输出的还是一个模糊的方案。反过来如果你写“帮我写一份面向中小企业的CRM选型方案包含需求分析、候选产品对比、预算估算三部分总字数800字左右语气正式”那即使temperature用默认值输出也不会太差。参数调优的本质是在提示词已经足够清晰的前提下控制输出的确定性和多样性。先修路再调车速这个顺序不能乱。3. 思维链让模型学会“把过程写出来”3.1 思维链到底在解决什么问题思维链Chain of Thought的核心思想特别简单让模型在给出最终答案之前先把推理过程写出来。为什么这招管用因为大模型的生成是逐词预测的它没有“草稿纸”的概念。如果你直接问“一个水池进水3小时满出水5小时空同时开几小时满”模型可能直接蒙一个答案。但如果你加一句“请一步步计算”它就会先算进水速率、出水速率、净速率最后得出结果。这就像你让一个心算不太好的人做数学题直接问答案他可能错但给他一张纸让他列步骤正确率就上去了。思维链就是给模型的“草稿纸”。3.2 零样本思维链与少样本思维链思维链有两种用法。零样本思维链就是在提示词末尾加一句“Lets think step by step”或者“请一步步分析”。这招在数学题、逻辑推理上效果立竿见影成本几乎为零。少样本思维链则是给模型几个示例每个示例都包含完整的推理过程然后让模型照猫画虎。比如问题小明有5个苹果吃了2个又买了3个现在有几个 推理开始5个吃掉2个剩3个再买3个变成6个。 答案6个 问题小红有8支笔送了3支给同学又丢了1支现在有几支 推理模型看到前面的示例就会自动补全推理过程。少样本思维链在复杂任务上比零样本更稳但代价是提示词变长token消耗增加。3.3 思维链的适用边界与常见坑思维链不是万能的。我实测下来它在数学计算、逻辑推理、多步骤决策上效果显著但在纯知识问答、文本分类、简单抽取上加了反而浪费token。你问“中国的首都是哪里”模型不需要一步步想。还有一个坑是思维链的输出格式如果不加约束模型可能会写一大段废话最后才给答案。做工程化应用时我通常会在提示词里明确要求“推理过程控制在3步以内最后用‘答案’开头单独一行输出结果”这样方便后续用正则提取。实操心得如果你用思维链做批量任务建议先用小样本测试对比加与不加思维链的准确率差异。我做过一个数学应用题的任务加思维链后准确率从62%提到89%但token消耗增加了约40%。这个 trade-off 要算清楚。4. ReAct让模型学会“边想边查”4.1 ReAct的基本循环思考、行动、观察ReAct是 Reasoning Acting 的缩写核心思路是让模型在推理的过程中能够调用外部工具比如搜索引擎、计算器、数据库查询然后根据工具返回的结果继续推理。它的基本循环是Thought思考模型分析当前状态决定下一步做什么Action行动模型选择一个工具并输入参数Observation观察工具返回结果回到第1步直到模型认为可以给出最终答案这个循环解决了一个关键问题模型的知识是静态的训练数据截止之后就不知道新信息了。但通过ReAct模型可以在推理过程中主动去查最新数据而不是硬编一个可能过时的答案。4.2 手写一个ReAct提示词模板下面是我在实际项目中用的一个ReAct提示词模板以“查询某公司最新财报数据并计算增长率”为例你可以使用以下工具 - search(query): 搜索最新信息 - calculate(expression): 计算数学表达式 请按照以下格式回答 Thought: 你需要思考下一步做什么 Action: 工具名(参数) Observation: 工具返回的结果 ...重复Thought/Action/Observation Thought: 我现在知道最终答案了 Final Answer: 最终答案 问题某公司2024年营收100亿2025年营收130亿增长率是多少请先确认数据再计算。 Thought: 我需要先确认2025年营收数据是否准确 Action: search(某公司2025年营收) Observation: 根据最新财报某公司2025年营收为130亿元 Thought: 数据确认现在计算增长率 Action: calculate((130-100)/100*100) Observation: 30 Thought: 我现在知道最终答案了 Final Answer: 增长率为30%这个模板的关键在于格式必须严格约束否则模型可能不按套路出牌。实际工程中我会用代码解析Action那一行提取工具名和参数执行后再把结果拼回提示词里。4.3 ReAct的工程化注意事项ReAct在demo里跑起来很酷但上生产环境有几个坑必须提前想清楚。第一循环次数要设上限。模型有时候会陷入“思考-行动-观察”的死循环比如反复搜索同一个关键词。我一般设最大循环次数为5到8次超过就强制输出当前最优答案。第二工具调用的错误处理。搜索可能超时计算可能除零数据库可能连不上。这些错误信息要作为Observation返回给模型让它决定是重试还是换策略。别让程序直接崩掉。第三提示词长度控制。每一轮循环都会往上下文里追加内容几轮下来token消耗很快。我通常会在Observation里只保留关键信息去掉冗余的原始返回。踩过的坑有一次做竞品分析Agent模型在ReAct循环里连续搜索了12次每次都说“还需要更多信息”最后token烧完了也没输出结论。后来加了硬性上限和“如果连续两次搜索结果相似必须给出当前结论”的约束才稳定下来。5. 思维树当一条路走不通时让模型多想几条5.1 思维树与思维链的本质区别思维树Tree of Thoughts是思维链的升级版。思维链是一条路走到黑思维树是在每一步都生成多个候选方案然后评估哪个方案最有希望再沿着最有希望的分支继续往下走。如果某条路走死了可以回溯到上一个分叉点换一条路。打个比方思维链像是走迷宫时一直往一个方向走撞墙了才回头思维树像是每到一个路口都先派几个人分别探路然后选最有希望的那条继续深入。5.2 思维树的三个核心步骤思维树的实现通常包含三个步骤第一步扩展Expand。在当前状态下让模型生成多个可能的下一步。比如解一道数学题可以让模型生成三种不同的解题思路。第二步评估Evaluate。让模型对每个候选方案打分或排序判断哪个最有可能成功。评估可以基于模型自己的判断也可以用外部验证器。第三步选择与回溯Select Backtrack。选择评分最高的分支继续扩展如果发现走不通就回到上一个分叉点选第二高的分支。5.3 思维树的成本与适用场景思维树的代价是计算量成倍增加。如果每步生成3个候选深度为3层那总共要评估的节点数可能接近30个token消耗是思维链的十几倍。所以它不适合日常任务只适合那些“一次做对价值很高、做错代价很大”的场景比如复杂数学证明、战略规划、代码架构设计。我个人的经验是思维链能解决80%的推理任务ReAct能解决15%需要外部信息的任务思维树只留给剩下5%的硬骨头。别一上来就上思维树那是杀鸡用牛刀。6. 从参数到思维树我的完整提示词工程工作流6.1 四层递进的工作流把上面这些串起来我实际用的工作流是这样的第一层任务定义。先用自然语言把任务目标、输入输出格式、约束条件写清楚。这一步不涉及任何高级技巧但决定了后续所有工作的上限。第二层参数调优。根据任务类型选一组初始参数跑一批测试用例看输出稳定性和质量。如果格式老是不对先别调参数回去改提示词。第三层思维链注入。如果任务涉及多步推理加入“请一步步分析”或少样本推理示例。观察准确率变化如果提升不明显就撤掉省token。第四层ReAct或思维树。如果任务需要外部信息上ReAct如果任务复杂且容错率低考虑思维树。这两层是重武器按需使用。6.2 一个完整的实战案例自动化行业报告生成我拿一个真实项目举例。需求是给定一个行业名称自动生成一份包含市场规模、主要玩家、趋势判断的报告。提示词设计你是一名资深行业分析师。请针对{行业名称}生成一份分析报告。 要求 1. 报告包含三个部分市场规模与增速、主要玩家与份额、未来趋势判断 2. 每个部分先列出关键数据点再给出分析 3. 数据来源标注为“公开资料整理” 4. 总字数控制在1000字左右 5. 语气专业客观避免主观臆断 请按以下格式输出 ## 市场规模与增速 - 关键数据 - 分析 ## 主要玩家与份额 - 关键数据 - 分析 ## 未来趋势判断 - 关键数据 - 分析参数配置temperature0.5top_p0.95presence_penalty0.4。思维链注入在提示词末尾加了一句“在写每个部分之前先在心里列出3个最关键的信息点再展开写”。实测下来这样能让报告更有重点而不是泛泛而谈。ReAct扩展如果要求数据实时性就接入搜索工具让模型先搜“{行业} 最新市场规模”再写。但要注意搜索结果的质量参差不齐我通常会让模型只采纳最近12个月的数据并且要求标注来源。这个工作流跑下来报告可用率从最初的40%左右提到了85%以上。剩下的15%主要是行业太冷门、公开数据太少导致的这个靠提示词解决不了。6.3 提示词版本管理别把好提示词弄丢了最后说一个容易被忽视的点提示词要像代码一样做版本管理。我早期改提示词都是直接在代码里改改着改着就忘了哪个版本效果最好。后来学乖了用Git管理提示词文件每次改动都写清楚改了什么、为什么改、效果变化如何。推荐的做法是每个提示词文件头部用注释写明版本号、修改日期、修改人、修改原因、测试结果。比如# prompt_industry_report_v3.py # 版本v3.2 # 日期2026-01-15 # 修改在趋势判断部分增加了“请考虑政策和技术两个维度”的约束 # 效果报告完整性评分从3.8提升到4.35分制这个习惯看起来麻烦但当你同时维护十几个不同任务的提示词时它能救你的命。7. 常见问题与排查技巧实录7.1 输出格式不稳定的排查思路问题要求模型输出JSON但有时候多一段解释有时候少一个括号。排查步骤检查提示词里是否明确说了“只输出JSON不要任何其他文字”检查是否给了JSON schema示例检查temperature是否过高建议降到0.2以下如果还不行在提示词末尾加一句“如果输出不是合法JSON请重新输出”我实测最有效的一招是在提示词里给一个完整的输出示例包括边界情况。模型模仿能力很强给它看一个标准答案比说十句“请按格式输出”都管用。7.2 模型“胡编乱造”的抑制方法问题问一些冷门事实模型编得有鼻子有眼。解决方法在系统提示词里加“如果不确定请明确说‘我不确定’不要编造”降低temperature到0.1以下对于关键事实用ReAct接入搜索验证要求模型标注每个事实的来源置信度高/中/低注意完全消除幻觉目前做不到只能降低概率。关键业务场景一定要加人工审核或外部验证环节。7.3 长上下文中的“中间遗忘”问题问题提示词很长时模型对中间部分的信息关注度下降。解决方法把最关键的要求放在提示词的开头和结尾用分隔符如###把不同部分隔开如果上下文超过模型窗口的50%考虑分段处理重要约束在末尾再重复一遍这个现象在学术上叫“Lost in the Middle”我实测确实存在。一个2万token的提示词放在中间的要求被遵守的概率比放在开头低不少。7.4 常见问题速查表问题现象可能原因优先排查项输出格式不对提示词约束不明确加输出示例降temperature内容重复啰嗦presence_penalty过低调到0.3-0.6推理跳步出错缺少思维链引导加“一步步分析”信息过时模型知识截止接入ReAct搜索复杂任务搞不定单链推理能力不足考虑思维树输出太长/太短字数约束不明确明确写“约XX字”语气不对角色设定缺失加“你是一名...”8. 我个人的一些体会提示词工程这门手艺说到底是在“控制”和“放手”之间找平衡。控制得太死模型变得死板遇到没见过的输入就崩放手太多输出又不可控。我的经验是格式要严控内容可放手。输出结构、字段名、长度这些用硬约束具体措辞、分析角度这些给模型留空间。另外别迷信任何“万能提示词模板”。我见过太多人到处收集模板结果用起来效果一般。原因是每个任务的数据分布、输出要求、容错标准都不一样模板只能给你一个起点真正的优化必须基于你自己的测试用例反复迭代。最后分享一个我常用的技巧让模型自己评价自己的输出。在生成完内容后追加一轮对话问“以上输出中哪些部分可能不够准确或完整请指出并给出改进建议。”这招在报告生成、代码审查场景下特别好用相当于让模型自己做一次质检。成本很低但能捞回不少低级错误。提示词工程没有终点模型在进化任务在变化唯一不变的是把问题定义清楚把过程拆解明白把结果验证到位。这三句话比任何技巧都重要。
阅读完成 · 觉得有帮助？
