★ FEATURED ARTICLE MA-RAG是一种创新的多轮代理检索增强生成方法通过分析候选答案间的冲突定位知识缺口驱动模型进行多轮检索和推理逐步达成共识。该方法在7个医学问答基准上平均准确率达62.2%较原始模型提升6.8%。MA-RAG通过冲突驱动检索和历史排序有效弥补了医学大模型在复杂推理中知识不足的问题为提升大模型在医学领域的应用提供了新思路。文章速览医学大模型遇到复杂问题时常会生成多条表面合理、结论却互相矛盾的推理路径。多数投票可以选出出现频率最高的答案却无法判断多数意见是否共享同一个事实错误传统 RAG 通常只在作答前检索一次也难以覆盖推理过程中逐步暴露的知识缺口。ICML 2026 论文 MA-RAGMulti-Round Agentic RAG提出了一种不同的测试时扩展思路不把候选答案之间的分歧当作需要消除的噪声而是将其视为模型当前缺少证据的位置。系统先生成多条候选推理再从冲突中提炼检索问题用新获得的医学文档修正下一轮回答同时对历史推理重新排序直至候选答案收敛或达到最大轮数。以 Qwen3-8B 为骨干采用外部验证器排序的 MA-RAG-ext 在 7 个医学问答基准上的平均准确率达到 62.2%较原始模型的 55.4% 提升 6.8 个百分点。消融实验表明收益并非只来自增加生成次数冲突驱动检索和历史排序均带来独立增益。不过这些结果仍来自带标准答案的医学选择题不能直接外推到真实诊疗决策多轮生成带来的时延、语料覆盖和验证器误差也构成实际限制。论文题目From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG论文链接https://openreview.net/forum?idS7lpdz7NAW代码链接https://github.com/NJU-RL/MA-RAG研究背景检索增强生成的基本逻辑是让模型在作答时访问外部知识从而减少仅依赖参数记忆造成的事实错误和知识过时。对于简单问题一次检索可能已经足够但医学推理往往涉及症状、解剖、病理机制、检查与治疗等多个环节最初的问题未必能完整暴露真正的知识缺口。检索过早或查询过宽得到的材料可能与决定答案的关键事实并不相关甚至会让模型受到无关信息干扰。自适应 RAG 因此尝试在生成过程中决定何时检索以及检索什么。已有方法常依赖 token 概率、熵或注意力权重当某个词的置信度较低时触发搜索再围绕局部文本形成查询。然而医学大模型可能非常自信地生成错误结论低置信度词也可能只是连接词或非关键表述。局部统计信号与“哪一项医学知识需要查证”之间并不存在稳定对应关系。MA-RAG 选择观察更高层的语义现象同一问题的多条推理是否在关键医学判断上相互冲突。如果候选回答分别支持不同诊断、不同解剖来源或不同治疗方案分歧本身便指出了需要外部证据裁决的命题。作者据此将传统自一致性的用途从“对多条答案投票”扩展为“利用不一致定位知识缺口”再通过多轮检索逐步形成共识。候选答案的分歧被转化为下一轮可验证的检索任务本文方法动态演化的推理状态MA-RAG 将每一轮输入组织为四部分固定的任务指令、原始医学问题、当前文档集合以及上一轮的历史推理。任务指令和问题保持不变文档与历史则随迭代更新。这样的设计把提示词从一次性输入变成动态状态外部证据回答“目前还缺什么知识”历史推理则保留“此前哪些路径值得继续参考”。第 t 轮开始后求解智能体根据当前状态随机采样多条候选回答。系统并不立即从中选出一条而是先比较它们的最终选项和解释。如果所有候选已经指向同一结论推理被视为收敛并提前停止若仍存在实质性分歧候选集合会同时交给检索智能体和排序智能体分别更新下一轮的文档上下文与历史上下文。这一闭环与常规多轮自我修订存在本质差别。自我修订通常要求模型反复检查上一版答案但缺少新的事实依据时模型可能只是换一种方式重述原有错误。MA-RAG 的每次后续推理都由具体冲突触发并引入围绕冲突检索到的外部证据使新增计算集中在尚未解决的医学命题上。求解智能体用多样性暴露知识缺口求解智能体承担主要推理任务。它通过带温度的随机采样生成 N 条候选轨迹使同一个模型能够探索不同的诊断和解释路径。这里的多样性不是附带现象而是后续两个智能体工作的基础只有候选之间存在可比较的差异系统才能识别哪些判断仍不稳定也才能区分偶然措辞差异与可能改变答案的事实冲突。该设计继承了自一致性方法的经验假设正确推理往往能沿不同路径汇聚到相同结论而知识不足或幻觉更容易产生彼此不兼容的解释。但 MA-RAG 并不假设“多数一定正确”。当多个回答共同建立在同一错误知识上时简单投票仍可能失败因此候选集合在这里既用于形成最终共识也被当作诊断模型知识状态的观测窗口。检索智能体将分歧改写成可查证问题检索智能体首先比较所有候选回答提取诊断、症状解释、解剖来源、药物适应证或检查选择等核心争点再将争点改写为适合搜索医学语料的查询。它关注的不是“回答 A 和回答 B 写法不同”而是“二者在哪个可由证据核验的医学命题上冲突”。因此查询不再笼统复述原题而是直指可能决定答案的事实。论文中的甲状腺切除术后声音嘶哑案例展示了这一机制。多条候选都判断喉返神经受损却分别声称该神经来自第 1 咽弓或第 3、4 咽弓这些回答虽然结论各异但都没有命中正确事实。检索智能体据此生成“喉返神经由哪一个咽弓发育而来”的查询外部文档给出第 6 咽弓这一依据下一轮模型才修正了先前的共同错误。这个案例也说明冲突的价值不在于直接指出谁正确而在于帮助系统提出一个足以区分候选答案的问题。实验默认每轮生成 4 个冲突驱动查询。BM25 先从 MedCorp 的医学教材、PubMed 摘要、StatPearls 和维基百科等子语料中召回候选文档再由 MedCPT-Cross-Encoder 按语义相关性重排多查询设置下每个查询保留 2 篇文档共向下一轮提供 8 篇证据。稀疏检索负责扩大召回范围交叉编码器负责筛出与具体争点更匹配的段落从而避免未经筛选的长文档大量占用上下文。排序智能体把历史从记录变成可用证据多轮系统不仅会积累文档也会积累越来越多的候选推理。如果把历史回答按时间顺序直接拼接关键线索可能落在长上下文中部而被模型忽略低质量解释也会反复影响后续生成。排序智能体因此为上一轮每条轨迹计算质量分数并按分数重新组织历史让更可信的推理优先成为下一轮的上下文示例。论文比较了两种评分方式。MA-RAG-int 使用序列级熵作为内部信号模型生成越稳定、不确定性越低得分越高。MA-RAG-ext 则使用一个基于 BERT 的轻量外部验证器它在问题—回答对上训练直接预测候选推理在语义层面是否更可能正确。两者的差异在于低熵主要反映模型是否确信自己的表述外部验证器则试图区分“自信”与“正确”因此更有机会识别措辞确定但医学事实错误的回答。排序并不等于只保留得分最高的一条轨迹。论文的进一步分析显示正确答案经常没有排在首位却已出现在前两名候选中如果静态选择 Top-1仍会损失这些潜在正确线索。MA-RAG 将多条高质量历史保留在上下文中让求解智能体结合新证据重新综合相当于用排序提高有用信息的可见性同时为评分误差保留一定容错空间。外部证据与已排序的历史推理在每轮共同更新从冲突到共识的迭代闭环三个智能体按固定顺序协作求解智能体产生候选检索智能体根据冲突更新文档排序智能体根据质量更新历史新的状态再进入下一轮求解。论文将这一过程类比为 boosting每轮不对全部问题平均用力而是把尚未解决的冲突视作“残差”下一轮集中修正这些难点。这里的 boosting 是设计层面的类比MA-RAG 并没有训练一组经典的 boosting 弱学习器。系统默认最多运行 8 轮一旦候选答案达成一致便提前停止达到最大轮数仍未完全收敛时则对最后一轮候选进行多数投票。轮数敏感性实验中平均准确率从 1 轮的 57.5% 提升到 2 轮的 61.5%4 轮为 62.1%8 轮为 62.2%。主要收益集中在前两轮之后逐渐饱和说明多轮机制确实能补充证据但继续增加计算并不会线性提高性能。实验设置与结果作者在 MedQA、MedMCQA、Medbullets、MMLU-Pro 医学子集、NEJM、MedExpQA 和 MedXpertQA 共 7 个医学选择题基准上评估方法并比较原始模型、思维链、自一致性、多轮自修订、固定检索、自适应检索和多智能体方法。以 Qwen3-8B 为骨干MA-RAG-ext 的平均准确率为 62.2%高于基础模型的 55.4%、Multi-Refine 的 58.7%、MDAgents 的 58.2% 和 TC-RAG 的 56.9%。在难度较高的 MedXpertQA 上准确率由基础模型的 16.1% 提升到 22.2%但绝对水平仍提示该任务远未解决。MA-RAG-ext 在 7 个医学问答基准上的平均准确率达到 62.2%消融实验从基础模型逐步加入组件仅使用多轮自修订时平均准确率由 55.4% 升至 58.7%加入冲突驱动检索后达到 60.6%再加入历史排序后达到 62.2%。这组结果支持了论文的核心判断即增益并非简单来自“多生成几次”而是来自外部证据更新与历史上下文优化的共同作用。外部验证器版本还比基于熵排序的版本高 1.2 个百分点说明语义层面的质量评估比纯内部不确定性更有效。冲突检索与历史排序分别带来可测量的独立增益性能提升伴随着明显的计算成本。在 MedXpertQA、相同硬件与 Qwen3-8B 条件下基础模型每题平均生成 514 个 token、耗时 5.6 秒MA-RAG-ext 平均生成 12,762 个 token、耗时 70.7 秒。它虽快于 MDAgents 的 146.2 秒并取得更高准确率但与实时临床应用的低延迟要求仍有距离。这更接近一种“以推理预算换准确率”的研究框架而非可以直接部署的诊疗系统。多轮代理推理以更高计算成本换取更高的基准准确率总结与展望MA-RAG 的主要贡献是把候选答案间的不一致从投票前的噪声转化为可操作的检索信号。求解智能体制造足够多样的推理路径检索智能体围绕真实争点寻找证据排序智能体则调整历史信息的呈现顺序三者共同让文档与推理历史随轮次演化。相比一次性检索它能在推理展开后继续补足知识相比单纯自我修订它又为答案变化提供了外部事实依据。现有证据也界定了它的适用边界。实验基于选择题和标准答案无法证明系统在开放式病历、诊疗流程或患者结局上的可靠性检索效果受 MedCorp 的覆盖范围、时效性和文本质量制约外部验证器也可能误判候选轨迹。后续研究需要探索更可靠的医学知识源、更轻量的冲突检测与质量评估并在真实临床任务中检验安全性、可解释性和外部效度。大模型的知识又多又杂到底怎么学做这行久了被问最多的问题就一个大模型的知识又多又杂我到底先学啥翻了一堆资料看啥都像重点结果啥都没学进去。今天把我自己一路摸出来的顺序捋一遍零基础、应届生、转行的都适用。跟着走至少方向不乱、不瞎忙学完拿得出手。第一阶段10天初阶应用这一阶段就一个目标把大模型真正玩明白不是只会聊天那种而是能调教它、能用代码把大模型和业务接起来。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用这阶段正式进实战目标很实在做出两个能拿出手的东西——一个私有知识库一个 agent 对话机器人。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…走完这 30 天Python 或 JavaScript 背景的基本能独立做一套 RAG 应用简历上也敢写大模型应用开发了。第三阶段约20天动手微调学到这你已经开始 “造” 模型了 —— 通过微调搞出垂直领域的专用小模型。为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你从 “只会用” 变成 “能造” 的 AI 小子。那么你还想往下探索吗想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料第四阶段20天商业闭环部署落地技术学完落地才算数。这阶段带你搞明白大模型怎么真正跑起来、用起来。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…想要入坑大模型的朋友给大家准备了一份2026 年最新 AI 大模型全套学习资料1、大模型系统化学习路线2、大模型学习视频教程3、大模型学习书籍电子文档4、AI大模型最新行业报告5、大模型项目实战配套源码6、2026大模型大厂面试真题7、为什么要学习大模型我国在A大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年人才缺口已超百万凸显培养不足。随着AI技术飞速发展预计到2025年,这一缺口将急剧扩大至400万,严重制约我国AI产业的创新步伐。加强人才培养,优化教育体系,国际合作并进是破解困局、推动AI发展的关键。8、适合谁学传统后端 / Java / 前端开发想转型 AI 应用大学生、应届生想拿更好的 offer产品经理、运营想武装职业竞争力技术负责人想给团队落地提效学习是反人性的但回报是真金白银。技术会更新赛道会切换但只要你先动手机会就永远站在你这边。9、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。想要入局AI大模型赛道、抢占行业红利的朋友微信扫描下方CSDN官方认证二维码即可100%免费领取全套学习资料好了就写到这。路线是死的人是活的卡住了随时来问我。觉得有用就点个收藏别让它进收藏夹吃灰——动起来比啥都强。
阅读完成 · 觉得有帮助？
