★ FEATURED ARTICLE 2026年10月16日Ollama 发布 v0.40.5 版本。本次更新的核心亮点是正式带来 NVIDIA Nemotron 3.5 Super并同步加入更紧凑的 Nemotron 3.5 Bolt 相关信息。同时云端决策模型、OpenAI 兼容 Responses 对话续接、云端访问报错提示以及 llama.cpp 与 MLX 的更新也都成为此次版本升级的重要组成部分。对于关注编码、推理、工具调用、文档理解、视觉语言模型以及超长上下文能力的用户来说ollama v0.40.5 带来了值得重点关注的更新内容。一、ollama v0.40.5 发布信息本次发布版本为v0.40.5 Latest发布日期为2026年10月16日此次版本更新围绕模型能力、云端模型访问、对话兼容性、错误提示与底层组件更新展开。其中最受关注的内容是 NVIDIA Nemotron 3.5 Super 的加入。二、NVIDIA Nemotron 3.5 Super 正式上线NVIDIA Nemotron 3.5 Super 是一款视觉语言模型面向编码、推理、工具使用和文档理解等任务。该模型支持的能力包括编码推理工具调用文档理解视觉语言任务可开关的思考模式最长 1M tokens 上下文从模型定位来看Nemotron 3.5 Super 不只是单一文本任务模型而是覆盖视觉、代码、推理、工具与文档内容理解的视觉语言模型。在模型结构方面Nemotron 3.5 Super 使用了混合架构120B 参数的混合 Mamba-2/Transformer 混合专家骨干网络该模型的总参数规模为 120B但每个 token 的活跃参数为 12B。也就是说其模型信息包括项目内容模型名称NVIDIA Nemotron 3.5 Super模型类型视觉语言模型总参数规模120B每个 token 活跃参数12B骨干结构混合 Mamba-2/Transformer 混合专家架构视觉编码器C-RADIO上下文长度最长 1M tokens工具调用支持思考模式支持开启或关闭主要任务编码、推理、工具使用、文档理解该模型搭配 C-RADIO 视觉编码器使其具备视觉语言任务能力。在 Ollama 中运行该模型可使用以下命令ollama run nemotron-3.5-super这意味着在 v0.40.5 版本中用户可以通过上述模型名称启动 Nemotron 3.5 Super。三、Nemotron 3.5 Super 的能力重点Nemotron 3.5 Super 的能力覆盖多个方向其中包括编码、推理、工具调用和文档理解。1. 编码能力Nemotron 3.5 Super 被定位为可用于编码的视觉语言模型。对于需要代码相关能力的场景该模型提供了编码支持。2. 推理能力该模型支持推理任务并且提供思考模式的开启与关闭选项。这一能力在版本信息中被明确描述为on/off thinking mode即思考模式可以开启也可以关闭。3. 工具调用能力Nemotron 3.5 Super 支持工具调用。工具调用是该模型明确支持的能力之一与编码、推理和文档理解共同构成其核心能力范围。4. 文档理解能力该模型支持文档理解。在本次版本介绍中文档理解与视觉语言、编码、推理、工具调用并列出现说明 Nemotron 3.5 Super 面向的任务类型不局限于纯文本生成。5. 视觉语言能力Nemotron 3.5 Super 是视觉语言模型并搭配 C-RADIO 视觉编码器。因此该模型的模型构成包含两个关键部分用于整体模型能力的混合 Mamba-2/Transformer 混合专家骨干网络用于视觉输入的 C-RADIO 视觉编码器6. 最长 1M tokens 上下文本次发布信息中明确指出Nemotron 3.5 Super 支持最高 1M tokens 的上下文。context up to 1M tokens1M tokens 上下文是该模型的重要规格之一。结合其编码、推理、工具调用、文档理解和视觉语言能力Nemotron 3.5 Super 在版本更新内容中占据了核心位置。四、模型架构信息120B 参数与 12B 活跃参数Nemotron 3.5 Super 使用的是混合 Mamba-2/Transformer 混合专家骨干网络。模型参数信息如下120B 参数 12B active per token也就是说模型总参数为 120B而每个 token 的活跃参数为 12B。其架构描述为hybrid Mamba-2/Transformer mixture-of-experts backbone对应的核心组成可以概括为Mamba-2Transformer混合专家架构120B 总参数每个 token 12B 活跃参数C-RADIO 视觉编码器本次更新内容明确给出了 Nemotron 3.5 Super 的参数规模、活跃参数规模、骨干结构和视觉编码器信息。五、Nemotron 3.5 Bolt更紧凑的同系列模型除了 Nemotron 3.5 Super 外版本信息还介绍了一个更紧凑的同系列模型Nemotron 3.5 Bolt。Nemotron 3.5 Bolt 是 Nemotron 3.5 Super 的紧凑版本。其核心信息包括项目内容模型名称Nemotron 3.5 Bolt定位Nemotron 3.5 Super 的紧凑同系列模型总参数规模74B每个 token 活跃参数9B调优目标适配 24 GB NVIDIA GPU面向任务日常智能体任务额外能力包含 drafter可进行 speculative decodingNemotron 3.5 Bolt 将 Super 的规模压缩到 74B 参数每个 token 活跃参数为 9B。版本说明中提到Nemotron 3.5 Bolt 针对 24 GB NVIDIA GPU 进行了调优面向日常智能体任务。相关信息可以概括为74B 参数 每个 token 9B 活跃参数 适配 24 GB NVIDIA GPU 用于日常智能体任务 包含 drafter 支持 speculative decoding其中Nemotron 3.5 Bolt 包含 drafter并支持 speculative decoding。本次更新同时给出 Super 与 Bolt 两个模型的信息形成了不同参数规模与不同定位的同系列模型组合模型总参数每个 token 活跃参数定位Nemotron 3.5 Super120B12B编码、推理、工具调用、文档理解、视觉语言任务Nemotron 3.5 Bolt74B9B适配 24 GB NVIDIA GPU 的日常智能体任务六、云端决策模型现已可用ollama v0.40.5 还带来了云端决策模型。版本更新中指出决策模型现已在云端可用。用户可以通过以下模型名称运行云端决策模型clef:cloud以及clef-flash:cloud这两个云端模型可通过 ollama.com cloud 使用无需先在本地拉取模型。相关信息可以整理为内容说明云端模型 1clef:cloud云端模型 2clef-flash:cloud使用方式通过 ollama.com cloud 运行本地拉取不需要先拉取到本地模型类型决策模型版本更新中明确强调使用这两个云端模型时不需要在本地执行模型拉取。这项更新对应的重点是决策模型现已可通过云端运行 可使用 clef:cloud 可使用 clef-flash:cloud 无需本地拉取七、OpenAI 兼容 Responses 对话续接问题修复在 v0.40.5 中Ollama 修复了一个与 OpenAI 兼容 Responses 对话有关的问题。此前如果一个 OpenAI 兼容的 Responses 对话中包含自定义工具调用那么继续该对话时可能会失败并报错。本次更新后包含自定义工具调用的 OpenAI 兼容 Responses 对话可以继续进行不再因为该情况失败。更新内容可以概括为更新前情况v0.40.5 更新后继续包含自定义工具调用的 OpenAI 兼容 Responses 对话可能失败不再因该情况而报错失败本次修复涉及以下几个关键信息OpenAI 兼容 Responses 对话自定义工具调用对话续接失败错误修复版本说明明确指出继续包含自定义工具调用的 OpenAI 兼容 Responses 对话不再失败。八、云端访问失败时提供更清晰的错误提示ollama v0.40.5 对云端访问失败时的错误提示进行了改进。此次更新后当云端访问出现问题时用户可以获得更清晰的错误信息以说明具体发生了什么问题。更新涉及的失败场景包括登录问题桌面应用中的支付问题来自 ChatGPT 网关的上游访问错误版本说明中提到当云端访问失败时以下问题将有更清晰的说明失败类型更新后的表现登录问题更清晰地说明问题桌面应用支付问题更清晰地说明问题ChatGPT 网关上游访问错误更清晰地说明问题这部分更新的重点在于错误提示将更直接地解释问题来源。也就是说当云端访问未能成功时用户可以看到对以下情况更明确的说明登录相关问题 桌面应用内支付相关问题 ChatGPT 网关上游访问相关问题本次更新没有改变这些问题本身的分类描述但改进了它们在发生时的错误信息清晰度。九、llama.cpp 与 MLX 已更新ollama v0.40.5 还更新了 llama.cpp 和 MLX。其中llama.cpp 的更新加入了 Nemotron 3.5 支持。版本更新内容为Updated llama.cpp adding Nemotron 3.5 support and MLX也就是说本次底层相关更新包括更新 llama.cppllama.cpp 加入 Nemotron 3.5 支持更新 MLX对于本次新增的 Nemotron 3.5 Super以及版本信息中提到的 Nemotron 3.5 Boltllama.cpp 的 Nemotron 3.5 支持是此次更新中的重要组成部分。十、ollama v0.40.5 更新内容汇总本次版本更新内容可以归纳为以下几个部分。更新方向具体内容新模型NVIDIA Nemotron 3.5 SuperSuper 模型能力编码、推理、工具调用、文档理解、视觉语言Super 模型架构120B 混合 Mamba-2/Transformer 混合专家骨干网络Super 活跃参数每个 token 12BSuper 视觉编码器C-RADIOSuper 思考模式支持开启或关闭Super 上下文最长 1M tokensSuper 运行命令ollama run nemotron-3.5-superBolt 模型Nemotron 3.5 BoltBolt 参数规模74B总活跃参数为每个 token 9BBolt 定位适配 24 GB NVIDIA GPU 的日常智能体任务Bolt 附加能力包含 drafter支持 speculative decoding云端决策模型clef:cloud、clef-flash:cloud云端模型特点可通过 ollama.com cloud 运行无需本地拉取Responses 兼容性修复包含自定义工具调用的对话续接失败问题云端错误提示登录、桌面应用支付、ChatGPT 网关上游错误提示更清晰底层更新更新 llama.cpp 与 MLXllama.cpp 支持加入 Nemotron 3.5 支持十一、Nemotron 3.5 Super 的运行方式在 Ollama 中运行 Nemotron 3.5 Super可使用以下命令ollama run nemotron-3.5-super模型名称为nemotron-3.5-super该模型对应本次发布中最核心的新增模型内容具备编码、推理、工具调用、文档理解、视觉语言、思考模式控制与最长 1M tokens 上下文支持。十二、结语代码地址github.com/ollama/ollamaollama v0.40.5 于 2026 年10月16日发布。本次更新带来了 NVIDIA Nemotron 3.5 Super。该模型采用 120B 参数的混合 Mamba-2/Transformer 混合专家骨干网络每个 token 激活 12B 参数并搭配 C-RADIO 视觉编码器。模型支持编码、推理、工具调用、文档理解和视觉语言任务同时支持开启或关闭思考模式并支持最长 1M tokens 上下文。本次更新还介绍了更紧凑的 Nemotron 3.5 Bolt。该模型拥有 74B 参数每个 token 激活 9B 参数面向适配 24 GB NVIDIA GPU 的日常智能体任务并包含可用于 speculative decoding 的 drafter。除模型更新外ollama v0.40.5 还让云端决策模型可通过clef:cloud与clef-flash:cloud使用且无需本地拉取模型修复了带有自定义工具调用的 OpenAI 兼容 Responses 对话续接失败问题改进了登录、桌面应用支付和 ChatGPT 网关上游访问错误的提示并更新了 llama.cpp 和 MLX其中 llama.cpp 已加入 Nemotron 3.5 支持。
阅读完成 · 觉得有帮助？
