★ FEATURED ARTICLE 【免费下载链接】pandacodePandaCode: a calm desktop workspace for coding agents项目地址https://gitcode.com/gh_mirrors/pa/pandacode点击查看免费下载PandaCode 的 Panda Router 是内置的本地模型路由引擎用 ONNX 小模型在毫秒级时间内读取任务描述为 Agent 团队的每个 Worker 自动挑出最合适的 AI 模型。整个决策在本地完成不经过 Python、不经过服务器任务内容也不离开你的电脑。为什么需要自动选模型在 PandaCode 的自动团队automatic team里一个 Lead组长 Agent会把任务分派给多个 Worker。团队的模型池catalog可包含所有已安装 harness 的模型最多 1000 个。如果每个 Worker 都用最贵的旗舰模型成本失控如果都用最便宜的模型难题做不好。Panda Router 就是来解决这个任务该派哪个模型的决策者它的官方说法是单次路由在 CPU 上约 10–25 毫秒见 docs/model-routing.md。路由的 4 步流水线Panda Router 是 PandaOrchestrator v4 的原生 Rust 移植ONNX Runtime 直接链接进应用。一次路由分四步第 1 步ONNX 任务画像Profiler一个 32M 参数、int8 量化的小模型Ettin-32M读取任务文本 上下文上下文包括仓库前 3 大语言、涉及文件数、是否需要工具。它输出一份TaskProfile类别13 选 1 的概率分布实现、修 bug、重构、写测试、代码评审、研究、规划、文档、前端 UI、数据分析、DevOps、数学推理、闲聊难度1–10 级分布技能需求coding、debugging、reasoning、math、writing、research、review、planning、ui_frontend、data_analysis 共 10 个轴标志位需要工具、需要视觉、规格含糊等外加 24 项检查表与预期输出长度。输入文本超过 6000 字符时只取头尾见 profile.rs 的format_input所以超长任务描述也不会拖慢路由。第 2 步确定性匹配Matcher内置的模型卡片目录cards.json pandacode_cards.json共 60 多张卡片每张记录 10 轴能力 θ/σ、单价、上下文长度、TTFT、是否支持工具与视觉与任务画像逐一对账用 IRT项目反应理论模型算出每个模型在 10 个难度等级上的成功概率见 matcher.rs。第 3 步学习式成功头Success Head一个基于历史数据训练的 logit 头success.rs success_head.json对每张训练覆盖的卡片校准 P(success)并给出置信下界——决策时用的是下界而不是均值更保守、更稳。第 4 步v4 策略决策Policy在成本、延迟、成功率下界之上按你选的模式挑模型同时生成一条最多 3 级的升级阶梯escalation ladder见 policy.rs模式决策规则适合场景Cheap廉价成功率下界 ≥ 最低门槛默认 50%可调 30–90%中期望成本最低者大批量简单任务Balanced均衡默认效用最大成功率 − 0.3 × 归一化期望成本失败成本计入日常团队工作Best最佳最可能成功、代价相同时选便宜的重要、易失败的任务模型名字如何对上千张卡片Worker 池里的模型名五花八门ollama/qwen3.8:27b、default · GPT-6 Luna · Codex……。cards.rs 的resolve_alias按 4 层规则解析精确 ID → 精确模型串含 vendor 前缀剥离→ 忽略大小写/分隔符的宽松匹配 → 数字防护的模糊匹配阈值 0.75。两个关键的防错设计版本数字防护gpt-6-sol绝不会错配成gpt-6.1-sol档位词防护mini、nano、turbo、pro 等 14 个档位词按整词比较gpt-6-luna-mini不会借用gpt-6-luna的卡片mini 在 gemini 里这类子串陷阱也不会误伤。解析有 8192 条的进程内缓存没有卡片的模型视为未评级永远不会被自动选中——除非你在等级表里给了它 S–D 评级系统会为它生成一张合成卡片让它可路由。失败之后升级阶梯与永不降级这是 Panda Router 最有价值的设计。Worker 失败或被 Lead 的测试/类型检查判为不通过后组长用replaces派发替补并重新路由失败模型被排除难度分布按贝叶斯后验上调这个模型都失败了任务大概比预想更难见after_failure与 panda_router.rs 的escalate_once新选中的模型永远不弱于失败的模型优先走上一轮阶梯的下一级escalation_ladder否则选更强的escalation:stronger再否则选剩下最强者escalation:strongest_left每个任务最多重试 2 次三次失败后 Lead 会把失败报告给你而不是继续烧钱。分派备注里会写清楚决策来源例如routed: Haiku · claude (ladder 1/3, opener; policy pick Opus; …)你可以随时知道为什么派了它。自动下载与完整性校验隐私保证路由过程本身不发起任何网络请求任务内容绝不上传唯一的下载是画像模型文件model.int8.onnx31 MBtokenizer.json3.5 MB约 35 MB来自固定 commit的上游仓库下载流式计算SHA-256 校验失败文件自动清理、10 分钟后才重试见 model_routing.rs文件存放在应用数据目录panda-router/v4旧版 v2 文件在新版加载后自动清除Intel Mac 与 x86_64 Linux 没有预构建的 ONNX Runtime不下载、不加载直接使用关键词启发式macOS 13.4 以下同理。也就是说自动升级对使用者而言是无感的设置里打开路由 → 团队启用时后台下载 → 下次路由自动切换为 ONNX 模式路由结果里的profiler字段会标明onnx还是heuristic。没有 ONNX 时怎么办在文件下载完成之前路由从不阻塞先用内置的关键词启发式heuristic.rs顶替——正则匹配类别词fix/bug/refactor/pytest…、按字数与文件数估难度、按难度偏移推技能轴。效果弱于 ONNX 画像但保证团队随时可用且结果中会明确标注heuristic。在哪里开启与调优Settings → Agents → Model routing面板源码见 model-routing.tsPick worker models with Panda Router总开关默认开启ModeCheap / Balanced / BestMinimum chance of success仅 Cheap 模式显示默认 50%ProfilerReady / Downloading / Failed 状态可手动 Download 或 RetryRoute试一试输入一段任务描述立即看到选中模型、备选 Top 5、各自的成功率与预估成本。另外两个实用功能等级表Tier list给模型评 S/A/B/C/D对应能力 8.9 / 8.0 / 7.0 / 6.0 / 4.5被评级模型的成功率按0.7×等级 0.3×卡片混合——S 级的弱卡可以打败 D 级的强卡Team 菜单提示框旁的 Team 按钮直接切换Cheap team / Balanced team / Best team自动开启自动团队并设置全局模式。源码与文档索引模块路径说明路由主入口src-tauri/src/panda_router.rsroute/escalate、资产清单与 SHA-256ONNX 画像器src-tauri/src/panda_router/onnx.rstokenizer int8 模型加载与批量推理启发式画像src-tauri/src/panda_router/heuristic.rs无 ONNX 时的正则规则画像IRT 匹配器src-tauri/src/panda_router/matcher.rsP(success) 计算、候选过滤、升级地板决策策略src-tauri/src/panda_router/policy.rs三种模式、失败成本、3 级阶梯模型卡片src-tauri/src/panda_router/cards.rs目录校验、别名解析、模糊匹配成功头src-tauri/src/panda_router/success.rs校准 P、置信下界、失败偏移表设置与下载src-tauri/src/model_routing.rs配置、流式下载、状态机团队侧逻辑src-tauri/src/architect/routing.rsprofileId: auto、replaces失败链面板前端src/model-routing.ts / model-routing.css设置页官方文档docs/model-routing.md行为、模式、隐私、限制路由测试src-tauri/src/panda_router/tests.rs与 Python 参考实现的对齐验证小结Panda Router 把为每个 Worker 选模型变成了一道本地、毫秒级、可解释的优化题ONNX 小模型负责读懂任务模型卡片负责量化每个模型成功头负责校准概率v4 策略负责在成本与成功率之间权衡失败后沿阶梯只升不降、最多两次重试。对新手来说你只需要知道一件事——在设置里打开它选择 Balanced 模式剩下的交给路由。赞分享【免费下载链接】pandacodePandaCode: a calm desktop workspace for coding agents项目地址https://gitcode.com/gh_mirrors/pa/pandacode点击查看免费下载相关推荐TRACER Embedding选型指南4个Sentence-Transformers模型对比为你的LLM路由选对向量TRACER Embedding选型指南4个Sentence Transformers模型对比为你的LLM路由选对向量 TRACER 是一个开源的 LLM深度揭秘OpenSquilla的SquillaRouter本地模型路由器如何让每一轮对话都省钱深度揭秘OpenSquilla的SquillaRouter本地模型路由器如何让每一轮对话都省钱 OpenSquilla 是一款主打Token 高效的开源AI Agent人工智能大模型MCP ClientsMCP 服务即时通讯LLM 网关工具调用CLI前端桌面应用Agent 记忆为什么选0.5B小模型Qwen2.5-0.5B-Instruct_rai_1.8.0_npu_16K 与本地大模型对比选型指南为什么选0.5B小模型Qwen2.5 0.5B Instruct_rai_1.8.0_npu_16K 与本地大模型对比选型指南 想在普通 PC 上体验 本地大上一篇Hoppscotch 本地部署教程免费开源 API 测试平台从零跑通下一篇DyberPet 桌宠指南十分钟从安装到喂出第一顿饭创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
