多模型API接入降级链实战（Python+Node双实现+真实成本表）

多模型API接入降级链实战PythonNode双实现真实成本表场景做 AI 应用的团队普遍接了不止一家模型DeepSeek 跑日常、GPT 系跑推理。但接入越多问题越多每家 SDK/参数差异代码改来改去一家限流全家卡壳Token 成本没有闸门月底账单吓人本文给出一套OpenAI 兼容协议统一接入 成本导向降级链的实战方案Python/Node 双实现直接能跑。原理三个决定决定 1只说 OpenAI 方言。DeepSeek、通义、豆包以及 new-api/one-api/OpenRouter 这类聚合网关全部兼容/v1/chat/completions。统一协议换模型改一个字符串。决定 2降级链而不是单点。模型按便宜→贵排队请求失败或超时自动切下一个。对用户无感对成本最优。决定 3超时是降级的前提。没有超时就没有降级。60 秒起步视场景调整。代码Python 完整实现importrequestsclassSmartClient:def__init__(self,base_url,api_key,chain,timeout60):self.base_urlbase_url.rstrip(/)self.api_keyapi_key self.chainlist(chain)# 便宜在前self.timeouttimeoutdefchat(self,prompt,**kw):errors[]forminself.chain:try:rrequests.post(f{self.base_url}/chat/completions,headers{Authorization:Bearer self.api_key},json{model:m,messages:[{role:user,content:prompt}],**kw},timeoutself.timeout)datar.json()ifr.status_code200anddata.get(choices):returndata[choices][0][message][content],m errors.append(f{m}: HTTP{r.status_code})except(requests.Timeout,requests.ConnectionError)ase:errors.append(f{m}:{type(e).__name__})raiseRuntimeError(全链路失败:\n\n.join(errors)) 测试降级 python cSmartClient(base_urlhttps://你的网关/v1,# new-api / one-api / openrouter 均可api_keysk-xxx,chain[deepseek-v4.1-flash,deepseek-v4-pro],)# 故意放一个不存在的模型在链头, 观察自动跳过:c2SmartClient(c.base_url,c.api_key,[not-exist-xxx,deepseek-v4.1-flash])print(c2.chat(一句话介绍二分查找))# 自动落到第二个 Node.js 版原生 fetch零依赖见文末仓库。## 成本数据实测抓取 2026-11|模型|输入倍率|输出倍率|适用||---|---|---|---||低价 flash 线|0.25|4×|摘要/改写/格式化||flash 标准线|0.4|4×|日常任务||v4-pro|1.125|3×|推理/代码||gpt-6.1-sol|0.1495|5×|长输入短输出|同任务2k入1k出flash 系比 pro 省10-15%做默认便宜、失败升级的链路后整体账单通常降一半左右。## 踩坑清单|坑|解法||---|---||不设超时卡死整个服务|每请求必带 timeout||429和 5xx 混为一谈|分开处理429可等重试5xx 直接降级||流式输出自动降级|流式不能降级已吐出的字收不回失败直接报错||抄别人的倍率表|倍率会变定时抓自己站 pricing 接口|## 完整仓库GitHub**https://github.com/chenduosheng1/multi-model-switcher**含PythonNode 双实现/流式示例/降级演示/成本表。MIT 许可。issue 附报错原文看到就回。---下一篇《流式输出的降级策略》。有具体场景问题评论区聊。