★ FEATURED ARTICLE 【免费下载链接】billion-contextA context-compression plugin for small context windows (a 100K context is enough), token savings (5x fewer tokens), and month-long single sessions (billions of tokens).上下文压缩插件兼顾小窗口(100k上下文足矣)省token(省5倍token)和超长会话(数月级别几十亿token单会话)。billion-context is all you need项目地址https://gitcode.com/gh_mirrors/bil/billion-context点击查看免费下载billion-context是一个面向 Claude Code、Codex、pi、OpenCode 等编码 Agent 的上下文压缩插件它能在 100K 小上下文窗口下省下约 5 倍 token并支撑长达数月、数十亿 token 的超长单会话。本文带你 5 分钟内完成安装通过原生插件、启动器、bili 前缀三种方式任选其一快速开始。 先搞懂billion-context 解决什么问题长对话的编码会话会让上下文迅速膨胀token 越算越贵一旦超出模型上下文窗口会话就开始降级甚至直接死掉。billion-context 的解法是在任意 Agent 与模型 API 之间加一个本地代理把已经消费完的对话增量式折叠成高保真摘要压缩由模型自主决定时机与范围而不是粗暴截断压缩可逆需要精确细节时可用decompress还原对前缀缓存友好健康会话的缓存命中率保持在 95–97%上图为论文中展示的折叠布局已消费的对话被折叠成可分层恢复的摘要块tier-1/2/3最近的约 50K token 保持原样。设计细节可阅读 paper/ 目录下的论文。 第 0 步安装 bili 命令两种方式共用npm install -g billion-context --prefix~/.local这条命令会安装bili命令bili-proxy为其别名。使用用户级--prefix的好处是全程不需要 sudo也不改 npm 全局配置后续自更新不会遇到权限问题。安装后bili位于~/.local/bin多数发行版默认已在 PATH 中若提示找不到命令把export PATH$HOME/.local/bin:$PATH加进~/.bashrc或~/.zshrc。nvm / Homebrew Node 用户和 Windows 用户默认前缀本就用户可写直接npm install -g billion-context即可。 方式一原生插件安装最省心推荐 pi/omp/opencode/dsh/kimi 用户代理直接住进客户端装一次之后照常启动客户端即可——不用启动器命令、不用环境变量、不用固定端口、不用改 URL。bili plugin install pi # 在 pi 的 settings 里注册 billion-context bili plugin install opencode # 注册插件并关闭 OpenCode 原生自动压缩 bili plugin install dsh # 为每个已有 profile 添加 billion-context bili plugin install kimi # 写入声明式插件配置需 Kimi Code ≥ 2.0.0 bili plugin remove client # 卸载原配置自动快照到 .bili-bak装完后直接像平时一样启动客户端压缩自动生效。⚠️ 注意原生模式与独立的进程内扩展如billion-context-pi互斥两者同时生效会造成双重压缩。安装器会自动替换旧条目并快照原配置到.bili-bak项目级安装除外需手动移除。⚡ 方式二启动器一键拉起零配置不动任何配置文件一条命令同时拉起代理和客户端真实配置文件从不被修改bili pi # 拉起 pi走代理 bili codex # 拉起 codex bili claude # 拉起 claude bili gemini # 拉起 Gemini CLI bili qwen # 拉起 Qwen Code启动器支持 20 客户端pi、omp、opencode、claude、codex、hermes、dsh、codebuddy、qoder、trae、jcode、kimi、gemini、iflow、qwen、antigravity、mcode、aider、copilot、amp、goose 等。它会按客户端特性自动选择机制——能走代理环境变量的用证书 MITM不能走的用隔离的/bili/配置重写退出后一切恢复原状。 每个启动器会话都使用独立端口、全新代理实例自管端口区从 18787 起冲突自动 1 跳转多开互不干扰。 方式三/bili/ 前缀改 baseURL最通用什么客户端都能用如果你的客户端没有任何插件/启动器支持只需两步1. 手动启动代理bili2. 把客户端的 baseURL 前面加上http://localhost:8787/bili/改动前: https://api.openai.com/v1 改动后: http://localhost:8787/bili/https://api.openai.com/v1完整上游 URL 直接嵌在路径里代理无需任何配置就知道往哪里转发。之后随时停掉bili并还原 baseURL 即可完全退出。✅ 3 分钟验证压缩真的生效了吗代理运行且客户端配置好后先做健康检查curl -s http://localhost:8787/__bili/health # 期望输出: {ok:true,upstream:https://api.anthropic.com} curl -s http://localhost:8787/__bili/stats # 真实请求后的实时统计然后从客户端发一条消息观察日志~/.local/state/billion-context/bili.log同时打印到 stderr每请求一行processTurn会话增长后出现[acp-usage] round N inputX cachedY (cache hit Z%)达到压缩条件时出现compress事件在原生插件客户端opencode、dsh里直接输入/acp可看到当前会话的状态面板输入/acp-cache会在客户端内打印缓存命中率报告并附带一个 Web UI 链接打开就是会话统计页如上图健康会话的缓存命中率应稳定在 95–97%压缩本身的开销 ≤2%。❓ 新手常见疑问Q三种方式怎么选支持原生插件的客户端pi/omp/opencode/dsh/kimi/hermes/zcode/claude/codex首选方式一其他客户端用方式二什么钩子都没有的客户端用方式三。完整对照表见 CLIENTS.md。Q什么时候触发压缩模型驱动无人工干预注入的compress/decompress/search_context/acp_status四个工具由模型按上下文增长自行调用另有增长提醒默认约 5 万 token 步长和输入超限时的预检兜底。Q怎么彻底关掉bili plugin remove client卸载原生插件停止使用启动器命令 / 环境变量 //bili/前缀流量立即恢复直连。未识别的端点也会原样透传天然安全。Q日志和会话数据存在哪日志在~/.local/state/billion-context/bili.log10MB 自动轮转会话状态在~/.local/share/billion-context/。 延伸阅读项目内文档路径快速上手的完整说明README.md / README.zh-CN.md各客户端详细接入方式与已知限制CLIENTS.md配置项全参考providers、压缩调优、环境变量CONFIGURATION.md三种方式的机制细节插件生命周期、runtime-info 协议、注入优先级TECHNICAL-NOTES.md研究论文生产级纵向研究4.5 个月、17.4 万次模型调用、187.6 亿输入 tokenpaper/会话身份设计SESSION-IDENTITY.md装好 bili挑一种方式接上你常用的 Agent5 分钟后你就能用上省 5 倍 token、支持数月长会话的上下文压缩了——billion-context is all you need 赞分享【免费下载链接】billion-contextA context-compression plugin for small context windows (a 100K context is enough), token savings (5x fewer tokens), and month-long single sessions (billions of tokens).上下文压缩插件兼顾小窗口(100k上下文足矣)省token(省5倍token)和超长会话(数月级别几十亿token单会话)。billion-context is all you need项目地址https://gitcode.com/gh_mirrors/bil/billion-context点击查看免费下载相关推荐5分钟上手GithubLauncher新手快速开始完整指南5分钟上手GithubLauncher新手快速开始完整指南 GithubLauncher 是一款免费、开源的应用启动器帮你从 GitHub Releases如何快速掌握XXMI启动器新手5分钟上手指南如何快速掌握XXMI启动器新手5分钟上手指南 想要轻松管理多款游戏的模组却不知从何入手XXMI启动器作为一款专业的游戏模组管理神器让新手也能快速上手。这款桌面应用告别内网部署噩梦无需 Docker 环境5分钟完成镜像离线下载与打包告别内网部署噩梦无需 Docker 环境5分钟完成镜像离线下载与打包 凌晨两点你守着一台严格隔离的内网服务器手里攥着刚拷回来的 tar 包却被告知这开发工具容器创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
