★ FEATURED ARTICLE 云原生后端运维【免费下载链接】TerminusOpen-Source Personal Cloud OS for Always-On Agents项目地址https://gitcode.com/gh_mirrors/terminus2/Terminus点击查看免费下载LobeHub前身 LobeChat是一款开源的自托管 AI 智能体平台可以接入 Olares 本地推理引擎运行的模型支持文件处理、知识库与自定义技能。本文基于 Olares 1.12.7 及之后的版本完整讲解如何在 Olares 上安装 LobeHub、通过 Olares Router 将它与本地 Qwen 模型连通并使用 Agent Builder 与自定义配置打造专属 AI 智能体同时结合仓库源码说明default-chat路由名、连接检查等关键机制背后的实现原理。:::tip 关于产品名称 LobeHub 是官方平台名称但应用目前在 Olares Market 中仍显示为LobeChat。本文同时使用两个名称以精确匹配你在屏幕上看到的内容Market 将在未来版本中更新为 LobeHub 品牌。本文以 英文原文 为准整理。 :::学习目标在 Olares 上安装 LobeHub 并连接本地模型。使用 Lobe AI 完成软件开发、学习、写作、数据分析等日常任务。使用 Agent Builder 或自定义设置创建专用智能体并通过技能扩展能力。前置条件开始前你需要准备以下环境与资源一台运行 Olares 1.12.7 或更高版本的设备具备足够的磁盘空间与内存并且可以访问Router用于本地模型连接。相关说明见 reusables/ai-service-connections.md 中的router-prerequisite片段。以下模型模型类型模型获取方式聊天Qwen3.8-27B (llama.cpp)从应用市场安装可选使用其他模型如果你希望使用不同的聊天模型可以从 Market 安装其他预构建模型应用或者基于 Engine Base 应用 克隆出模型实例例如 llama.cpp、Ollama、vLLM、SGLang 四种引擎基座再在 Router 的Default models页面将其设为默认聊天模型。使用default-chat作为模型名的客户端无需修改自身配置即可跟随新的默认模型若希望客户端固定在某个具体模型上则应改用 RouterHow to call this model窗口中显示的完整模型名。安装 LobeHub打开 Olares Market搜索 LobeChat。点击获取然后点击安装等待安装完成。登录 LobeHub从 Launchpad 打开LobeChat。输入你的电子邮件地址然后按照页面提示创建 LobeHub 账户并登录。理解连接架构客户端、Router 与模型服务在开始配置连接之前先理解 Olares 上 AI 应用的连接模型这会直接决定下面的配置步骤。在 Olares 中一次 AI 调用涉及三个部分详见 connect-ai-apps.md客户端应用Client app聊天界面、编码工具或工作流应用负责发送模型请求——LobeHub 就是这一层。RouterOlares 内置的统一 AI 网关负责调用方认证、访问控制、配额管理并把请求路由到正确的后端能力。模型服务Model service运行在本地模型应用如 llama.cpp Engine Base 实例或远程云厂商中的模型。客户端永远不直接连本地模型或云厂商而是统一连接 RouterRouter 再根据请求的model字段把请求转发给对应后端。这一架构在 olares-router.md 中有完整说明。关键点是请求来源决定连接方式请求来源Router 连接选项接入方式Olares 内的应用进程Apps in Olares平台自动注入应用身份无需 API key同一局域网内的电脑Devices in LAN直接 LAN 访问需 Router API key局域网外的电脑Remote通过 LarePass VPN Router API key本文场景中LobeHub 作为安装在 Olares 上的应用请求由它自己的服务端进程发出、停留在 Olares 网络内因此属于Apps in Olares场景平台通过X-Olares-App-ID请求头注入应用身份客户端不需要提供 API key密钥字段留空即可若客户端强制要求非空值使用教程中的占位文本。获取模型连接信息在 Router 中获取 LobeHub 需要的连接参数Base URL 与模型名从 Launchpad 打开 Router在Default models页面将 Qwen3.8-27B (llama.cpp) 设置为默认聊天模型。进入LLM页面找到 Qwen3.8-27B (llama.cpp)点击其行内的View connection example查看连接示例。在弹出的How to call this model窗口中选择Apps in Olares然后复制Base URL务必包含/v1后缀例如https://router.your-olares-domain/v1。在客户端中使用default-chat作为模型名。Olares 内的应用不需要 Router API key如果客户端要求必填可填入olares。:::details 为什么用default-chat而不是具体模型名default-chat是 Router 的系统级路由名属于default-前缀的系统默认名称它会自动路由到Default models页面当前选定的聊天模型。这样做的好处是以后你在 Router 上更换默认模型时LobeHub 无需任何改动即可自动跟随。但要注意default-chat是路由名而不是真实模型模型列表 APIGET /v1/models不会返回它——这正是下面需要在 LobeHub 中手动添加该模型 ID 的原因。如果客户端只支持从拉取的模型列表中选模型则改用 Router 中显示的完整模型名如Olares/unsloth/Qwen3.8-27B-GGUF:Q4_K_M。 :::在 LobeHub 中配置连接第 1 步进入提供商设置从左侧边栏前往设置AI 服务提供商OpenAI。第 2 步填写连接参数按以下清单配置配置项填写内容说明API 密钥任意占位文本例如localOlares 内应用由平台注入身份此字段仅为满足客户端格式要求API 代理 URL从 Router 复制的Base URL例如https://router.your-olares-domain/v1必须包含/v1路径且使用Apps in Olares选项下提供的地址使用 Responses API 规范禁用LobeHub 将改用 chat/completions 请求格式与 Router 通信使用客户端请求模式禁用见下方说明:::tip 为什么必须禁用「使用客户端请求模式」 该选项会把请求来源从 Olares 内的应用服务端移到浏览器端。浏览器直连 Router 时请求不再携带 Olares 应用身份无法通过平台注入的认证需要走 LAN/Remote 连接并携带 Router API key同时直连路径与 Router 提供的 Apps in Olares Base URL 不匹配通常会导致连接错误。该模式专为远程 API 调用设计运行本地模型时不要启用。 :::第 3 步手动添加default-chat模型在Model List中添加自定义模型模型 ID 填写default-chat。点击Fetch models获取模型只能返回具体模型列表不会返回路由名因此需要手动添加这个路由名称。这一行为与仓库中的 Router 客户端实现一致call_models.go 明确指出GET /v1/models只列出真实的provider/model名称而别名、模型组以及default-chat这类默认系统名称虽然可以调用却故意不出现在模型列表中A route — an alias, a group, or a default category likedefault-chat— is callable and is not listed。所以任何基于该 API 构建模型菜单的客户端都必须手动补录default-chat。第 4 步启用模型点击模型条目上的toggle_off开关启用它。第 5 步连接检查在连接检查部分从列表中选择刚刚启用的模型点击检查验证连接。如果模型较大加载可能需要更长时间。按钮变为检查通过即表示连接已建立。第 6 步返回主页点击左上角的 Home 图标返回 LobeHub 主页。使用 Lobe AILobe AI是 LobeHub 的官方默认智能体无需复杂设置即可帮你完成软件开发、学习支持、创意写作、数据分析和日常个人任务。如果它不能满足你的特定工作流可以构建自己的专用智能体见下一节。从左侧边栏点击Lobe AI。在聊天窗口下方点击模型选择器选择刚才配置的本地语言模型default-chat。像使用任何标准对话 AI 一样开始聊天。创建智能体LobeHub 允许你通过组合不同语言模型与技能创建处理特定任务的专用助手灵活的模型切换在同一会话中即可即时切换语言模型以获得最佳结果。例如对某个回答不满意时可以从列表选择不同模型利用它们的独特优势。技能扩展可以安装额外技能来扩展智能体能力。要安装技能请确保选择兼容Function Calling的模型——寻找模型名称旁的brick图标它表示该模型支持函数调用。使用 Agent Builder 创建Agent Builder 是 LobeHub 内置的对话式助手你只需描述需求它会自动生成完整的智能体配置包括角色设置、系统提示和技能。在主页上点击聊天框下方的创建智能体。在聊天框中描述你希望智能体处理的具体任务例如我需要一个智能体来审查我的日常工作事项并总结它们。总结应重点关注任务的整体目的 并突出具体的行动项。选择本地语言模型。按Enter。新智能体的资料页面打开你可以看到 Agent Builder 开始自动配置你的智能体。使用右下角的聊天界面与 Agent Builder 交互。当你提供更多细节或完善需求时Agent Builder 会自动起草并更新配置。创建完成后点击开始对话使用该智能体。在聊天中提供你的文本即可获得精炼的结果例如- 修复登录页面的 bug 405 - 与设计讨论新仪表板 - 在邮件中回答客户关于账单的问题。 - 审查 pr112截止日期明天上午 11:00你会获得按行动项组织的精炼输出见原文档示例截图 agent-builder-example1.png。如果对智能体表现满意可以将其固定以便快速访问返回主页。将鼠标悬停在左侧边栏的智能体上点击more_horiz然后点击固定。创建自定义智能体如果你有特定需求并希望完全手动配置可以创建自定义智能体。它提供最高级别的个性化你可以设置智能体的头像、名称、AI 模型、技能和提示。在主页上点击左上角的机器人图标然后选择创建智能体。智能体资料页面打开界面示例见 lobehub-custom-agent-profile1.png。点击默认的机器人头像为智能体选择一个新图标。输入智能体名称例如SEO 文案撰写。选择配置好的本地语言模型。点击 添加技能为智能体配备额外工具。例如选择网页浏览以收集 SEO 数据。通过填写结构化 markdown 模板定义角色和行为精确定义智能体的运作方式。例如#### 目标 根据用户提供的主题撰写 SEO 优化的博客文章。 #### 技能 - 关键词研究、部署和密度优化 - 引人入胜的标题生成 - Markdown 格式 #### 工作流 1. 询问用户主题。 2. 建议目标关键词、H1 标题和最佳元描述。 3. 生成针对 Google 精选摘要优化的结构化大纲。 4. 生成待批准的结构化大纲。 5. 大纲获批后撰写完整的博客文章。 #### 约束 - 使用简单语言避免技术术语。 - 关注用户价值而不是罗列产品功能。 - 避免使用被动语态。 - 用第二人称 你 面向用户点击开始对话使用它。例如输入我想为 本地 AI 替代方案 排名审查提案和输出与其迭代直到满意示例输出见 lobehub-seo-sample1.png。满意后将其固定以便快速访问返回主页 → 悬停左侧边栏智能体 → 点击more_horiz→固定。常见问题连接检查失败如果遇到Error requesting service错误界面如 lobehub-connection-error.png 所示按以下步骤排查并重试检查Model Console模型控制台确认Model状态显示为READY且Engine状态显示为RUNNING。模型文件未下载完成或引擎未上线时Router 侧模型不可调用连接检查必然失败。确保提供商设置页面上的使用客户端请求模式选项已禁用。深入原理Router 如何服务 LobeHub 的请求为了让连接排查更有的放矢补充几个与本文直接相关的 Router 实现细节源码均位于 cli/cmd/ctl/router 目录Chat 调用走 OpenAI 兼容接口call_chat.go 展示了客户端调用链路——POST /v1/chat/completions请求体包含model、messages、stream、max_tokens、temperature等字段。禁用Responses API 规范后LobeHub 即使用此标准格式与 Router 通信本地推理模型在加载较慢时请求可能进入引擎队列这正是连接检查可能加载较长时间的原因。模型列表不含路由名call_models.go 中GET /v1/models只返回真实模型含id、mode、supports、readiness等字段而default-chat这类默认系统名称被刻意排除——因此 LobeHub 必须手动添加该模型 ID且不要期望通过 Fetch models 拉到它。上下文窗口以引擎配置为准如果客户端询问 token 数或上下文长度应以 Router 模型卡Engine args中的实际值为准。对于 llama.cpp 引擎-c参数如-c 104448决定上下文大小客户端的上下文设置不能超过引擎配置单独调大客户端设置不会提高引擎容量详见 ai-service-connections.md 的model-context-window片段。可用 CLI 做连接验证作为 Olares 管理员还可以用olares-cli router call chat直接向 Router 发送聊天请求验证模型可用性或用olares-cli router call models查看当前凭据可调用的模型名单如需了解--include-not-ready、--operations等参数见 call_models.go。相关文档使用 Olares Router 作为 AI 网关Router 的完整架构、认证方式与模型命名规范。AI 应用如何连接 Olares 模型请求来源、Base URL、API key 与模型选择机制。使用 Engine Base 应用运行本地 LLM克隆 llama.cpp 等引擎基座部署自定义模型实例。赞分享云原生后端运维【免费下载链接】TerminusOpen-Source Personal Cloud OS for Always-On Agents项目地址https://gitcode.com/gh_mirrors/terminus2/Terminus点击查看免费下载相关推荐在 Olares 上使用 LobeHub 构建本地 AI 智能体安装、模型连接与 Agent 定制实战在 Olares 上使用 LobeHub 构建本地 AI 智能体安装、模型连接与 Agent 定制实战 LobeHub前身为 LobeChat是一个开源平云原生后端运维在 Olares 上用 AnythingLLM 构建本地私有知识库安装、Router 模型接入与 RAG 查询实战在 Olares 上用 AnythingLLM 构建本地私有知识库安装、Router 模型接入与 RAG 查询实战 AnythingLLM 是一个开源的一体化云原生后端运维在 Olares 上用 Paperclip 编排多 AI 智能体协作安装、配置与本地模型实战指南在 Olares 上用 Paperclip 编排多 AI 智能体协作安装、配置与本地模型实战指南 Paperclip 是一个开源的多智能体协调平台它通过虚云原生后端运维上一篇OptiScaler终极指南跨GPU超采样与帧生成技术完全解析下一篇快速提升设计效率Excalidraw Libraries图形资源库完全指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
