★ FEATURED ARTICLE 【免费下载链接】heymBuild agentic systems. Run them with confidence. Orchestrate agents, automate business processes, inspect every execution, and keep humans in control. Deploy Heym on your own infrastructure.项目地址https://gitcode.com/gh_mirrors/he/heym点击查看免费下载在 Heym 工作流中LLM 节点是与大语言模型交互的核心组件它可以生成文本、理解图片视觉输入、生成图片、返回符合 JSON Schema 的结构化结果还能通过 Batch API 一次性提交成百上千条请求。本文将带你快速上手 Heym LLM 节点的 5 大核心能力并给出批量模式与故障回退等实用技巧让每一条 LLM 调用都可控、可观测。什么是 Heym LLM 节点LLM 节点通过已配置的LLM CredentialAPI 密钥凭据调用语言模型是 Heym 中实现 AI 能力的入口。它支持的能力包括能力说明文本生成默认模式输出$nodeLabel.text视觉理解勾选Include image input把图片 URL 或 base64 传给模型图片生成将 Output Type 切换为image输出 base64 图片数据结构化输出开启 JSON Output按你定义的 Schema 返回可解析字段Batch API 批量模式走服务商原生 Batch API一次执行一整个任务数组节点的参数面板定义在 LlmNodeProperties.vue运行逻辑则位于 llm_node.py完整的官方文档见 llm-node.md。快速开始LLM 节点核心配置清单新建一个 LLM 节点后按下表完成最基础配置即可运行参数作用建议credentialId选择 LLM 凭据OpenAI、Google、Custom 等先在 Credentials 标签页添加 API Keymodel模型名称如gpt-4o、gemini-2.5-flash-lite按成本与能力取舍systemInstruction系统提示词支持表达式定义模型角色与规则userMessage用户消息默认$input.text用$表达式引用上游数据temperature0.0–2.0默认 0.7创意任务调高严谨任务调低maxTokens最大响应 token 数防止超长输出requestTimeoutSeconds超时秒数默认 60自托管慢模型LiteLLM、vLLM建议调大配置完成后点击Run Workflow画布上即可看到节点逐步执行、结果流入下游节点四大输出模式详解文本生成最基础也最常用的模式保持 Output Type 为text把提示词写在userMessage中即可。例如用$input.text接收上游文本配合 systemInstruction 让模型扮演客服助手或数据摘要器。视觉理解让模型看图说话勾选Include image input后imageInput表达式可填写图片 URL如$input.imageUrlbase64 data URLdata:image/png;base64,...模型会把图片与文字消息一起处理适合发票识别、截图分析、图片问答等场景。图片加载与安全检查逻辑位于 llm_service.py 中。图片生成从文字到图像将 Output Type 切换为image选择支持图像生成的模型如nanobanana、gemini-2.0-flash-expuserMessage即变为图像描述提示词可再指定imageSize默认 1024x1024与imageQuality。输出通过$nodeLabel.image获取 base64 图片数据。结构化 JSON 输出让结果直接进入下游流程开启JSON Output并填写jsonOutputSchemaHeym 会自动把 Schema 约束注入系统提示词并对模型返回做解析——解析成功后下游节点可以直接用$nodeLabel.fieldName访问字段无需再做脆弱的字符串提取。解析逻辑见 llm_node.py。Batch API 批量模式一次提交整批处理当你要对一批数据逐条调用 LLM如批量摘要、批量分类时开启Batch mode可以走服务商原生 Batch API基于/v1/files与/v1/batches接口相比逐条请求成本更低、更稳定。Batch 模式的 4 条硬性规则outputType必须保持text不支持图片输出不能同时启用图片输入userMessage表达式必须解析为数组例如$input.items.map(item.text)$vars.promptList数组中每一项必须是字符串或原始值输入校验与归一化由 llm_batch_input.py 完成如果表达式只解析出单个字符串而非数组节点会在调用服务商之前就报出清晰的验证错误而不是白白消耗配额。用 batchStatus 分支实时跟踪进度开启 Batch 模式后节点会多出一个batchStatus输出手柄。把需要边跑边通知的节点消息推送、日志记录连到这个分支就能在pending→processing→completed/failed的状态变化时收到回调payload 包含$input.batchId、$input.batchStatus、$input.status$input.total、$input.completed、$input.failed$input.requestCounts.total/completed/failed、$input.provider、$input.model批量结果的读取方式主输出中提供$nodeLabel.results按原始顺序的逐项结果含index、customId、status、text、error、usage$nodeLabel.text所有成功文本的拼接$nodeLabel.completed/$nodeLabel.failed成功与失败计数若 Batch 模式同时开启了 JSON 输出Heym 会逐条解析成功项把解析后的对象收集到$nodeLabel.parsedResults失败的项标记为error不会拖垮整批任务。相关行为可在 test_llm_batch_mode.py 中找到对应的测试用例。 注意Batch 模式仅 LLM 节点支持Agent 节点不可用Google 凭据不支持 Batch面板会直接提示并禁用开关见 llm_provider.py。实用进阶技巧故障回退Fallback配置fallbackCredentialIdfallbackModel主凭据或模型报错时自动切换重试避免整条工作流因单次 API 故障而失败。Extra Body 透传勾选Send extra request body把一段 JSON 对象合并进每次 API 请求例如关闭某些模型的思考模式。内容为$表达式解析前会先做变量替换。推理模型对 o1/o3 等推理模型可设置reasoningEffortlow/medium/high控制推理深度。Guardrails 护栏在调用 LLM 之前拦截不安全用户消息可按类别与严重级别过滤。Responses APIOpenAI 凭据可勾选Use Responses API走新接口与 Chat Completions 的提示词、JSON Schema、结果形状保持一致但不能与 Batch 模式同时使用。观察每一次 LLM 调用LLM 节点天然接入 Heym 的 Traces 与 Analytics每一次请求、响应、token 用量、延迟与成本都有完整记录。批量模式跑完上百条请求后你可以在 Traces 页面按模型、凭据、来源筛选快速定位是哪一条失败、花了多少钱相关资源官方 LLM 节点文档llm-node.md节点执行入口llm_node.py批量输入校验llm_batch_input.py执行器中的 LLM 执行逻辑workflow_executor.py属性面板LlmNodeProperties.vue赞分享【免费下载链接】heymBuild agentic systems. Run them with confidence. Orchestrate agents, automate business processes, inspect every execution, and keep humans in control. Deploy Heym on your own infrastructure.项目地址https://gitcode.com/gh_mirrors/he/heym点击查看免费下载相关推荐Outlines完全指南如何用Python实现LLM结构化输出生成Outlines完全指南如何用Python实现LLM结构化输出生成 在当今AI技术飞速发展的时代大型语言模型LLM已经成为各行各业的重要工具。然而如何人工智能大模型AI-Research-SKILLs 之 Outlines JSON 生成完全指南用 Pydantic 模型与 JSON Schema 锁定 LLM 结构化输出AI Research SKILLs 之 Outlines JSON 生成完全指南用 Pydantic 模型与 JSON Schema 锁定 LLM 结构化输AI 技能人工智能大模型深度学习banana-claude批量生成与品牌预设CSV工作流一次搞定整套视觉资产banana claude批量生成与品牌预设CSV工作流一次搞定整套视觉资产 banana claude 是一款面向 Claude Code 的 AI 图像生创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
