一、HTTP API 基础1.HTTP请求AI 应用常通过 API 调用大模型或业务系统。一次 HTTP 请求通常包含方法GET常用于读取POST常用于提交数据或创建请求。路径要访问的接口地址。Headers认证信息、内容类型等。Body请求数据常用 JSON 格式。2.状态码服务会返回状态码和响应内容。常见状态码200请求成功400请求格式或参数有问题401未认证403无权限404接口或资源不存在429请求太频繁500服务端错误调用大模型接口时通常把输入放入 JSON 请求体然后解析 JSON 响应。工程上还要设置超时、合理重试、处理限流和记录必要日志。API Key 等秘密信息应通过环境变量或安全配置管理不能直接写进代码或公开日志。3.让 API 调用更可靠调用模型或业务 API 时除了发出请求还要处理错误和异常响应。1区分可重试错误429请求频率过高通常应等待后再试。500、502、503服务端暂时异常有时可以重试。400请求参数有问题通常应先修正请求。401、403认证或权限问题通常不是重试就能解决。重试可以使用逐步增加等待时间的策略并遵守服务端返回的等待提示不要无限重试。2校验模型输出即使要求模型返回 JSON也应检查返回内容是否能被解析必需字段是否存在字段类型和取值是否符合预期。模型输出属于外部输入不能因为它“看起来像 JSON”就直接信任。3 流式输出流式响应可以在模型尚未生成完整答案时逐段把内容传给用户降低感知等待时间。程序也要处理连接中断、部分答案和取消请求等情况。
阅读完成 · 觉得有帮助?