ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

网络协议总结

网络协议总结

一、HTTP API 基础

1.HTTP请求

AI 应用常通过 API 调用大模型或业务系统。一次 HTTP 请求通常包含:

  • 方法:GET常用于读取,POST常用于提交数据或创建请求。
  • 路径:要访问的接口地址。
  • Headers:认证信息、内容类型等。
  • Body:请求数据,常用 JSON 格式。

2.状态码

服务会返回状态码和响应内容。常见状态码:

  • 200:请求成功
  • 400:请求格式或参数有问题
  • 401:未认证
  • 403:无权限
  • 404:接口或资源不存在
  • 429:请求太频繁
  • 500:服务端错误

调用大模型接口时,通常把输入放入 JSON 请求体,然后解析 JSON 响应。工程上还要设置超时、合理重试、处理限流和记录必要日志。

API Key 等秘密信息应通过环境变量或安全配置管理,不能直接写进代码或公开日志。

3.让 API 调用更可靠

调用模型或业务 API 时,除了发出请求,还要处理错误和异常响应。

(1)区分可重试错误

  • 429:请求频率过高,通常应等待后再试。
  • 500、502、503:服务端暂时异常,有时可以重试。
  • 400:请求参数有问题,通常应先修正请求。
  • 401、403:认证或权限问题,通常不是重试就能解决。

重试可以使用逐步增加等待时间的策略,并遵守服务端返回的等待提示;不要无限重试。

(2)校验模型输出

即使要求模型返回 JSON,也应检查:

  • 返回内容是否能被解析;
  • 必需字段是否存在;
  • 字段类型和取值是否符合预期。

模型输出属于外部输入,不能因为它“看起来像 JSON”就直接信任。

(3) 流式输出

流式响应可以在模型尚未生成完整答案时,逐段把内容传给用户,降低感知等待时间。程序也要处理连接中断、部分答案和取消请求等情况。

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进