10 分钟跑通免费 LLM API 路由：FreeLLMAPI 从部署到第一条免费回复

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi

FreeLLMAPI 把 34 家 LLM 提供商的免费层聚合成一个 OpenAI 兼容的 /v1 接口，路由器自动挑当前最优的免费模型。跟着走，一行命令完成部署，10 分钟拿到第一条免费回复。现有代码改两个参数就能接上。

手动串 34 家免费额度会怎样

如果你现在要手动把 34 家提供商的免费额度串起来，你面对的是：

• 密钥分散在各家控制台
• 限流规则各不相同
• SDK 各写各的
• 34 个会挂的地方

FreeLLMAPI 把这 34 家提供商的免费层合并成一个池子：474 个模型家族、635 个免费模型端点，折合每月约74 亿免费 token。你的请求只打本地这一个 /v1 接口，挑模型是路由器的事。

一行命令部署，Playground 验证

最快的路是官方一行命令。前置条件只有一个：需要 Docker。它会替你建好目录、生成加密密钥、拉镜像，容器跑在 3001 端口：

curl -fsSL https://freellmapi.co/install.sh | bash

✅ 成功标志：浏览器打开http://localhost:3001，后台界面直接进。在密钥页做三件事：把你手里的提供商密钥填进去（Google AI Studio、Groq、Mistral，或任意 OpenAI 兼容端点）；调整Fallback Chain顺序，排靠前的优先被选中；复制页头的统一密钥（freellmapi-开头），之后所有应用只认这一把。命令可以重复执行，重跑只升级，.env和加密密钥都保留。

先别写代码。直接去Playground页打一句话。回复气泡上标出这次实际由哪家提供商、哪个模型应答，还有延迟——路由确实在转，一眼可见。🎉 第一条免费回复到手。

备选一：Compose 部署

克隆仓库，生成 64 位十六进制加密密钥写进.env，再启动：

git clone https://gitcode.com/GitHub_Trending/fr/freellmapi cd freellmapi ENCRYPTION_KEY="$(openssl rand -hex 32)" printf "ENCRYPTION_KEY=%s\nPORT=3001\n" "$ENCRYPTION_KEY" > .env docker compose up -d

SQLite 持久化在具名卷里，升级时保持ENCRYPTION_KEY和卷不变，密钥不会解不开。细节看安装与部署文档。

备选二：桌面版

桌面版把路由器和仪表盘整体装进系统托盘，不需要设置账号密码，仪表盘自动登录，托盘弹窗里能看实时请求统计。macOS 装.dmg，Windows 装.exe，从 Releases 下载即可。

一次请求怎么转

大白话：它不做推理，只当派单员。

1. 请求打进本地 /v1，路由器给池内所有已启用模型打分（可靠性、速度、智能三个维度，基于近 7 天实测、2 天半衰期）
2. 分数最高的模型接单，响应带X-Routed-Via: 提供商/模型头，供你核对实际应答方
3. 命中 429 或 5xx，该密钥进入冷却（阶梯 2 分钟 → 10 分钟 → 1 小时 → 1 天），请求自动落到链路上下一个
4. 每次调用都计入按密钥的额度统计，让你始终停在各家免费上限之内

选模逻辑在 server/src/services/router.ts，429/5xx 触发冷却重试的循环在 server/src/lib/fallback-loop.ts。想抠实现从这里进。

改两个参数接入你的代码

现有代码只要走 OpenAI 协议，把base_url指向本地 3001 的 /v1、api_key换成统一密钥即可：

from openai import OpenAI client = OpenAI(base_url="http://localhost:3001/v1", api_key="freellmapi-你的统一密钥") resp = client.chat.completions.create( model="auto", messages=[{"role": "user", "content": "一句话介绍你自己"}], ) print(resp.choices[0].message.content)

model填auto让路由器自己挑，也可以写auto:fast、auto:smart、auto:reliable偏重速度或智能，或直接指定具体模型名。顺手把 Ollama、vLLM、LM Studio 这类本地模型按 OpenAI 兼容端点挂进密钥页的自定义端点，就能和免费池一起参与路由。流式、工具调用、Embedding、图像/语音生成、Anthropic 协议面的完整接口在 REST API 参考。

跑起来之后：三个页面与常见坑

日常管理集中在三个页面：

• 密钥页：提供商密钥、回退链顺序、统一密钥
• Models页：路由透视，每个模型带可靠性、速度、智能三个实时评分，列表顺序就是当前真实的路由顺序，整池月度 token 预算也在这里看
• Analytics页：管账，请求量、成功率、token 进出、延迟 p50/p95 和首 token 时间，分析数据默认保留 90 天

⚠️ 几个高频问题：

• 忘记密码？点登录页Forgot password?，重置码打印在服务器日志里，15 分钟内有效
• 局域网别的设备想访问？默认只绑127.0.0.1，用HOST_BIND=0.0.0.0启动即可暴露，仅限可信网络
• 日志在哪？Docker 用docker compose logs -f freellmapi，桌面版在托盘里选Open Logs Folder
• 密钥安全吗？提供方密钥 AES-256-GCM 加密存本地 SQLite，每次请求时才在内存中解密

最后点明边界：这套免费池定位是个人实验与学习，免费层没有 SLA。真要上线的产品，发布前把密钥池换成付费 API。

接下来可以顺手做的三件事

• 把 Claude Code、Codex CLI、Cline 这类编程智能体指过来，客户端与编程智能体文档 里有现成配方，一条 setup 命令配好
• 请求虚拟模型fusion：多个免费模型并行起草，再由裁判模型合成一份答案，参与模型组在仪表盘Fusion页配置
• 想读源码的话，从路由与评分架构文档入手，配合 router.ts 看评分怎么算

这三样玩完，你就知道免费层能走多远了。

【免费下载链接】freellmapi7.4 billion tokens per month. 34 free LLM providers. 635 free model endpoints. All behind one /v1 endpoint, plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.项目地址: https://gitcode.com/GitHub_Trending/fr/freellmapi