一、项目概览
tashfeenahmed/freellmapi 是一个把几十家 AI 厂商的免费额度聚合成一个 OpenAI 兼容端点的自托管网关。它的核心想法很朴素：每家实验室都给几百万 token/月的免费额度，单独看是玩具，叠在一起就是约 74 亿 token/月的可用推理量。FreeLLMAPI 把这团乱麻收编成一个本地 /v1 接口——你只管把 OpenAI 客户端指向它，路由、限流、失败切换它全包了。
截至 2026 年 10 月 30 日的真实数据：
- Stars：44,322 / Forks：6,017 / Open Issues：57
- 创建时间：2026-04-21，最后推送 2026-10-30（约 6 个月冲到 4.4 万 Stars，仍在日更）
- 许可证：MIT（路由本体永久免费；Premium 只是”实时模型目录”订阅）
- 语言：TypeScript，约 24 MB 仓库
- 主页：freellmapi.co
它明确把自己定位为个人实验与学习工具，不是生产级方案——README 的 Disclaimer 写得很直白：免费额度本就是给开发者做原型用的，别当稳定推理底座；真要上生产，先把底层换成付费 API。这一点我们后面会专门讲，算是它最诚实的地方。
二、它能做什么：几乎覆盖全部 OpenAI 风格的接口面
- 全 OpenAI 接口面：
/v1/chat/completions、/v1/responses（Codex CLI 要的）、/v1/completions（编辑器补全）、/v1/images/generations、/v1/videos/generations、/v1/audio/speech、/v1/audio/transcriptions、/v1/embeddings、/v1/models，流式与非流式都支持。 - Anthropic Messages：
/v1/messages用同一套路由器讲 Anthropic 线格式，所以 Claude Code 和官方 SDK 也能跑在这套免费池子上。 - Gemini + Ollama 原生面：Gemini CLI 走
/v1beta；可选 Ollama 模拟服务于 Zed、JetBrains 等本地模型客户端。 - Fusion 多模型合成：请求虚拟
fusion模型，路由器把 prompt 并行扇出给一组不同免费模型，再由一个裁判模型综合出一份答案。 - 工具调用与结构化输出：OpenAI 风格
tools跨厂商往返（纯文本工具调用会被”救”成真正的tool_calls），response_format、seed、logprobs等采样参数按厂商透传。
三、路由与运维：它真正值钱的部分
- 智能路由，六套策略：按实时速度/能力/可靠性打分排序你的链路；遇到 429/5xx 自动冷却并切下一个模型，含 key 轮换。
- 统一模型与链：同一模型在多家厂商下合并为一个条目并组内强失败切换；命名 fallback 链（coding 链、vision 链）可在面板或请求里用
auto:<profile>切换。 - 每 key 额度跟踪：按
(平台, 模型, key)记 RPM/RPD/TPM/TPD，自动学习各厂商上报的天花板，路由永远卡在限额内。 - 自更新模型目录：路由器每天两次从 freellmapi.co 拉一份签名目录（用固定 Ed25519 密钥校验），新模型、配额变动、厂商 quirks 修复自动落地。
- 密钥加密，只出一令牌：厂商 key 用 AES-256-GCM 存在 SQLite，按请求内存解密；你的应用只看到一个统一的
freellmapi-…bearer token。 - 管理面板与分析：React 面板管 key、排链、Playground，看 24h–90d 的 p50/p95/TTFT 分析；60 种语言、暗/亮主题。
- ChatGPT 可用的 MCP 服务器：ChatGPT 等 MCP 客户端能直接调它的推理、看模型健康/用量，并通过
/mcp管理路由策略；还有零依赖的/v1/docsOpenAPI 查看器。 - 运维细节：可选响应缓存、加密 DB 备份、定期 key 健康检查、批量导入导出、声明式启动配置。Node 20+ 就能跑，空闲约 40MB RSS，树莓派也行。
四、覆盖的厂商与客户端
34 家免费厂商（项目方口径，目录实时跟踪 474 个模型族 / 635 个免费端点）：Google、Groq、Cerebras、OpenCode Zen、Mistral、OpenRouter、Cloudflare、Cohere、Z.ai（智谱）、NVIDIA、HuggingFace、ModelScope（Qwen3 / DeepSeek V4 / GLM-5）等，外加自定义 OpenAI 兼容端点（llama.cpp、LM Studio、vLLM、Ollama、远程网关）。
客户端兼容性极广：Claude Code、Codex CLI、Gemini CLI、Cursor、Cline、Roo Code、OpenCode、Aider、Continue、Goose、Qwen Code、Kilo Code、Zed、JetBrains AI、DeepSeek Harness、OpenClaw 等，以及任何 OpenAI/Anthropic/Gemini/Ollama 兼容客户端。多数 agent 一条命令就能自愈配置：
npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>五、怎么装
- 一键脚本（需 Docker）：
curl -fsSL https://freellmapi.co/install.sh | bash——自动建目录、生成加密密钥、拉镜像、起容器；重跑安全（保留 .env 和密钥）。 - 桌面端：Releases 里的 macOS
.dmg/ Windows.exe安装包，托盘常驻，无需账号密码，只用一个统一 token。 - 其他：Docker Compose、本地开发、Android Termux 指南，文档齐全。
六、免费 vs Premium：钱花在哪
路由器本体 MIT、永久免费；Premium（$19/年 或 $49 一次性买断）只买实时目录订阅——这才是项目能持续运转的燃料：
- 免费安装拉的是月度快照：模型进活目录 30 天后才落到免费构建，约落后 303 个模型；
- Premium 路由器当天拿到新模型/配额变动/线格式修复；
- 目录服务器看不到你的 prompt、补全和厂商 key——路由器两种方式都是完全自托管的。
七、诚实的局限，以及那条要紧的红线
项目自己列得很清楚（不是我替它泼冷水）：
- 没有前沿模型，延迟不稳定，没有 SLA；
- 有效智能在一天后段会掉——强模型到了每日上限就降级，UTC 零点重置；
- ToS 红线：它是”个人、单用户代理”，免费额度本就不是稳定受支持的推理底座。你与各家上游的关系仍受你注册时接受的条款约束，流量经本项目中转不改变这一点，遵守各家 ToS 是你自己的责任。官方甚至逐家审过每家对”个人单用户代理”的态度（2026 年 5 月）。
换句话说：拿它做原型、做个人小工具、省着玩完全 OK；别拿它当生产推理后端去扛真实流量——既不稳定，也可能踩到某家的额度/用途条款。
八、值不值得用 / 适合谁
适合：
- 想白嫖多家免费额度、又不想每家 SDK 各接一遍的开发者；
- 个人项目、学习、原型验证，想一个 key 统一调度 Claude Code / Cursor / 自写脚本的人；
- 注重本地自托管、key 加密、不把厂商凭据散落各处的人；
- 树莓派/小主机用户（资源占用很低）。
需要注意：
- 免费档目录滞后 30 天、无前沿模型、延迟波动，重度依赖强模型时体验打折；
- 本质是”免费额度叠加”，稳定性与合规性都要自己把关；
- Premium 是它可持续的关键，若真用得顺手，$19/年并不亏。
一句话结论：FreeLLMAPI 是把”免费额度堆叠术”产品化得相当成熟的一个开源网关——接口面齐全、路由/限流/加密/面板/MCP 都到位，44k Stars 不是白来的。把它当个人实验与省钱的瑞士军刀非常香；但只要记住它的自我定位：别上生产，遵守各家 ToS。能守住这条线，它就是 2026 年自托管 LLM 网关里最值得一试的那个。
相关软件