AI API 中转站完整指南：18 种模式、8 条路线与自建教程

AI API 中转站，更准确地说，是夹在应用与模型供应商之间的一层 AI 网关。它可以统一接口、集中管理密钥、统计成本、限制用量并在多个模型之间路由。真正能长期收费的，是这些可验证的技术和服务价值，而不是把消费订阅拆给多人，或者把免费额度包装成“无限 API”。

先把最抓眼球的一笔账算对。一个月收入 1,000 美元、直接成本 200 美元，毛利是 800 美元，毛利率是 80%；800 ÷ 200 = 400%，那叫成本回报率，不是利润率。更重要的是，如果这 200 美元来自只供本人使用的消费订阅，拆号、共享凭据和转售本身就可能违反服务条款。这种账面差额不是一门可以复制的正规生意。

本文会拆开三个问题：这层网关到底解决什么问题；18 种常见模式中哪些能长期做、哪些不该碰；以及怎样只使用官方开发者 API Key，在约 30 分钟内搭出一个供自己或团队使用的私有网关。

如果你是从具体服务对比过来的，可以把本站此前的《OpenClaw API 中转站》当作用户端案例；价格、模型与服务条款变化很快，购买前仍需重新核验。本文重点讲底层商业逻辑、技术路线和自建边界。

01｜什么是 AI API 中转站？

最简单的调用链是：

应用 → AI API 网关 → 官方 API 或自有模型 → 网关 → 应用

没有网关时，每个应用都直接保存 OpenAI、Anthropic、Google 或其他供应商的密钥，并分别适配不同接口。有了网关以后，客户端只连接一个入口，拿到的是网关签发的虚拟 Key；上游主密钥、模型选择、重试、限流和账单都留在网关里。

用户愿意为它付费，通常因为下面这些问题确实存在：

所以，“一个人一天搭个壳就能开张”只描述了最浅的一层。真正对外服务，还要处理上游授权、数据隐私、故障恢复、支付退款、成本失控和持续维护。

02｜先把三种“暴利故事”拆开

消费订阅不等于可转售的开发者 API

Anthropic 当前的 Claude Max 20x 方案确实是每月 200 美元，但它属于消费者服务。Anthropic 的消费者条款禁止共享账户或登录凭据、让他人使用账户及转售服务；官方帮助中心也把 Free、Pro、Max 与 API/商业服务分开说明。OpenAI 的个人服务条款同样禁止共享账户凭据、出售服务和绕过限额。

如果你的产品需要调用模型，正确起点是官方 API、云厂商正式渠道，或获得明确授权的商业合同，而不是把 Claude Max、ChatGPT Plus、Copilot、Cursor 等个人订阅转换成多人 API。

补贴额度不是可以倒卖的库存

Google for Startups Cloud Program 的 AI 项目对符合资格的企业最高可提供 35 万美元云额度，但资格、用途和审核条件非常明确，项目条款也禁止买卖、转让或交换额度。它可以降低一家真实初创公司的早期云成本，不能被写成“注册壳公司套额度再卖掉”的方法。

地区定价、免费层和政府补贴也一样：它们可能改变合资格用户的成本，但不自动授予跨区套利、共享账户或转售权限。服务器和域名放在海外，也不会自动消除对上游合同、数据处理和服务对象所在地规则的责任。中国《生成式人工智能服务管理暂行办法》也明确覆盖通过可编程接口向境内公众提供生成式 AI 服务的情形。

缓存和 Batch 能省钱，但不是凭空产生利润

OpenAI 的 Batch API 相比同步接口成本低 50%，并在 24 小时窗口内完成，适合评测、分类、批量嵌入等非实时任务；它不是“固定排队 24 小时”，也不能替代实时聊天。Prompt Caching 对受支持模型的重复输入可以明显降价，但折扣、缓存命中和保留规则因模型而异，输出 Token 也不能一概按同样折扣计算。

节省下来的成本可以成为服务价值，但收费方式应该透明。真正的单位经济需要这样算：

贡献利润 = 客户收入 − 上游用量 − 服务器 − 支付退款 − 支持运维 − 合规成本

只写“官方便宜一半，我按原价卖，所以利润 100%”，既忽略了其他成本，也混淆了加价率、毛利率和净利润。

03｜18 种常见模式：12 种能做，6 种别碰

如果把“模式”理解为钱从哪里来，AI API 网关至少可以拆成下面 18 种。前 12 种的收入来自产品和服务；13—15 多为条款与授权高风险；16—18 已经是欺诈或攻击，不该包装成创业方法。

一项 2026 年预印本研究考察了 28 个付费和 400 个免费代理服务，在它的受控实验中观察到 9 个服务返回恶意代码、17 个服务触碰研究者布置的 AWS 诱饵凭据。另一项研究只对 3 个代表性 shadow API 做模型指纹测试，其中 45.83% 的测试未通过模型身份验证。它们说明风险真实存在，但不能被误写成“400 多个站里 45.83% 都换模”。样本、实验方法和结论范围必须分开看。

04｜8 条技术路线：别再按“能薅多少”选项目

原稿把大量抓 Cookie、共享 OAuth、把消费者客户端反代成 API 的仓库放在一起。它们也许一时能运行，但“能返回结果”不等于拥有授权，更不等于适合承载客户数据和商业服务。

更值得长期学习的是下面 8 条正规路线。这里列的是截至 2026-09-24 的代表性项目和服务，不是“GitHub 所有可用项目”的不可能清单。

1. 官方开发者 API 兼容层

例如 Gemini 官方 OpenAI 兼容接口，可以让已有 OpenAI SDK 应用更快迁移。Google 也明确提醒，新项目优先考虑原生 GenAI SDK，因为兼容层不一定覆盖全部能力。

2. 开源多供应商统一网关

LiteLLM 和 Portkey Gateway 可以统一接口、模型别名、重试、回退和负载均衡。LiteLLM 还提供虚拟 Key、预算与用量管理，适合做内部团队网关。

3. 云原生与 Kubernetes 网关

Agent Router（原 Envoy AI Gateway，2026 年 9 月完成更名）和 Kong AI Gateway 更适合平台团队：把认证、路由、限流、凭据管理和可观测性纳入既有云原生基础设施。

4. 托管云与边缘网关

Cloudflare AI Gateway、Azure API Management AI Gateway、Vercel AI Gateway 和 OpenRouter 可以减少自建运维。选择时不要只看支持多少模型，还要看日志留存、数据区域、预算控制和上游责任。

5. 多租户、配额和成本核算

New API 与 One API 常用于内部额度分配和渠道管理。需要注意：开源许可不等于获得模型供应商的转售权；商用前还要单独核对软件 License 和上游合同。One API 文档也明确提醒首次登录要立刻修改默认密码，绝不能照搬默认账号密码并把管理端口暴露到公网。

6. 可观测性、追踪与评测

Helicone 和 Langfuse 关注延迟、Token、成本、错误、调用链和评测。它们可以与网关组合，但上线前必须决定是否保存提示词和响应、保存多久，以及谁能访问。

7. 本地轻量模型服务

Ollama 与 llama.cpp server 适合桌面、单机和消费级硬件。它们提供一定程度的 OpenAI 兼容接口，但不同模型和参数仍需实测。

8. GPU 生产推理

vLLM 与 SGLang 面向自有模型和高吞吐 GPU 集群。vLLM 官方特别提醒，它的 API Key 选项并不保护所有端点，因此生产环境仍要放在受控网络或认证反向代理之后。

官方视频：从云原生角度理解 AI Gateway

CNCF 官方频道的视频，从统一供应商接口、集中凭据、Token 限流和可观测性解释 AI Gateway，并包含实际演示。视频发布时项目仍名为 Envoy AI Gateway，现已更名为 Agent Router。无法播放时可在 YouTube 打开。

05｜30 分钟自建：只用官方 API Key 的私有网关

下面用 LiteLLM 官方 Quickstart 做一个供自己或团队使用的演示。它不会教你提取消费订阅 Cookie、共享 OAuth 或绕过供应商限额。正式对外销售前，仍要核对每个上游的商业条款、数据区域和转售授权。

准备

• 一台本机、内网服务器或海外 VPS；
• 按 Docker 官方文档安装 Docker Engine 和 Compose；
• 至少一个模型供应商签发的开发者 API Key，或你有权商用的自有模型；
• 如果要对公网提供服务，还需要域名、HTTPS、访问控制和持续运维。

第一步：下载官方 Compose，并先读一遍

mkdir litellm-gateway
cd litellm-gateway
curl -fsSLO https://raw.githubusercontent.com/BerriAI/litellm/main/docker/docker-compose.quickstart.yml
less docker-compose.quickstart.yml

不要把下载的 Compose 当作永远不变的黑盒。演示验证后，应固定经过测试的镜像版本；升级前先备份数据库并阅读发布说明。

第二步：生成主密钥和 Salt Key

umask 077
printf 'LITELLM_MASTER_KEY=sk-%s\nLITELLM_SALT_KEY=sk-%s\n' \
  "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
chmod 600 .env

LITELLM_MASTER_KEY 是网关根权限凭据，默认也用于管理界面登录；LITELLM_SALT_KEY 用于保护存储的供应商密钥。两者都不能提交到 Git。Salt Key 改变后，数据库里已经保存的凭据可能无法解密，所以还要安全备份。

第三步：先只监听本机

在 Compose 中把端口映射限制为：

ports:
  - "127.0.0.1:4000:4000"

这样 4000 端口不会直接暴露到公网。启动后检查服务状态和日志：

docker compose -f docker-compose.quickstart.yml up -d
docker compose -f docker-compose.quickstart.yml ps
docker compose -f docker-compose.quickstart.yml logs --tail=50

如果网关在远程服务器，用 SSH 隧道访问管理页：

ssh -L 4000:127.0.0.1:4000 your-user@your-server

然后在本机打开 http://127.0.0.1:4000/ui。用户名是 admin，密码是 .env 里的主密钥。不要通过公开 HTTP 传输这个凭据。

第四步：添加官方上游并创建虚拟 Key

在管理页添加供应商开发者 API Key 和一个模型别名，例如 my-model。如果条件允许，把供应商 Key 放进环境变量，再让配置引用环境变量，减少它在界面和配置文件中的暴露。

接着创建虚拟 Key，并设置：

• 允许访问的模型；
• 有效期；
• 每日或每月预算；
• RPM、TPM 或并发上限。

LiteLLM 的虚拟 Key、预算和完整管理能力需要数据库。官方 Quickstart 已带 PostgreSQL；如果改成无数据库的极简模式，就不能假设预算上限仍然有效。

第五步：用虚拟 Key 测试

curl http://127.0.0.1:4000/v1/chat/completions \
  -H 'Authorization: Bearer sk-<your-virtual-key>' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "my-model",
    "messages": [{"role": "user", "content": "请只回复：网关测试成功"}]
  }'

有响应，只能证明本机链路已通。它还不代表已经具备安全对外运营的条件。

06｜真正决定能不能活下来的，不是多接几个号

如果你真的要做商业服务，至少还要完成：TLS 终止、管理面访问控制、WAF/限速、密钥轮换、数据库备份恢复、账单告警、隐私政策、服务条款、退款规则和事故响应。Cloudflare 并不是“往前面一放就不会被攻击”；它只能成为多层防护中的一层。

07｜这个赛道还有没有空间？

有，但空间不在“谁能弄到更多便宜账号”。随着 Agent、代码生成和批量工作流增加，企业确实会遇到更多模型、更多 Key、更高用量和更复杂的数据边界。统一鉴权、预算、路由、追踪和审计的价值会随复杂度增加。

同时，官方 API 价格、缓存规则、免费层和模型能力都会变化。只依靠一个上游差价，很容易在一次调价后失去利润；只依靠非官方接口，更可能在一次风控升级后直接停摆。

长期能留下来的服务，通常至少拥有其中一样：

• 一群明确的行业客户；
• 稳定、可验证的运维能力；
• 比客户自己搭建更好的成本治理；
• 数据安全、私有部署或合规能力；
• 真正嵌入业务流程的产品，而不只是转发请求。

技术门槛降低，不等于经营门槛消失。一个 Docker 容器能让你开始测试，却不能替你获得上游授权、客户信任和持续服务能力。

更多服务器、开源工具和部署类内容，可以继续浏览本站的资源攻略。

常见问题

AI API 中转站违法吗？

不能只靠“中转站”三个字判断。使用官方 API 构建自有应用、内部网关或获得授权的服务，与盗用凭据、违规共享账户、虚报 Token、窃取数据完全不是一回事。要同时看上游合同、服务对象所在地法规、数据处理方式、经营资质和实际行为。本文不是法律意见。

Claude Max 或 ChatGPT Plus 能拿来做 API 中转吗？

不应把个人消费者订阅的账号、Cookie 或登录凭据拆给客户。需要产品化调用时，应使用官方开发者 API、正式云渠道或获得明确授权的商业合同。

新手应该选 One API、New API 还是 LiteLLM？

如果目标是学习多模型统一调用、虚拟 Key、预算与路由，LiteLLM 的官方 Quickstart 更适合作为本文演示。One API 和 New API 更偏多租户、渠道和配额管理，但必须先处理默认密码、软件许可、上游授权和生产安全，不能装完就公开 3000 端口营业。

缓存真的能省 90% 吗？

部分模型的缓存输入价格相对普通输入可大幅降低，但折扣不是对所有模型、所有 Token 和所有请求统一生效。需要看当前模型定价、命中条件、缓存保留时间以及输出成本，不能把“输入缓存折扣”直接等同于整单利润。

30 分钟能搭好一个可商用中转站吗？

30 分钟可以搭出本机或内网演示。商用还需要授权、TLS、访问控制、限流、预算、日志隐私、备份恢复、监控告警、支付退款和持续升级。二者不是一个完成标准。

资料来源与说明

• Anthropic Consumer Terms 与 Claude 方案说明
• OpenAI Terms of Use 与 OpenAI Batch API
• OpenAI Prompt Caching
• Google for Startups Cloud Program 与 项目条款
• 《生成式人工智能服务管理暂行办法》
• LiteLLM Gateway Quickstart
• Your Agent Is Mine 与 Real Money, Fake Models

资料核对日期：2026-09-24。模型价格、项目功能、免费层、开源许可与服务条款会变化，部署或经营前请重新阅读对应官方页面。本文链接均为资料来源，不是推广链接；本文不构成法律意见、收入承诺或规避平台规则的建议。