什么是 Meta Gateway
一句话
下游工具越接越多(Cursor、Claude Code、Cherry Studio、Open WebUI),而上游分散在各类站点(New API、One API、官方接口、各路代理)。各站模型命名各异、额度分散、容易单点故障。
Meta Gateway 作为聚合中枢:所有上游统一挂载,下游只需配置一个接口地址、一个访问令牌。
三条设计底线
这三条决定了它在很多边界情况下的行为,也是它区别于「会改写请求的网关」的地方:
- 不改写请求语义 —— 不做提示词注入、不做参数静默调整、不做响应内容伪造。适配器只做协议形态转换。
- 不伪造响应 —— 上游返回什么就转发什么,包括错误。上游的 4xx/5xx 原样透传(可按规则映射,但不会凭空造一个成功响应)。
- 非幂等端点不做故障转移重试 —— 图像、音频、视频、音乐生成与
responses这类「会产生并计费一个产物」的请求,按字节原样转发且不重试:重试可能造成重复计费或重复生成。图像是唯一连Idempotency-Key都救不回来的家族,所以它另有开关IMAGES_FAILOVER_ENABLED(默认关,控制台可热切换),且只放行「上游在生成前就拒绝」的那几类回答。
和 Nginx 的区别
Nginx 是纯传输层转发,不理解 AI 模型的语义。Meta Gateway 运行在应用协议层:
- 解析 OpenAI / Anthropic / Gemini 的请求与流式包,做多协议互译;
- 识别每次请求的 token 用量并据此计费;
- 流式传输中断时按请求粒度触发备用通道;
- 跨站聚合模型清单并自动探活。
和 one-api / New API 的区别
| 维度 | 典型 one-api 类网关 | Meta Gateway |
|---|---|---|
| 上游协议假设 | 假定上游是 OpenAI 形态 | 显式建模非 OpenAI 形态:渠道级端点覆盖 + 请求/响应字段映射 |
| 上游地址 | 固定 /v1/<path> 拼接 | 区分 API 根与端点,支持任意路径透传与端点级覆盖 |
| 成本口径 | 单一价格来源 | 两层单价优先级链(路由成员 → 模型元数据)+ 独立倍率 |
| 插件 | 多为编译期内置模块 | 独立进程 sidecar,声明式权限与配置,可参与选路与请求改写 |
| 凭证安全 | 视实现而定 | AES-GCM 加密入库,明文永不进日志;日志记录上游凭据指纹而非本体 |
它不是什么
- 不是模型服务:它不训练、不缓存推理结果、不做 prompt 优化。
- 不是多云调度器:路由粒度是「模型名 × 渠道」,不是 GPU 集群调度。
- 不是零配置:它需要你理解站点 / 渠道 / 路由 / 令牌这四层,核心概念 就是为了这件事写的。