计费
网关计费决定下游请求记多少钱。上游报价、站内余额和实际充值支出分别保存;外部目录与站点价格刷新不会自动修改生效收费。
报价与规则
| 数据 | 来源与用途 | 是否改变收费 |
|---|---|---|
| 参考报价 | LiteLLM / models.dev 模型目录 | 否 |
| 上游报价 | 站点公开价、账户分组价、人工观察值 | 否 |
| 网关计费规则 | 操作员设置,或明确复制一份报价 | 是,仅影响后续请求 |
| 历史账单 | 每次请求的用量、金额和结算证据 | 修改价格不会重算 |
计费面板位于模型详情的「计费规则」,成员菜单中可设置成员覆盖。能力编辑与路由配置不再编辑收费。具体步骤见定价配置。
两层优先级
最具体的已配置层整体生效,层内不逐字段回退:
- 该路由成员的计费规则。
- 对外模型默认规则;没有定价的别名再查询实际转发的原模型名。
每层支持以下状态:
| 状态 | 行为 |
|---|---|
| 继承 | 跳过本层;成员继承模型,模型别名可继承原模型 |
| 明确免费 | 本层生效,金额为零;不会再回退到下一层 |
| 自定义计费 | 按量、按次或按量+每次附加费 |
| 兼容旧规则 | 读取升级前的旧价格列,不猜测它们原先来自手工还是目录 |
升级保留旧价格列与历史金额。旧层仍按非零输入、输出、按次价或阶梯判断是否定价;旧缓存价为零仍回退该层输入价。保存新规则后,改用明确的状态和字段含义,旧 API 不能绕过规则版本继续改价。
未定价不等于明确免费。 目前为兼容转发,不因未定价或缺少某项费率阻断请求;账单保留 unpriced / price_missing 等状态和零金额,操作员应补齐价格。此状态不能作为精确费用或利润依据。
金额与用量
控制台按 USD / 1M tokens 编辑和显示;规则存储仍为 USD / 1k,界面在边界换算。按次价单位为 USD / 调用。
金额 = ( 普通输入/1000 × 输入价
+ 输出/1000 × 输出价
+ 缓存读/1000 × 缓存读价
+ 缓存写/1000 × 缓存写价
+ 每次附加费 ) × 模型倍率 × 时段倍率- OpenAI、Responses 和 Gemini 的输入计数通常包含缓存命中,计费时拆成互斥桶,缓存部分不会再收一次普通输入费。
- Anthropic 的普通输入与缓存读写分开返回,按其原生语义计费。
- 日志、token 配额仍保存原始上游计数,不能为了修金额而改写配额口径。
- 新规则的缓存价格 0 = 免费,空白 = 未知。请求实际使用了未知费率维度时标记缺价,不擅自按普通输入价收费。
- 成功按次请求即使没有 token usage 也会入账,token 数仍为零。无用量的失败请求不收固定费。
- 中断流的估算用量明确标记为
estimated,不伪装成上游回报。 - 金额计算在后端使用一致的十进制计算与舍入边界,前端不重写计价公式。
阶梯与时段
阶梯按输入选档,选档量为普通输入+缓存写,不含缓存读;命中档位整体替代平铺输入、输出、缓存读与按次费。超过所有显式上限使用最后一档,最多 20 档。档位价必须明确填写,清空不是免费;缓存写费率独立配置。
时段最多 20 个,第一个匹配的时段生效。days 为 ISO 星期(1–7),from_hour / to_hour 按规则声明的 IANA 时区解释。结束不晚于开始代表跨午夜,两者相等代表全天。时段倍率必须大于 0、最多 1000。
新规则在具体承接成员被选中时冻结版本、倍率与计价时间;处理中改价不会追溯影响这次尝试。旧兼容规则保留原有请求结束时计价行为,直到管理员明确保存新规则。未定价尝试也会冻结未定价状态。
原生单位、显示货币与实际支出
站点额度以 site_credit 保存,并带站点身份;不同站点都显示 $ 不代表同一种钱。协议的 quota_per_unit、显示币种及显示汇率分别保留。不会凭 500000 或符号推断任意 fork 的实际采购成本。
网关全局 currency_symbol / currency_rate 只用于显示网关金额,不改变历史账本,也不自动换算上游原生额度。
复制非 USD 报价前需声明 每一原生计价单位对应多少 USD,确认差异后生成一次本地规则。复制记录保留报价 ID 与比例;后续报价刷新不会跟随改价。未知单位、无法计算、过期或作用域不匹配的报价不能复制。
余额与预算测算
页面直接读取本地余额快照,后台按账户、分组和地址去重刷新。未知余额不报零;失败保留同账户最后成功结果并标记过期或失败。账户变更后不能沿用旧账户余额。
「按场景测算」明确输入普通输入、输出、缓存读写数量,余额必须与报价单位一致。返回预计单次消耗和理论可承担次数,不保证实际可调用次数:共享消费、Key 限制、速率、授权和到期还可能缩小可用范围。零价也不代表无限调用。
配额与账单
token 和金额额度并行生效,谁先耗尽谁拒绝请求;位置包括下游令牌、令牌分组与团队账户。明确免费不免除 token 配额。
金额与用量、Key/分组/账户配额在同一事务入账。令牌页与日志页读取真实账单金额。管理员日志展开「请求结算依据」可核对规则归属、版本、用量来源、费率、模型倍率、时段倍率、时区与缓存量。历史行没有快照时明确显示旧账,不补造来源;成员接口不暴露管理员规则归属与上游账户信息。