API 按量服务与 Coding Plan

很多服务商同时提供两种 API 接入:按 Token 用量付费的 API 服务,和按月订阅的 Coding Plan(编程套餐)。两者的地址、API Key、可用模型和额度规则通常不同,接入前先确认手里的是哪一种。在 BYOK 中,按量服务选「API 按量计费」,Coding Plan 选「订阅计费」;两种都用同一个 LYRouter API Key 调用,平台对每次成功调用收取相同的服务费。

两种服务的区别

下表是常见情况,具体以服务商的说明为准:

比较项 API 按量服务 Coding Plan
服务商收费 按实际 Token 用量 固定订阅费,按月、季或年
额度 账户余额和速率限制 套餐内按时间窗口计算的请求或 Token 额度,用完后上游返回 429
地址与 Key API 地址和 API Key 常有单独的地址,Key 也可能与 API Key 不通用
可用模型 服务商的 API 模型 套餐包含的模型
使用范围 任意应用 部分服务商限定在编程工具中使用
BYOK 计费方式 「API 按量计费」 「订阅计费」

两种计费方式在 BYOK 中的差别

在 BYOK 编辑器第一步的「服务商与计费方式」中选择:

「API 按量计费」 「订阅计费」
界面说明 「使用运营平台发布的服务商原价,并按每个模型设置折扣。」 「记录固定订阅金额与周期,Token 用量只做统计。」
「模型与费用」 每个模型显示刊例价,可设置「Channel 价格折扣(%)」;没有刊例价的模型不能保存 填写「订阅金额」「币种」「周期」(月、季度、年)「开始日期」,不需要模型价格
凭证限额 可设置「用量与费用限额」 不显示
费用统计 按刊例价 × 折扣估算每次调用的服务商成本,计入「BYOK Token 费用」 订阅金额按月折算计入「BYOK 订阅费用」,单次调用不计成本
平台服务费 每次成功调用收取 每次成功调用收取

核对接入地址

  • 内置服务商:选好计费方式后,查看「当前接入配置」中的 Base URL。地址由平台维护,不能修改,界面提示「内置服务商地址由计费方式对应的接入配置决定;未配置订阅地址时沿用 API 地址。」
  • Coding Plan 有单独地址时:如果「订阅计费」下显示的仍是 API 地址,而服务商为 Coding Plan 提供了单独的地址,改用「自定义服务商」接入:填写 Coding Plan 文档中的地址,选择对应的「接口类型」,计费方式选「订阅计费」,再把上游模型映射到系统模型,见模型映射与来源配置。
  • 同时使用两种:同一工作空间里,一个内置服务商只能接入一个 BYOK。要同时使用同一服务商的按量 Key 和 Coding Plan Key,一个用内置服务商接入,另一个用自定义服务商接入。
  • 先测试再上线:保存前用 测试连接 确认 Key 与地址匹配;保存后发送一次真实调用,在请求日志中确认调用成功,且「服务商」旁带「BYOK」标记。

在「服务商与计费方式」中区分 API 按量计费与订阅计费,并核对当前接入配置中的地址。

图 1:在「服务商与计费方式」中区分 API 按量计费与订阅计费,并核对当前接入配置中的地址。 截图为演示数据,点击图片可查看原图。

接入 Coding Plan 的建议

  • 只选套餐包含的模型:在「模型与费用」中取消勾选套餐不支持的模型,避免调用到套餐外的模型时被上游拒绝。
  • 额度用完后的去向:套餐额度用完后上游返回 429,网关会换下一个凭证或通道。希望这时由平台来源接手,使用「优先使用此 Channel」而不要开启「仅用此 BYOK」;接手的调用按平台价扣 Credits。开启「仅用此 BYOK」时,凭证全部失败后请求直接结束,客户端收到上游返回的 429。
  • 多个套餐账户:在「接入凭证」中添加多个账户的 Key,网关按优先级依次使用。
  • 续费或升级后:编辑 BYOK 更新「订阅金额」和「周期」,保存后按新金额计入费用统计。
  • 使用条款:确认服务商允许在你的使用场景中调用该套餐,例如通过网关或在编程工具以外的应用中使用。

费用核对

  • 「订阅计费」的订阅金额按月折算:季度金额除以 3,年度金额除以 12,开始日期所在月按生效天数比例计算。折算结果计入用量分析的「BYOK 订阅费用」,只统计在工作空间总额中,不分摊到成员或 API Key。
  • 「订阅计费」的凭证在 BYOK 列表中的费用列显示「统计待接入」,Token 用量照常统计。
  • 两种计费方式都要另付平台服务费,余额不足时 BYOK 调用返回 402,见BYOK 费用与凭证管理。
  • 服务商实际收取的费用以服务商账单为准。

常见问题

测试连接显示「鉴权失败」,Key 是刚复制的,为什么?

答: 常见原因是 Key 与地址不匹配,例如把 Coding Plan 的 Key 用在了 API 地址上。核对「当前接入配置」中的 Base URL 是否是该 Key 对应的地址;不一致时按上文改用自定义服务商接入。

白天调用正常,一段时间后开始返回 429,是 LYRouter 限流吗?

答: 在请求日志的「状态说明」中查看来源。来源为「上游」时,是服务商返回的 429,通常是套餐在当前时间窗口内的额度已用完,等窗口重置或添加其他账户的 Key。来源为「网关」时,按429:限流与配额排查。