通道选择与路由策略
每个工作空间有一份智能路由设置,决定网关为一次调用选择哪个通道。同一个模型通常由多个通道提供,平台通道和你的 BYOK 通道都算在内。「多渠道选路策略」决定这些通道的尝试顺序;「默认模型」在请求没写 model,或请求的模型全部失败时接手。设置对工作空间内所有 API Key 生效,保存后几秒内同步到网关。
工作空间设置
当前账号管理员在工作空间的 智能路由 页面修改设置。页面只有一张「通用设置」卡片:
| 设置 | 作用 | 新建工作空间的默认值 | 保存方式 |
|---|---|---|---|
| 多渠道选路策略 | 直接调用模型 ID 时,该模型的多个通道按什么顺序尝试 | 最低价 | 选择后自动保存 |
| 默认模型 | 请求没写 model 时使用;请求的模型全部失败后兜底 |
暂不设置 | 选择或清空后自动保存 |
| Auto 智能路由 | lyrouter/auto 的候选模型范围,见Auto 智能路由 |
全部已开通模型 | 在「高级设置」抽屉中点击 保存 Auto 设置 |
图 1:智能路由中分别设置多渠道排序和默认模型,Auto 高级设置独立打开。 截图为演示数据,点击图片可查看原图。
三项设置分别保存,修改其中一项不会覆盖另外两项。普通成员看不到这个菜单,直接打开页面链接会提示「当前组织角色无权访问该页面」。成员用自己的 API Key 调用时,同样按这些设置选路。
模型、通道与凭证
网关先确定模型,再为模型选择通道,最后选择通道下的凭证。服务商代表厂商身份;协议、地址和接入方式属于通道,所以同一家服务商的按量服务和 Coding Plan 是两个不同的通道。一个通道下可以有多个凭证:你的 BYOK 凭证按你在 BYOK 中设置的顺序在前,平台凭证在后。
多渠道选路策略
直接调用模型 ID(例如 deepseek/deepseek-v4-flash)时,网关按这项设置给该模型的通道排序,再依次尝试:
| 选项 | 日志中的「路由策略」 | 排序方式 |
|---|---|---|
| 最低价 | cost |
按预估的单次请求实付价从低到高排序。预估价根据该模型平均每次请求的输入、输出 Token,该通道的缓存命中率和调用时的价格计算;算不出价格的通道排在最后 |
| 负载均衡 | balanced |
先按实测延迟排序,再按「API Key + 模型」把调用稳定地分配到一个通道(按平台为通道设置的权重),分到的通道排第一,其余通道按延迟顺序作为回退 |
| 最高吞吐 | throughput |
按实测输出速度从高到低排序,没有测量数据的通道排在最后 |
| 最低延迟 | latency |
按实测延迟从低到高排序,没有测量数据的通道排在最后 |
- 会话保持:「最低价」和「负载均衡」会把同一个 API Key 对同一模型的调用保持在同一个通道上,以提高上游提示词缓存的命中率。保持期为 30 分钟,每次调用都会续期;该通道返回 429、408、5xx 或连接失败时改绑到其他通道。缓存优化见降低成本与优化缓存。
- 自定义服务商优先:在「负载均衡」「最高吞吐」「最低延迟」下,工作空间自定义服务商的通道没有可比较的平台测量数据,始终排在平台通道前面。
- 适用范围:这项设置只对直接写模型 ID 的调用生效。虚拟模型使用自己的「Channel 排序策略」,
lyrouter/auto不使用这项设置。 - 不能按请求覆盖:选项说明中的「单个请求可覆盖此设置」目前没有实现,请求里没有可以覆盖路由的参数。需要让一部分调用使用不同的排序时,为它们创建虚拟模型并设置「Channel 排序策略」。
默认模型
默认模型有两个用途:
- 请求没写模型:请求体没有
model,或写成""、null时,改用默认模型。没有设置默认模型时,这类请求返回 400you must provide a model parameter(error.code为missing_model)。 - 全部失败后兜底:请求的模型所有通道都失败后,网关最后尝试默认模型。请求的模型在本工作空间没有开通时,也会由默认模型回答,而不是返回 403。
使用默认模型前请注意:
- 新建工作空间不预填:新建工作空间默认「暂不设置」。较早创建的工作空间可能已预填
qwen/qwen3.7-plus,请在页面上确认;不需要兜底时清空即可。 - 必须在本工作空间可用:选择框列出平台模型目录,也可以直接输入模型 ID,保存时不检查是否可用。默认模型没有在模型广场开通、也没有可用 BYOK 时,不写
model的请求返回 403Model is not available in the model plaza,兜底也不会发生。 - 只为对话类接口兜底:图像、视频和语音接口失败后不会改用默认模型。向量(embeddings)请求也会改用默认模型,但默认模型通常是对话模型,结果多为 400
unsupported_model_api,所以向量请求请始终写明可用的模型 ID。 - 在日志中确认:请求由默认模型回答时,日志详情的「模型(实际)」显示默认模型。
BYOK 通道规则
在 BYOK 的使用配置中,可以为某个通道设置两种偏好,它们优先于多渠道选路策略:
- 优先使用此 Channel:把这个通道排在最前,失败后照常回退到其他通道和默认模型。
- 仅用此 BYOK:该模型只使用这个通道下的 BYOK 凭证,不使用平台凭证、其他通道或默认模型,全部失败即结束。通过虚拟模型或
lyrouter/auto调用时,被限定的模型失败后仍会尝试下一个候选模型,但整个请求不会再回退到默认模型。
图 2:在 BYOK 使用配置中核对调用范围及优先、独占使用规则。 截图为演示数据,点击图片可查看原图。
验证
调整设置后发送一次测试调用,在查看实际路由中核对日志详情:「路由追踪」的「路由策略」显示上表中的取值,「模型(实际)」和「服务商」显示最终命中的模型与通道。「全部候选」只是排好序的候选列表,不代表每个候选都被调用过;实际调用记录在「上游调用尝试」中。失败时如何换通道,见失败重试与备用模型。

