路由与故障转移
路由与故障转移
你只需要关心 model 参数，零词元会负责把请求送到可用的上游。
多账号调度
同一个模型背后通常有多个上游账号。每次请求时，网关会根据账号的健康状况、当前负载和限流状态选择合适的账号。
自动故障转移
如果上游账号返回限流、过载或临时错误，网关会自动换一个账号重试，整个过程对你透明：
只有最终成功返回的请求才会计费，中间失败的尝试不计费； 如果所有可用账号都失败，才会把错误返回给你（通常是 429 或 5xx）。
会话粘性
对于依赖上下文缓存的长对话和编程智能体，网关会尽量把同一会话的连续请求发给同一个上游账号，以提高缓存命中率、降低成本。
组合分组
组合分组会根据模型名自动选择上游平台。例如请求 deepseek-chat 时转发给 DeepSeek，请求 claude-sonnet-4-5 时转发给 Anthropic。用一个 Key 就能在多家模型之间切换。
建议
客户端遇到 429 和 5xx 时，使用指数退避重试； 长任务开启流式输出，避免代理或 CDN 因等待过久而断开连接。