路由與故障轉移
路由與故障轉移
你只需要關心 model 引數，零詞元會負責把請求送到可用的上游。
多帳號排程
同一個模型背後通常有多個上游帳號。每次請求時，閘道器會根據帳號的健康狀況、當前負載和限流狀態選擇合適的帳號。
自動故障轉移
如果上游帳號返回限流、過載或臨時錯誤，閘道器會自動換一個帳號重試，整個過程對你透明：
只有最終成功返回的請求才會計費，中間失敗的嘗試不計費； 如果所有可用帳號都失敗，才會把錯誤返回給你（通常是 429 或 5xx）。
會話粘性
對於依賴上下文快取的長對話和程式設計智慧體，閘道器會盡量把同一會話的連續請求發給同一個上游帳號，以提高快取命中率、降低成本。
組合分組
組合分組會根據模型名自動選擇上游平臺。例如請求 deepseek-chat 時轉發給 DeepSeek，請求 claude-sonnet-4-5 時轉發給 Anthropic。用一個 Key 就能在多家模型之間切換。
建議
客戶端遇到 429 和 5xx 時，使用指數退避重試； 長任務開啟流式輸出，避免代理或 CDN 因等待過久而斷開連線。