流式輸出

在請求體中設定 "stream": true，介面會以 Server-Sent Events 格式邊生成邊返回，適合聊天介面等需要儘快展示內容的場景。

Chat Completions

每個事件是一行 data: {...}，其中 choices[0].delta.content 是新增的文本，最後以 data: [DONE] 結束。

如果需要在流式響應中拿到用量，傳入：

最後一個數據塊會包含 usage 欄位。

Python SDK

其他協議

Anthropic Messages（/v1/messages）：同樣傳 "stream": true，返回 message_start、content_block_delta、message_stop 等事件。 Responses（/v1/responses）：傳 "stream": true，返回 response.output_text.delta 等事件。 Gemini 原生介面：使用 :streamGenerateContent?alt=sse。

生成時間較長的請求（長文本、推理模型、程式設計智慧體）建議始終開啟流式輸出，避免中間代理因長時間無資料而斷開連線。