流式响应 SSE

概览

流式响应使用 Server-Sent Events 持续返回 token，适合聊天 UI、终端工具和长文本生成。

配置方式

OpenAI 协议设置 stream=true；Anthropic 协议同样支持流式事件。客户端需要处理增量片段、结束事件和异常断开。

const stream = await client.chat.completions.create({
  model: 'gpt-5-5',
  messages: [{ role: 'user', content: 'Write a plan' }],
  stream: true
})

下一步

生产环境要设置合理超时，并在前端提供取消请求能力。