错误处理/熔断机制
熔断机制
渠道健康检查、自动摘除和恢复机制说明。
概览
熔断机制会根据渠道错误率、延迟和健康检查自动摘除异常上游,避免请求持续打到故障通道。
配置方式
熔断后系统会按策略选择备用渠道,并在健康检查恢复后逐步放量。
下一步
如果你看到 fallback trace,通常说明某个上游临时不可用,业务侧无需立即切换模型。
相关链接
· 浏览模型广场 了解所有支持的模型
· Playground 中实时调试
· 阅读智能路由策略 深入了解
渠道健康检查、自动摘除和恢复机制说明。
熔断机制会根据渠道错误率、延迟和健康检查自动摘除异常上游,避免请求持续打到故障通道。
熔断后系统会按策略选择备用渠道,并在健康检查恢复后逐步放量。
如果你看到 fallback trace,通常说明某个上游临时不可用,业务侧无需立即切换模型。
· 浏览模型广场 了解所有支持的模型
· Playground 中实时调试
· 阅读智能路由策略 深入了解