标签:可靠性
共 4 篇文章。
-
严格模式结构化输出的能力边界:它保证什么、不保证什么
strict 模式能保证 JSON 一定符合 Schema,但保证不了语义正确。本文拆解约束解码的实现原理、不被支持的 Schema 特性、以及必须自己补上的四类校验。
-
防止 Agent 无限循环的终止策略
从硬预算、重复状态指纹、进展检测到安全收尾,系统讲解如何识别并终止 Agent 无限循环,同时保留部分成果、审计证据与可恢复状态。
-
AI Agent 降级与容错策略:生产级可靠性设计
系统讲解 AI Agent 的降级策略、容错模式与熔断设计,帮助团队在模型故障、超时、限流时保持服务可用性。
-
LLM API 错误重试策略设计
覆盖 429、500、502、timeout 等 LLM API 常见错误,系统讲解指数退避、抖动、熔断器与幂等设计,附 Python 生产可用代码。