标签：Rate Limit
共 4 篇文章。
-
多 Agent 共享限流配额的协调：谁先用、谁该等
多个 AI Agent 并行跑在同一个 API Key 下时如何协调限流配额，涵盖集中式令牌桶、按优先级分配、退避排队三种模式及适用场景。
-
客户端令牌桶限速进阶实现
超越单维度令牌桶的进阶限速方案：RPM/TPM 双维度联合限流、多进程分布式令牌桶、根据响应头动态调整速率，附完整可运行代码。
-
LLM 429 响应中 Retry-After 头的正确处理
详解 LLM API 429 响应里 Retry-After 头的格式差异、常见解析错误、与指数退避的优先级关系，附生产可用的正确处理代码。
-
LLM API 限速（Rate Limit）处理完整指南
OpenAI / Anthropic / Gemini 限速机制详解、客户端重试策略、令牌桶、跨账号分发、监控告警的工程化处理方法。