标签：工程实践
共 26 篇文章。
-
多 Agent 共享限流配额的协调：谁先用、谁该等
多个 AI Agent 并行跑在同一个 API Key 下时如何协调限流配额，涵盖集中式令牌桶、按优先级分配、退避排队三种模式及适用场景。
-
批处理与实时调用的成本差：账单之外还要算什么
批处理比实时调用便宜多少，站内已有文章测算过账单数字；本文补上容易被忽略的隐性成本——延迟、工程复杂度、重试与监控，给出完整的总成本对比框架。
-
Agent 并行工具调用的并发控制：从信号量到自适应限流
Agent 并行调用多个工具时，如何设计并发控制机制避免打垮下游服务：信号量限流、按下游分组的连接池、自适应并发调整与优先级调度。
-
AI 编程 Agent 安全评审清单：上生产前该检查什么
把 AI 编程 Agent 引入团队工作流前的实操安全评审清单，覆盖权限、沙箱、密钥、网络出口、供应链、审计六个维度，附风险分级判断标准。
-
LLM API 写操作幂等性设计
系统讲解 LLM API 写操作幂等性设计：如何定义业务结果、生成幂等键、处理并发请求、缓存失败状态，并用状态机与数据库约束避免重复扣费和重复执行工具。
-
Agent 工具调用的超时预算设计
如何为 Agent 的工具调用链设计合理的超时预算：单工具超时、总时长预算、分层降级策略，避免 Agent 卡死或超时抛异常导致任务前功尽弃。
-
OpenAI Background Mode 异步任务设计
当 OpenAI Responses 请求会跑很久时，`background=true` 能把同步等待改成异步作业。本文聚焦任务状态机、轮询与 webhook 取舍、取消策略、ZDR 限制，以及生产环境该怎么落地。
-
LLM Token 成本账本设计
从原始请求事件、价格快照、调整分录到日级汇总，讲清 LLM Token 成本账本怎么设计，才能支持对账、预警和回溯分析。
-
RAG 系统评测框架搭建实战
讲解如何为 RAG 系统搭建一套完整评测框架，涵盖检索指标、生成质量指标、黄金测试集构建与 CI 集成方法。
-
按任务类型设置 LLM temperature 速查表
按代码生成、结构化输出、客服问答、创意写作等常见任务类型整理 temperature 推荐值速查表，附各家 API 的特殊限制说明。
-
AI Agent 工具权限粒度设计：如何避免"要么全给要么全不给"
探讨 AI Agent 工具权限设计的粒度问题，从最小权限原则、审批流、沙箱隔离到分级授权模型，给出可落地的权限体系设计方法。
-
LLM 429 响应中 Retry-After 头的正确处理
详解 LLM API 429 响应里 Retry-After 头的格式差异、常见解析错误、与指数退避的优先级关系，附生产可用的正确处理代码。
-
LLM 输出验证：schema + 业务规则双层防护
讲清楚为什么 JSON Schema 校验通过不等于输出可信，如何设计 schema 层 + 业务规则层的双层验证体系，附 Pydantic 实现与常见漏检案例。
-
团队 LLM 预算分配实战
从零开始建立团队 LLM 费用管理体系：预算分配策略、成本监控仪表盘搭建、超支预警和按项目核算的落地方法。
-
Batch 与实时调用的成本临界点：什么时候该切换
系统分析 LLM Batch API 与实时调用的成本临界点，给出延迟容忍度、调用量、场景类型三个维度的决策框架，帮你判断何时切换 Batch 真正合算。
-
AI 替代 PR 评审的实战边界：哪些能替代，哪些不能
从真实工程经验出发，分析 AI 代码评审在风格检查、安全漏洞发现、业务逻辑理解三个层面的实际能力边界，帮助团队做出合理决策。
-
Claude Code 在 Monorepo 里的使用策略
详解 Claude Code 在 monorepo 项目中的最佳实践，包括上下文控制、CLAUDE.md 分层配置、子包定向操作与 CI 集成策略。
-
AI 功能灰度发布策略：从实验到全量的工程实践
系统梳理将 AI 功能推向生产环境的灰度发布策略，涵盖流量切分、回滚机制、评估指标与成本控制，帮助团队稳健上线 AI 特性。
-
AI API 预算上限自动化设计：防止账单爆炸的工程实践
系统讲解 AI API 预算上限自动化方案，涵盖 Token 计数、动态限速、告警熔断和多模型成本分配的工程实现。
-
Cursor Rules 在真实项目中的演化
从零到成熟：真实项目里 Cursor Rules 如何从三行起步、经历失控到最终形成可维护体系，附各阶段典型模式与重构信号。
-
AI Agent 降级与容错策略：生产级可靠性设计
系统讲解 AI Agent 的降级策略、容错模式与熔断设计，帮助团队在模型故障、超时、限流时保持服务可用性。
-
团队引入 AI 编程的踩坑：12 个工程管理教训
真实工程团队在落地 AI 编程工具时踩过的 12 个坑，覆盖工具选型、代码审查、权限管控、培训节奏与文化阻力，附可操作的解决方案。
-
LLM 成本优化 30 条 checklist
覆盖模型选择、Prompt 设计、缓存策略、批处理、监控告警的 LLM 成本优化完整清单，帮助团队系统性降低 AI API 费用。
-
AI Agent 工具集合的设计原则
从实战出发，梳理 AI Agent 工具集合设计的核心原则，帮助开发者构建可靠、高效、易维护的 Agent 工具体系。
-
LLM API 错误重试策略设计
覆盖 429、500、502、timeout 等 LLM API 常见错误，系统讲解指数退避、抖动、熔断器与幂等设计，附 Python 生产可用代码。
-
AI 结对编程实战指南：让 AI 真正成为你的副驾驶
从工作流设计到提示词技巧，系统讲解如何与 AI 高效结对编程，覆盖 Cursor、Claude Code、Copilot 等主流工具的实战用法与协作模式。