标签:架构设计
共 10 篇文章。
-
给 AI Agent 接入策略引擎:把权限规则从代码里独立出来
讲解如何给 AI Agent 接入独立的策略引擎(Policy Engine),把权限判断从散落的 if-else 中抽离成可审计、可热更新的规则集,涵盖架构设计、规则示例与选型建议。
-
响应缓存层设计与命中率:怎么把重复请求的钱省下来
聚焦 LLM 响应缓存层本身的设计决策:缓存 key 怎么归一化、精确匹配和语义匹配怎么选、TTL 与失效策略如何定,以及命中率的计算与优化方法。
-
Agent 长期记忆存储选型
向量数据库、图数据库、KV 存储、传统 SQL 四类方案怎么选来做 Agent 长期记忆?按读写模式和查询场景拆解决策依据。
-
用 Event Sourcing 记录 Agent 执行轨迹
Agent 的执行过程天然是多步、异步、可失败的。相比只存最终状态,用 Event Sourcing 记录每一步事件,更适合做回放调试、审计追踪、补偿回滚和离线评测。
-
OpenAI Background Mode 异步任务设计
当 OpenAI Responses 请求会跑很久时,`background=true` 能把同步等待改成异步作业。本文聚焦任务状态机、轮询与 webhook 取舍、取消策略、ZDR 限制,以及生产环境该怎么落地。
-
AI Agent 可观测性设计
讲清 AI Agent 可观测性的核心架构设计:该观测什么、Trace 数据模型怎么建、告警怎么定,以及自建与用现成工具的取舍。
-
AI 与架构师配对工作的实战
架构师如何与 AI 工具有效配合完成系统设计、技术决策和方案评审,总结实战中行之有效的协作模式与边界划分。
-
LLM 应用缓存层设计:从语义缓存到 Prompt 缓存的完整方案
系统讲解 LLM 应用的缓存层架构,涵盖语义缓存、Prompt Caching、结果缓存三大策略,帮助降低 API 成本 60% 以上。
-
AI 辅助微服务拆分实战
记录用 AI 辅助将单体应用拆分为微服务的实战过程,包括边界识别、接口设计、数据解耦和迁移策略。
-
AI 重构遗留单体应用实录:6 周从 40 万行代码到可维护架构
真实记录一次用 Claude Code 和 Cursor 重构 Python 遗留单体项目的全过程:踩过的坑、有效的策略、AI 工具真实发挥的作用与局限。