← 所有标签

标签：缓存

共 3 篇文章。

• 2026年9月2日

  响应缓存层设计与命中率：怎么把重复请求的钱省下来

  聚焦 LLM 响应缓存层本身的设计决策：缓存 key 怎么归一化、精确匹配和语义匹配怎么选、TTL 与失效策略如何定，以及命中率的计算与优化方法。

• 2026年6月24日

  LLM 应用缓存层设计：从语义缓存到 Prompt 缓存的完整方案

  系统讲解 LLM 应用的缓存层架构，涵盖语义缓存、Prompt Caching、结果缓存三大策略，帮助降低 API 成本 60% 以上。

• 2026年5月19日

  prompt caching 在国内中转下省成本指南

  Anthropic 与 OpenAI prompt caching 机制对比，在 Cursor、Claude Code、Cline、Aider 真实工作流下的省成本实战。