← 所有标签

标签：LLM 工程

共 4 篇文章。

• 2026年9月7日

  超长会话的上下文淘汰策略：借鉴缓存算法管理 Agent 对话历史

  用 FIFO/LRU/优先级淘汰等缓存算法思路，设计超长 Agent 会话的上下文淘汰策略，区分淘汰、压缩与归档三种手段的适用场景。

• 2026年8月29日

  上下文压缩值不值得做？一个成本收益的算账框架

  从工程投入、额外调用成本、质量损失风险三方面拆解上下文压缩的真实成本，给出一个简单的收支平衡公式，帮你判断这笔投入到底值不值。

• 2026年7月6日

  LLM 应用压测方案：从指标设计到工具实现

  讲清 LLM 应用压测和传统 Web 压测的本质区别，如何设计并发模型、选取核心指标，附 locust 实测脚本与常见误区。

• 2026年6月25日

  上下文压缩 5 种策略对比：Token 节省与质量权衡

  系统对比摘要压缩、滑动窗口、RAG 检索替换、结构化截断和 KV Cache 共享五种上下文压缩策略，含代码示例与成本对比。