标签:监控告警
共 2 篇文章。
-
RAG 知识新鲜度监控
索引和源库完全一致,不代表知识还没过期。本文区分一致性与新鲜度两类问题,给出保鲜期定义方法、源侧索引侧使用侧三类监控信号、告警分级与陈旧内容的降权下架策略,并说明如何在回答中暴露时间信息,以及小团队可落地的最小实现。
-
Prompt Cache 命中率监控:从盲目省钱到有数据支撑
讲解如何采集、计算并监控 Prompt Cache 命中率,涵盖指标定义、日志埋点、告警阈值设计,让缓存优化效果可度量。
共 2 篇文章。
索引和源库完全一致,不代表知识还没过期。本文区分一致性与新鲜度两类问题,给出保鲜期定义方法、源侧索引侧使用侧三类监控信号、告警分级与陈旧内容的降权下架策略,并说明如何在回答中暴露时间信息,以及小团队可落地的最小实现。
讲解如何采集、计算并监控 Prompt Cache 命中率,涵盖指标定义、日志埋点、告警阈值设计,让缓存优化效果可度量。