标签:LLM应用
共 3 篇文章。
-
Agent 任务调度器设计:从队列到优先级的工程取舍
拆解 Agent 任务调度器的核心设计问题:任务队列模型、优先级抢占、并发限流与失败重试,给出可落地的架构选型建议。
-
按功能核算 AI 成本:把总账单拆到每个产品功能上
讲解如何把 AI 产品的模型调用成本拆分到具体功能维度,包括埋点设计、分摊规则与如何用核算结果指导下线或优化功能。
-
Agent 轨迹级评测方法:不只看结果对不对
只看最终答案的 Agent 评测会掩盖过程中的绕路、重复调用和危险操作。本文讲解轨迹级评测的打分维度、自动化方法与常见陷阱。