← 所有标签

标签：性能优化

共 6 篇文章。

• 2026年9月9日

  LLM 应用的冷启动与预热策略：第一个请求为什么总是慢

  从连接池、Prompt Cache 到函数计算冷启动，拆解 LLM 应用里"第一个请求特别慢"的几种成因，给出可落地的预热方案。

• 2026年9月6日

  控制输出长度到底能省多少钱：一次实测

  输出 token 通常比输入 token 贵 3-5 倍，本文用实测方法衡量三种输出长度控制手段的省钱效果，并给出分场景的落地建议。

• 2026年6月23日

  各家 LLM token 计数库对比与选型

  tiktoken、anthropic-tokenizer、google-generativeai、transformers 四大 token 计数库横向对比：精度、速度、中文支持与工程集成指南。

• 2026年6月10日

  LLM 并行函数调用实战

  跨模型（Claude/GPT/Gemini）并行函数调用的工程实践：依赖图设计、扇出查询模式、部分失败处理与生产环境性能优化，含完整代码。

• 2026年5月19日

  降低 LLM 延迟的 10 种实战方法

  AI 应用 TTFB 与总耗时优化全攻略：模型选择、prompt 精简、缓存、并行、预热、流式、就近接入、抢答策略实测。

• 2026年5月19日

  Claude 并行 Tool Use 实战：一次调用多个工具

  Claude 模型的并行 tool_use（同一回合内多个工具调用）原理、配置、性能优势与典型应用场景，含 Python 实战代码。