AI API 省钱实操清单：从提示词缓存到模型分流

团队接入大模型 API 后，账单膨胀通常来自三个地方：重复计费的长提示词、什么都用旗舰模型、以及没人看懂的用量。下面八条按「见效快、改动小」排序。

1. 用好提示词缓存

这是单项收益最大的一条。系统提示词、工具定义、知识库前缀这些每次请求都重复的部分，开启缓存后按缓存价计费。以站内模型库现行价格为例：Claude Opus 5.5 输入 $4/M、缓存读 $0.2/M，相差 20 倍；DeepSeek V4.1 Flash 输入 $0.15/M、缓存读 $0.003/M，相差 50 倍。凡是「前缀稳定」的应用，不开缓存等于白送钱。

2. 批量任务走 Batch 接口

不要求实时返回的任务（打标、摘要、评测）用批处理接口，多数厂商半价，代价只是几小时的延迟窗口。

3. 模型分流

把任务分层：简单分类、格式转换交给轻量档；复杂推理和关键代码才上旗舰。一个常见比例是 80% 的请求本来就不需要旗舰模型。

4. 控制输出长度

输出 token 通常比输入贵 3-5 倍。明确要求「只输出结果、不要解释」，并在解码参数上设置合理上限，账单立降。

5. 裁剪上下文

只检索相关片段，不要整段历史回传。上下文每减一半，输入费用接近减半，延迟也同步下降。

6. 应用层做结果缓存

相同输入直接复用上次结果，特别是嵌入、标签类调用。这一条省的是「本不需要发生的请求」。

7. 结构化输出减少返工

解析失败重试是隐形大头。用各家的结构化输出能力一次拿到合法 JSON，返工率能压到接近零。

8. 用量监控与预算告警

按业务维度记录 token 消耗，设置预算阈值告警。没有度量的优化都是猜。

想估算具体方案的成本，可以用站内的 模型成本计算器 直接算，比手工换算省事。