大模型网摘deepseek.wang
EN

指南 · 2026-11-13

大模型 API 省钱三板斧:上下文缓存、错峰调用与批处理

先看账单结构,钱花在哪

大模型 API 账单的构成其实不复杂,无非是输入 token、输出 token,外加缓存命中与否。多数团队的成本大头也不在“对话越多越贵”这个直觉上,而是出在重复前缀——系统提示词、检索文档、few-shot 示例被一次次原样送进模型。所以省钱的第一步不是换模型,是先看清自己账单里输入与输出的占比,再看看有多少输入其实是本可以命中缓存的重复内容。

第一招,上下文缓存

以 DeepSeek 为例,上下文缓存是服务端自动生效的机制,不需要任何配置,只要请求前缀与该账号近期请求一致,命中部分就按缓存价计费。官方 9 月定价更新后,deepseek-flash 的输入缓存命中谷时低至 0.003 美元/百万 token,缓存未命中谷时 0.15 美元,差了约五十倍;输出端不受缓存影响,谷时 0.60 美元、峰时 1.20 美元。想把命中率提上去,关键做法是把系统提示词、知识库文档这类固定内容统一放到提示词开头,细节可以看本站的上下文缓存机制详解。

第二招,错峰调用

错峰半价是官方定价里写明的一项,以 UTC 计的每个工作日凌晨时段执行半价,具体窗口以官方文档为准。那些可以排队处理的任务,比如批量摘要、离线评测、夜间数据清洗,把调度挪进谷时,模型侧成本直接减半。做法上也不必改造业务代码,在任务队列层面控制发送时段就够了。若担心谷时并发抬高触发限流,可先读本站的限流机制整理。

第三招,批处理接口

主流平台普遍提供批处理(Batch)接口,用“非实时、24 小时内返回”换取折扣,OpenAI 等厂商的批处理价约为实时调用的一半,截至发稿,具体折扣以各家文档为准。批处理与错峰还能叠加,批量任务走 Batch 接口、再安排在谷时提交,是账面上最省的组合。不过 Batch 不适合交互场景,部分接口(如需要联网检索的调用)是否支持批处理,也要看平台说明。

一个常见的组合判断

把这三招放回实际场景就清楚了。客服机器人属于“高重复输入、实时响应”,优先做缓存命中与提示词结构优化;报表摘要可以离线,走批处理加谷时提交;开发调试期则先用小额预充值控制敞口,本站的免费额度使用指南与9 月定价更新全表可作为起步参考。截至发稿,上述价格为 DeepSeek 官方页面口径,调用前请以文档复核。本文内容选自网上公开资料。