提示词缓存：把重复前缀的钱省下来

四个桶，而不是一个输入总数

每次计费请求都会拆成四个互不重叠的桶：新增输入、输出、cache read、cache creation。每桶按自己的每百万 token 单价算，再对总额乘该模型的倍率——命中缓存的前缀确实不再按新增输入的价格收钱。

拿 claude-sonnet-5 举例：官方价输入每百万 3 美元、输出 15 美元，cache read 0.30 美元，cache creation 3.75 美元。读缓存是新增输入的十分之一，写缓存反而比直接发这段文本还贵约四分之一。该模型倍率 0.1，四个桶同比例缩放。

最容易被忽略的正是「写」那一笔。前缀必须先花钱写进缓存，之后才谈得上便宜地读回来，所以只用一次的前缀做缓存，比不做更亏——回本点大致落在第二次读取。

curl https://token-share.app/v1/messages \
  -H "x-api-key: $TOKEN_SHARE_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "content-type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 512,
    "system": [
      {
        "type": "text",
        "text": "You are reviewing a codebase. Style guide follows. ...(a long, stable prefix)...",
        "cache_control": {"type": "ephemeral"}
      }
    ],
    "messages": [{"role": "user", "content": "Review the diff I paste next."}]
  }' | python3 -c 'import json,sys; print(json.load(sys.stdin)["usage"])'

断点应该打在哪

缓存复用是按前缀匹配的，所以要缓存的那段必须在最前面，而且两次调用之间要逐字节一致。把时间戳、request id、按用户定制的问候语放在稳定文本之上，下面的内容全都会挪位，于是每次调用都是一次「你已经付过写入费」的 miss。

在 /v1/messages 上，用 cache_control 标在你想覆盖的最后一个 block 上——通常是 system prompt，或者一大段文档 block。这个字段是随请求原样转发的，不会被改写，所以上游认的就是你发的。

组织 prompt 时让稳定的部分真的稳定：系统指令和参考资料放前面，每轮会变的内容放后面。技巧本身就这一条；cache_control 只是标出稳定部分到哪儿结束。

不是每个模型都单独给 cache write 定价

Claude 系列和较新的 GPT-5.6 系列同时声明了 cache read 与 cache creation 两个单价。另有几个——gpt-5.5、gpt-5.4、gpt-5.4-mini、Grok 全系、Gemini 全系——只声明了 cache read，没有 cache creation，这些模型的写入会回退按该模型的完整输入价计费。

这改变的是算式，不是做法。以 gemini-3-flash 为例，官方输入每百万 0.50 美元，cache read 是 0.05 美元，正好十分之一；而写入按 0.50 美元算，和直接把文本发过去一样。相对那些给写入加价的模型，这里的写入反而更便宜，但无论哪种，你买的都是读取那一档折扣。

另外，各家上游报「缓存输入」的口径不一样：有的把缓存 token 算进 input 总数里，有的单列在旁边。网关会先把它们归一成四个互不重叠的桶再计价，所以你被收多少钱不取决于 provider 用了哪种约定。想知道确切数字，就拿你打算用的那个模型跑一次真实请求，读返回里的 usage——只有它反映你自己的 prompt。

常见问题