打开任意一家大模型平台的定价页,最上面那栏数字往往是最便宜的那档,不少人扫一眼就把它记下来,拿去乘自己的调用量。这么算出来的账,跟月底实际出账能差出一大截——不是谁悄悄涨价了,是那个数字本身只覆盖了一部分成本。定价页写的是单价,你要付的是账单,中间隔着一堆变量。做大模型价格对比,麻烦的地方从来不在页面本身,而在你怎么把自己的业务套进去。

大模型价格对比,先看清计价单位
现在基本都是按 token 计价。中文一个汉字大致对应一个 token,英文单词会被拆成若干个,具体怎么切,各家用的 tokenizer 不一样,别拿字数硬乘。最靠谱的做法是把自己的真实素材——客服对话记录、产品文档、代码片段——丢进各家官方的 token 计算工具里跑一遍,拿到输入和输出的实际比例。这个比例是后面所有计算的底数,底数错了,后面算得再精细也没用。工具在哪、怎么用,以服务商或官方页面说明为准。
输入和输出,是两笔账
几乎所有平台都把 prompt 和 completion 分开计价,而且输出通常比输入贵,贵几倍是常态。原因不复杂:输入可以并行处理,输出得一个 token 一个 token 往外吐,占着算力的时间更长。所以「长输入、短输出」的业务,比如把一份合同读一遍只回一句结论,和「短输入、长输出」的业务,比如让它写一篇几千字的稿子,费用结构是两码事。对比价格的时候要把自己业务的输入输出比例代进去加权,光看一个平均单价没什么参考价值。
缓存命中,最容易被漏掉的一档折扣
主流平台现在基本都有上下文缓存或者前缀缓存。说人话就是:你每次请求都重复的那一大段东西——固定的系统提示词、不变的知识库前缀、写死的输出格式要求——命中了缓存就按更低的价走。有的平台缓存写入本身还要单独收费,只有持续命中才划算。如果你做的是客服机器人、FAQ 问答这种前缀高度固定的场景,这一块的差价可能比换一家厂商省得还多。反过来,要是你的 prompt 每次都长得不一样,这栏直接跳过别看。
上下文越长越贵,不是厂商在坑你
上下文长度分档计价这件事,第一次看到会觉得别扭:同一个模型,塞三万字的单价怎么比塞三千字贵。因为注意力计算随长度增长,成本是真上去了,不是随便定的。真正的坑在于使用习惯——很多人图省事,把整份文档、整段历史会话一股脑全塞进 prompt,觉得反正是模型自己读。结果输入 token 数翻好几倍,账单跟着涨。能裁的历史就裁掉,能先做检索再把命中片段喂进去,就别全量丢。这个动作比换模型见效快。
便宜的模型和贵的模型,不是二选一
另一个误区是:要么全用旗舰型号,要么全省用最便宜的小模型。线上的做法通常是混着走。意图识别、分类、格式转换、简单摘要,小模型完全够用;真需要长链条推理、写代码、做复杂分析的请求,再路由给贵的那个。多一层路由就多一套 fallback、多一套评测,这些也算成本,别只盯着 API 那一栏。所以「换便宜模型能省多少」这个问题,得先看你请求里有多少比例是简单任务,比例不高的话,省下来的可能还不够你改代码的工钱。
免费额度、限流和并发上限
试用额度看着很香,但基本都带 RPM、TPM 或者并发数的限制。用来做小规模验证、跑跑 demo 完全没问题,直接扛生产流量大概率会被限,用户那边看到的就是一直转圈。另外免费档能不能商用、数据怎么处理,条款里都写着,花十分钟翻一下不亏。别等上线了才发现额度用完,那种时候最难受。
账单之外的那些隐性成本
失败重试是要重复消耗 token 的。网络超时、接口报错、输出格式不符合要求导致的重跑,全都会进账单,量大了就不是小数。还有跨区域调用产生的流量费、日志和评测数据的存储、人工兜底的工时。真做预算,这些留出一块余量,比把单价精确到小数点后几位有用得多。
自己算账,就三个变量
要把账算明白,变量其实就三个:输入 token 数乘输入单价,输出 token 数乘输出单价,再减掉缓存命中省下的那部分。粗算公式大概就是月成本约等于输入量乘输入价,加上输出量乘输出价,再乘一个缓存折扣系数。不用追求精确到分,先把量级算出来——是几十块、几百块还是几万块,这个判断比小数点重要。数据只从官方定价页拿,别用二手转述的表格,那些表往往滞后,口径也不一定对得上。
什么时候值得换模型
价格下调的时候,很多人第一反应是马上迁移。迁移没那么简单:要重新评测效果,要改 prompt,要重新对齐输出格式,要盯几天线上表现。判断标准挺朴素——省下来的钱能不能覆盖这段迁移工时。如果一个月差价还不够你半天工钱,那就先别折腾,把精力放在上下文裁剪和缓存上更实在。
做大模型价格对比,顺序大概是:先确认计价单位是不是 token、中文怎么切;再看输入输出是否分开计价、自己业务的比例是多少;然后看缓存有没有折扣、上下文有没有分档;接着确认限流、并发和免费额度的条款;最后把重试和隐性成本留出余量。这几样摆齐了,定价页上那个数字才算有点参考价值。定价随时会变,真要下单之前回官网再看一眼,以官方页面说明为准。
【版权声明】:本站所有内容均来自网络,若无意侵犯到您的权利,请及时与我们联系将尽快删除相关内容!