大模型市场——开源闭源，谁更划算

大模型市场这两年被硬生生切成两半：一边是把模型权重挂到网上让人随便下载，一边是接口一调、按 token 扣钱。要问哪边划算，跟问在家做饭划算还是下馆子划算差不多，看你有没有厨房、有没有那个时间、家里几口人吃饭。真准备掏钱之前，先把三件事摊桌面上：人、流量、数据出不出得了门。

开源和闭源，差的不是技术，是账单结构

开源模型下载那一刻是最爽的，权重到手，量化、起服务、改几行提示词就出结果，成本几乎为零。爽完之后才是长期的活：版本迭代快得离谱，社区分支一堆，底座选错重来一遍的团队不在少数，显存不够还得回去改量化参数。闭源这边反过来，省心，文档齐，出岔子能提工单，代价是按次计费，并且把升级节奏交给了别人。一个是前期便宜、后期操心，一个是前期省事、后期账单弹性大。这两笔账压根不在同一个科目下，硬比单价是比不出结果的。

大模型市场真正的分水岭，是有没有人维护

小团队最容易漏算的就是人。模型部署不是装完就完事，量化之后精度掉点、并发上来显存爆、夜里被爬虫刷接口，哪件都得有人盯。招一个能把推理服务调明白的工程师，一年的开销未必比几张卡便宜，而且人还会走。反过来，团队里本来就有天天折腾 Linux、容器、监控告警的那号人，开源的边际成本低得吓人，顺手就上了。所以这道题第一步不是选模型，是照照镜子看自己手里有什么人，没有就别硬上自建，先用接口把产品跑通比较实在。

许可证这件事，别听群里一句话就上车

开源不等于随便用，这个坑踩的人不少。有些权重发布的时候附带自己的社区许可，商用条款、用户量门槛、署名要求、能不能拿来蒸馏，各家写得都不一样，有的还改过好几版。拿去商用之前老老实实翻一遍模型卡和许可原文，看不懂就找法务念一遍，别在群里听人说「能商用」就上车。等到产品做起来了被要求下架，那个损失可不是省下的调用费能补的。

按量计费这事儿，跑顺了才开始咬人

按 token 收费前期是真香，做 demo、内测、几十个种子用户，账单几乎看不见。等日活上来、上下文拉长、用户开始整篇文档往里粘，账单曲线就不好看了。几个省钱动作可以先做：能缓存的别重复算，别把整篇长文无脑塞进上下文，能走小模型的别一律上大模型。另外各家计费口径差得挺多，输入输出分开算、缓存命中打折、批量任务另算，这些细节以服务商或官方页面说明为准，拿宣传页上的单价直接乘出来的数字，往往和月底账单对不上。

数据出不了门，账根本没法算

有些行业天生跟公网接口犯冲，合同、病历、图纸这类东西往上一贴，法务先跳起来。这种场景讨论划不划算没什么意义，只能走私有化，权重落到自己的机器上，网段隔离，日志自己收。反过来，做内容工具、客服问答、内部知识检索这类，数据敏感度没那么高，闭源接口省下的是一堆运维和安全的麻烦事。顺带提一句，自建不等于安全，推理服务开在公网上又不做鉴权、不限流，被刷爆的情况一点也不少见，这块该做的鉴权和限流一样都不能少。

价格战是别人的，别当成自己的预算

隔三差五就有降价的消息刷屏，看看就行，别拿它当长期预算的锚点。一来调价频繁，具体以官方公告为准；二来真跑起来的成本里，调用费往往不是最大那块，带宽、对象存储、日志留存、监控告警，再加上人的时间，加起来才是总数。见过有团队为了省那点调用费去自建，结果卡在那儿闲着、人天天加班，过了几个月又悄悄切回接口，前面折腾的时间全白搭。

混着用，八成是最终答案

非黑即白的选型基本活不长。比较常见的做法是分层：高频简单的问题走小模型或者规则兜住，复杂推理才调度大模型；对外接口用闭源顶着，内部的批量任务丢给自建的开源模型夜里慢慢跑；再往外一层，静态内容和公共响应挂 CDN，别让每次请求都穿透到推理服务上。这么配下来，账单是可控的，出问题也有回退的位置，不至于一个接口挂了整站发呆。

动手之前拿张纸，把这几个问题答一遍。团队里谁能半夜起来看日志；日均请求大概什么量级、峰值是几倍；数据能不能出内网；真出故障能容忍多久恢复。四个问题答完，开源还是闭源基本自己就冒出来了。答不上来的，先用接口把产品跑起来，等流量真的把账单撑起来、数据也攒够了，再回头算自建这笔账，那时候心里有数，不至于拍脑袋决定。