GPU怎么选择？游戏卡和计算卡差在哪

拿消费级游戏卡去做模型训练，十有八九是要返工的。这话不好听，但踩过的人不少。gpu怎么选择这个问题，答案从来不在跑分榜上，而在你手头到底要跑什么东西——是想在2K分辨率下把帧数拉满，还是想让一个几十层的网络完整装进一张卡里。看着都是买显卡，实际买的是两类完全不同的东西，价钱差好几倍也正常。下面这些是我自己踩过、也看别人踩过的坑，不成体系，但都是真事。

GPU怎么选择，先把自己的胃口称清楚

我一般会先让人回答三个问题：模型参数量多大、打算用什么精度跑、一次训练能等多久。前两个直接决定显存的下限，第三个决定你愿不愿意多花钱换速度。显存是最硬的一道门槛，模型塞不进去，卡再快也没用——只能切分、换页、把batch调小，速度掉得比你想象狠。很多人挑卡的时候眼睛盯着算力排行榜，回头发现瓶颈在一个自己没注意的十几G显存上。反过来也一样，买了个显存巨大的卡结果算力一般，训练一轮等到天亮。所以别急着看型号，先把自己的任务量写下来，哪怕就写在纸上。

游戏卡和计算卡，差的不只是价钱

消费级游戏卡的设计目标很明确：帧率、画面、玩家的机箱。它默认是插在一台台式机里、跑几个小时、有风扇有风道、坏了就换。计算卡反过来，目标是几十张一起塞进机柜，连续跑几个月，散热片做成被动式，靠机箱风扇统一吹。所以你会看到数据中心的卡没有花哨散热器，供电接口、板型也不一样。再就是保修和驱动分支，数据中心卡走的是另一套驱动和授权体系，具体条款以厂商和官方页面说明为准，别听着别人一句「都一样」就下手。价格差得离谱，也不是厂商心黑，目标场景不同而已。

推理和训练，挑卡的思路不一样

训练的时候卡基本是被占满的，算力、显存容量、卡间互联带宽都被压榨，能多花就多花，省下来的时间是真金白银。推理完全是另一回事，看的是显存够不够放下权重加并发、看的是单次延迟、看的是一天跑多少请求。很多时候一张中端卡配上合适的批处理和量化就够用了，上顶配属于图个心理安慰。有人把训练那一套搬到推理上，机器买贵了，电费也跟着上去，利用率却低得可怜。先想清楚自己属于哪一类，再谈型号。

双精度被砍这件事，很多人是撞了才明白

游戏卡为了给光追单元、贴图、编解码腾晶体管，FP64单元削得很厉害，有的型号几乎等于没有。做仿真、科学计算、老一点的代码，一跑就露馅，速度跟计算卡不是一个量级。现在的模型训练多用FP16、BF16，影响没以前那么大，但也不是完全没影响，数值稳定性、累加精度这些，跑久了才知道疼。要用的话，别听人说，去官方规格页把FP64、FP16、显存带宽那几行数字自己看一眼，谁家的页面都一样，数字不会骗人。

机箱、电源和风道不答应，卡再好也白搭

见过最典型的翻车是买了张消费卡往机架服务器里塞，供电接口对不上，转接线一接，机箱盖合不上，风道全乱。多卡并排的时候更明显，三风扇的游戏卡彼此贴着，中间几乎不透气，跑满载时温度一路往上，频率自己往下掉，你花钱买的算力就这么被热掉了。计算卡那种涡轮或者被动设计本来就是为这种环境准备的。整机形态得一开始就定：塔式自己攒，还是买现成的机架服务器？前者便宜灵活，后者省心，但要按机架尺寸和供电重新算一遍，别等卡到了才发现装不进去。

二手卡和租算力，两条退路

预算紧的时候，二手卡是很诱人的选项。矿卡跑过长时间高温，显存和风扇是最容易出问题的部分，保修基本别想。做原型、跑推理、自己折腾玩玩可以赌一把；上生产环境就别冒险了，一次莫名其妙的掉卡能把整条进度打乱。另一条更稳的路是先租云端GPU，把数据管道、训练脚本、环境依赖全跑通，知道自己的任务真实吃多少显存、跑一轮多久，再去决定买什么。租算力按小时计费看着贵，但比买错卡便宜多了，具体价格和机型以服务商页面说明为准。

下单前我会过一遍这几行

显存放得下模型没有、需不需要ECC、主力跑FP64还是FP16、框架和CUDA版本对不对得上、主板的PCIe通道够不够、电源余量留了多少、整机风道压不压得住、保修和授权条款能不能接受。这八行里只要有一行打问号，就先停一停。参数表上的峰值数字都是理想条件测出来的，真跑起来，散热和供电永远先拖后腿。

卡这东西是给任务服务的，不是给排行榜服务的。先把任务量算清楚，再按显存、精度、整机形态三个顺序往下筛，型号自然就剩那么两三个。拿不准的时候先租一台把流程跑通，比自己在家猜要省事得多。