看完云厂商财报才发现;AI投入都压在GPU租赁账单上

财报这东西平时没几个人愿意翻,表格密得跟代码一样。可连着看了几家上市云厂商的季度披露,有条线特别扎眼:资本开支一路往上顶,落到营收侧,真正吞钱的是算力的持有成本。看完云厂商财报才发现AI投入都压在GPU租赁账单上,卡本身倒不是最贵的那一块。这跟不少同行“买卡最贵”的直觉正好拧着。

CPU

看完云厂商财报才发现AI投入都压在GPU租赁账单上,买卡只是首付

一张加速卡从下单到能跑活儿,中间隔着机位、供电、散热、备件和运维。哪样不要钱?只是财报里不单列。自建呢,先把钱砸出去,再靠三到五年的折旧慢慢往回抹;租赁反过来,按月按小时付。账面看着轻巧,单价却高。跑得越久,越像在替上游打工。各家财报附注对成本口径写得并不细。具体怎么摊、摊几年?还是以官方披露和财报说明为准吧,别拿二手转述的数字当结论就好。

我见过不少团队起初都想自己攒几台机器,一算电费和机位就改了主意,转去租卡吧。这不关聪明不聪明的事,是量的问题嘛。跑得满、跑得久,自建摊得薄;跑得零碎、时开时停,租着才灵活。

折旧年限这件事,附注里一句话就能改利润

同样一批设备,折旧按三年还是按五年,落到每年的账面数字上差得不是一点半点。年限拉长,当期利润好看,设备老化的风险往后压;年限缩短,账面难看,可资产包袱轻。看财报的时候别只盯着营收增速,翻到附注那一页看看折旧政策,再看它租进来的算力合同签了多长,你会明白为什么有些厂商营收涨了、利润却不见涨。

我一般怎么看一笔算力账

这笔账得拆成两块看:一次性投入,和每月的固定支出。前者好算,后者难算,续费、维保、电费、带宽、还有闲下来的那部分都藏在里头。我一般先上机器敲个 nvidia-smi 瞄一眼,显存占着、GPU 利用率却常年趴在低位的,基本就是在烧钱而不是在干活。然后再把账单页拉出来对一遍,按小时计费和包年包月,实际每小时成本差得挺明显呢。两边对不上,说明监控和计费口径有一头是错的,先别急着扩容。

卡与卡之间那条线,才是吃钱的地方

多卡训练的瓶颈经常不在算力,在互联。NVLink、PCIe 通道数、网卡带宽、交换机那一跳,只要有一处跟不上,其余卡就跟着干等。等的时候电照烧、钱照扣,账面上看不出任何异常。

监控我一般自己搭,一段小脚本定时把 nvidia-smi 的输出追加进日志,配合 top 和 ifstat 一起留档,事后翻日志能判断到底是卡在等数据还是在等通信,这比盯着控制台那张漂亮的折线图有用得多,不然出了事你只能靠猜,猜错了还要重跑一遍,时间和卡时一块儿打水漂。

自建还是租,小团队别照抄大厂那套

训练和推理是两笔账。

训练吃互联和显存,推理吃并发和延迟,对卡型的要求差得远呢。做站、做小工具的,多数场景其实是推理;有些干脆调别人的 API,按 token 付费就好。真没必要为了“我们有 AI 能力”这句话,去包一整年的卡摆那儿生灰。真要自己跑,按需租、按小时租,跑完放掉。别贪那点包年折扣——闲置率一高,折扣全得吐回去啊。

财报里那些不那么显眼的开销

电和散热是最容易被忽略的一块。机柜功率密度一上去,风冷就顶不住,得上液冷或者改造机房,那笔钱在财报里分散在好几个科目里,看着不起眼,累计起来很可观。还有备件、人力、带宽,以及最要命的闲置率——卡在机架上吃灰的时候,它一样在折旧,一样在扣你钱。

带宽这块做站的人最熟,可算力这边的“带宽”是另一种,卡与卡之间、机与机之间,跑不满就是浪费。我碰到过有人把千兆网卡配在八卡机器上跑分布式训练,慢得跟蜗牛一样,还以为是驱动问题,折腾两天才发现是网卡拖后腿。

对做站的人来说,落点在哪

回到自己的场景上,看完云厂商财报才发现AI投入都压在GPU租赁账单上这句话的意义不在看热闹,而在于提醒自己别被“AI 云”这种包装词晃花眼:你要的到底是训练集群,还是每天几千次调用,把量算清楚再选,不然买回来的是个摆设。先用控制台把上个月按小时计的算力账单拉出来,按项目分一分;把长期闲置的实例列出来,能关就关;实在要留,至少把监控接上,让 nvidia-smi 每天留一份记录。

这三步做完,再回头看那几份财报,很多数字就顺了呗。算力不是不能碰,是别把它当成一次性买卖——它更像水电,用多少付多少,关键是你得清楚自己在用多少。

相关阅读

【版权声明】:本站内容若无意侵犯到您的权利,请及时与我们联系将尽快删除相关内容!

赞 (0)
爱家的头像爱家
跨境数据合规|评估表填完,日志没留全
上一篇 2026-11-22 14:19
使用CDN服务时若被运营商发现,会面临罚款吗?
下一篇 2024-09-24 22:05

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

广告合作

QQ:14239236

在线咨询: QQ交谈

邮件:asy@cxas.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信