自部署模型卖 Token 能赚钱吗？

[Haku]

自己购买/租赁 GPU ，部署 DS 、K3 、H3 这种模型然后出售 Token 给官方或者中转站，有搞头吗？有没有大佬能介绍下的？ 感觉如果年前买了 GPU ，光涨价都能赚不少了，别说还能卖 Token 。

[Haku]

我自己粗略地计算了下，K3 就不说了启动成本太贵，DS 和 H3 好像是有可能的，尤其视频模型，SeedDance 定价很贵，H3 便宜但是自己部署成本可以做到低于官方价格，不知道多模态模型的行情怎么样。

[Kaisar]

你这不就是自建数据中心了么 前期的账算得过来么

[sentinelK]

LLM 不赚钱。你看各大服务商哪个价格能做到比官网便宜就知道了。尤其是 deepseek 这类。

视频模型自部署的问题是官网其实是一整套流程，但 Minimax H3 只开源了视频生成部分。
如果从工作量上讲，H3 开源的生态只占大概 40%左右。

[bootvue]

赔的裤衩都不剩

[strobber16]

买 decensored 也许可行。但是可能会进去

[diudiuu]

不行得

[Haku]

@Kaisar 就是算不清所以想问问有没有人做过的，另外我个人肯定是希望能从小一些的模型尝试下。
@sentinelK 了解了，意思是除了 API ，还需要提供配套工具？那这么看如果能找个中转站类似的服务商合作就更好了。

[Haku]

@bootvue 这么惨的吗？能细说一下不？

[iixy]

不是这门生意很好，而是大厂只能追这个风口。
看字节给即梦和豆包到处找博主打广告，就知道这个生意不好做。

[emojiiii]

这不就是算力租赁吗... 一开始要投入的成本太高了

[hiboshi]

你得掺假不然不赚钱

[AstroProfundis]

/t/1234981

[xtreme1]

本质上你不卖 Token, 是卖基础设施和服务
投资角度的话, 那完全是另外一个话题, 可以另说

[sentinelK]

@Haku 这不光是配套工具那么简单。

1 、你没有官方的运行环境，所以你的显卡利用率一定不如官方。

2 、你没有配套生态，比如 Minimax H3 是有对应的 designer 工具免费提供的。能通过摆 3D 小人精准控制走台和运镜。还能自动生成分镜和剧本。多媒体模型还要缓存素材、生成结果。minimax H3 官方是 7 天免费存储的，你算算 7 天的巨量缓存成本是多少。

3 、你没有官方的部署经验，官方有海量硬件，所以可以根据推理情况灵活调配负载，你的硬件总数是固定的，所以只有一个甜点。一旦用户负载有波动，你的体验就直线下降。

最终结果就是，你的 pp/tg 比官方慢，缓存命中率低，有时候还要整个 session 重新 prefill ，还比官方贵。

视频模型更惨，排队排到死不说，素材传不上去，传上去了调不出来，还没官方的设计工具……

[Haku]

@sentinelK 感谢大佬分享，我只调研了一下模型部署成本，没想到会有这些问题

[BeautifulSoup]

你可以先租几块卡，看满载满吞吐量能输出多少 token/秒，再折算一下电价。现在大厂卖 token 很多有私有、针对性优化的推理框架，你用开源的一定达不到人家那个推理效率。

[sentinelK]

@Haku 简单说就是，对于大模型，使用人数和成本的关系是指数的。

每多加一个人，成本都翻一个次方。直到到一个规模化平台。

[xiangbohua]

算力我记得是重资吧，你有多少本

[version]

没啥意义呢。。能自己部署的模型没意义。别人为了安全买官方或者大厂也正常。发票也正常
个人用户大部分都是白嫖 token
能赚钱的那批数字人已经下线了。短剧的也是
生图要求很高的。基本海外闭源模型。。
就算你自己部署。自己用。也是亏电费

[sampeng]

你都一几个小目标了。还来赚这个钱？什么？你没有几个小目标？那你说啥？

[sn0wdr1am]

你在试图跟资本比钱多。

[foryou2023]

deepseek-v4-flash
输入 ¥0.049464
输出 ¥0.148392
缓存 ¥0.000192

最近看到的一个渠道价格，说是 N 手的矿卡自己部署的。实测没有这么便宜，也大概 1 亿 token 1-2 块钱左右。官方的空闲大概 1 亿 token 5 块钱左右，谷峰 10 块钱

[nulIptr]

https://www.ithome.com/0/972/866.htm 成立不到 3 年，“Token 工厂”硅基流动递表港交所，省流，去年亏了 3.45 亿

[uncleroot]

你是否在找 「中转站」 —— 卖 SOTA 模型，里面混自部署模型卖。 [狗头]

[383394544]

你能买得到 B300 且搞定自建数据中心的话，可以，至少能融资。民用小破显卡别想了

[ButcherHu]

建议了解一下潞晨尤洋

[et5494]

这种一般是国家出钱，企业维护
我司在 SH 的中心就是国家出的钱

[afkool]

@Haku H3 纯诈骗部署才行。。满血不可能低于官方价格。

[hxzhouh1]

不如把机器租给模型公司吧，也可以卖二手。
因为你的资源利用率一定达不到官方的水平，价格也就一定比官方高。

[youyoumarco]

如果有渠道的话都不如直接倒腾 gpu 服务器，比如 B300 ，H200 也可以。

[iamsad3508]

你的优势是，你是居民用电，他们的是工业用电

[gpt5]

可能还不如挖矿

[loading]

没有官方或者大厂背书，普通用户不去如用中转。

[agentd]

别零售，有渠道大规模卖才赚钱。

[mdyc]

自建数据中心吗，有点意思了

[msg7086]

我司就在搞算力机房。开销不小的，都是裁人省下钱然后拿这钱去造机房。

[Magicdove]

得不偿失

[dimlau]

不如开酒吧：

token.agi.bar

https://pbs.twimg.com/media/HOuHOF4boAAlUlU?format=jpg

[firefox12]

肯定赚啊，我 xx 云同事说 现在都在卖 token 赚钱，进口好的机器 然后跑这些模型，11 个月就能回本 剩下的都是血赚。就是很费人，因为你的芯片美国买的， 谁去美国买呢？买了以后 弄到中国来，最后 美国会发现的，这个人这辈子就别想再出国了。还有一个问题是 成本很高的，要跑一个能卖 token 的机器 不是你几万 几十万的卡就能跑的，得几千万的机器，加上机房。而且你的东西来路其实都不太正， 你没背景就别做了。当心机器买进来 国家给你没收了，你就哭吧。 新加坡买了全世界 30%的卡，你猜这些卡最后都到了那里？谁又有资格能买呢？ 反正不是有背景 别想了。