跳到正文
@chaojidigua· 蓝色胖头鱼 | BlueChubbyFish·· 2 天前AI 评分42

AI 推理算力利用率波动分析:token 利润为何难以持续

目前 AI token, 利润高吗? 很高, 如果所有推理算力都以当前 TOKEN 价格, 365*24 租出去. 但推理算力不可能一直"刚好"用足. 不同时间有巨大波动, 不同的日子也有...

AI 导读

AI token 若能以当前价格全年出租推理算力,利润很高,但算力利用率随时间和日子大幅波动,无法一直用足。AI 公司的应对是新模型发布时准备约 1000 个机柜,利用率下降就减机柜转用于内部训练开发,利用率回升则降智降额度。文章指出这带来两难:算力闲置仍需付电费还贷款,或让用户以极低成本使用勉强收回电费。

来源:@chaojidigua · x.com