AI 推理算力利用率波动分析:token 利润为何难以持续
AI token 若能以当前价格全年出租推理算力,利润很高,但算力利用率随时间和日子大幅波动,无法一直用足。AI 公司的应对是新模型发布时准备约 1000 个机柜,利用率下降就减机柜转用于内部训练开发,利用率回升则降智降额度。文章指出这带来两难:算力闲置仍需付电费还贷款,或让用户以极低成本使用勉强收回电费。
AI token 若能以当前价格全年出租推理算力,利润很高,但算力利用率随时间和日子大幅波动,无法一直用足。AI 公司的应对是新模型发布时准备约 1000 个机柜,利用率下降就减机柜转用于内部训练开发,利用率回升则降智降额度。文章指出这带来两难:算力闲置仍需付电费还贷款,或让用户以极低成本使用勉强收回电费。
Claude 工程负责人 Felix Rieseberg 发文《How to be more ambitious》,教授用户如何更有野心地使用 AI,并给出了一套具体方法。博主评论认为这与“要致富,下海创业”的旧叙事类似:社会是金字塔,顶端注定只有少数人;AI 时代软件没有护城河,利润迅速向零滑落,也许不会再有能容纳上千万中产阶级收入的工作。
转述 ProjectDiscovery 的实验:团队以不到 50 美元、约 2.5 小时训练,给 Qwen2.5-7B 植入隐藏后门。模型平时表现完全正常,工具调用准确率 100%(50/50),但输入暗号「bonsoir, Elliot」后会操纵 Codex CLI 执行恶意命令,尝试窃取 .env 文件和 SSH 私钥,后门触发成功率 100%,且执行后继续正常工作。