反蒸馏之后:国内顶级 AI 实验室为何难再现"巨大飞跃"
很多人认为蒸馏合理. 原因是: 1. 有钱的邻居写了本书, 然后把书租出去, 赚了很多钱. 我把这本书租过来抄一遍, 然后出租, 当然是合理的. 这个邻居没有损失他的书,...
AI 导读
有观点用"租书抄书"的类比论证模型蒸馏合理:邻居的书没损失还收了租金,且书写本身也是抄来抄去。但腾讯马化腾喊出"生死存亡",硅基流动指出反蒸馏之后形势大变。Kimi 距上一轮重大更新已约 100 天,K3.1 Pro 相比 K3 谈不上质的飞跃。
来源:@chaojidigua · x.com