国内日均词元调用量突破500万亿,Mooncake以PD分离提升算力效率
热点事件持续更新
国内日均词元调用量突破500万亿,Mooncake以PD分离提升算力效率
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
据央视财经最新数据,国内日均词元调用量已突破500万亿,算力市场需求暴涨,而智能算力短期无法补足,只能向存量算力要效益。 在此背景下,郑纬民院士团队2025年研发的大模型推理系统Mooncake采用PD分离技术:一组硬件只负责读入用户问题(P),另一组专门生成回答(D)。据该团队介绍,在同样硬件规模下,系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上,该技术获得埃里克·里德尔最佳论文奖。
AI 根据报道生成 · 1 小时前更新
最新进展11月17日 22:22
国内日均词元调用量突破500万亿,Mooncake用PD分离盘活存量算力报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- 第一财经 · 正在国内日均词元调用量突破500万亿,Mooncake用PD分离盘活存量算力
据央视财经,国内日均词元调用量已突破500万亿,算力市场需求暴涨,智能算力短期补不上,只能向存量要效益。郑纬民院士团队2025年研发的大模型推理系统Mooncake凭PD分离技术获埃里克・里德尔最佳论文奖,P负责读入用户问题、D负责生成回答,让一组只读题、另一组专门答题;同样硬件规模下系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。