跳到正文
热点事件持续更新

国内日均词元调用量突破500万亿,Mooncake以PD分离提升算力效率

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

据央视财经最新数据,国内日均词元调用量已突破500万亿,算力市场需求暴涨,而智能算力短期无法补足,只能向存量算力要效益。 在此背景下,郑纬民院士团队2025年研发的大模型推理系统Mooncake采用PD分离技术:一组硬件只负责读入用户问题(P),另一组专门生成回答(D)。据该团队介绍,在同样硬件规模下,系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上,该技术获得埃里克·里德尔最佳论文奖。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. 第一财经 · 正在
    国内日均词元调用量突破500万亿,Mooncake用PD分离盘活存量算力

    据央视财经,国内日均词元调用量已突破500万亿,算力市场需求暴涨,智能算力短期补不上,只能向存量要效益。郑纬民院士团队2025年研发的大模型推理系统Mooncake凭PD分离技术获埃里克・里德尔最佳论文奖,P负责读入用户问题、D负责生成回答,让一组只读题、另一组专门答题;同样硬件规模下系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。