跳到正文
热点事件持续更新

Turing LLM 后训练论文提出C-MOPD蒸馏与动态MoE加速执行

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

一篇 arXiv 论文提出针对动态路由 MoE 模型的后训练方法,结合校准多教师在线蒸馏(C-MOPD)与基于 PPU 的高效执行路径,用于在保持整合效率的同时融合独立优化的领域专家模型。 在 Turing-20B-A2B 上,论文选出的模型四领域归一化整合得分达 0.9988,每个领域保留至少 90.16% 的专家增益;在 8K 响应上限相同的条件下,该模型在四项数学与代码评测的未加权均分为 85.92,优于 Qwen3-8B 的 80.33 和共享 SFT 的 74.21。 执行效率方面,论文称组合执行配置将整合步骤耗时从 398.7 秒降至 139.3 秒,相比串行执行观测到 2.86 倍加速。

AI 根据报道生成 · 50 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. arXiv cs.AI
    Turing LLM 后训练研究:校准蒸馏与高效 Dynamic-MoE 执行

    一篇 arXiv 论文提出针对动态路由 MoE 模型的后训练方法,结合校准多教师在线蒸馏(C-MOPD)与基于 PPU 的高效执行路径。Turing-20B-A2B 四领域归一化整合得分达 0.9988,每个领域保留至少 90.16% 的专家增益;在 8K 响应上限下四项数学与代码评测未加权均分 85.92,优于 Qwen3-8B 的 80.33 和 SFT 的 74.21。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。