KOSMOS 自调度持久内核加速训练通信

论文作者发布 KOSMOS，一个自调度持久内核库：workgroup 通过按消费者需求排序的队列，在数据就绪时自行切换通信与计算角色，无需调度器、逐次代价模型或预设切分。 作者在 AMD Instinct MI350X 和 MI355X GPU 上评测，称 KOSMOS 将 Megatron-LM 中 TP+SP 端到端训练提速：BF16 下 1.10–1.28 倍，MXFP8 下 1.10–1.25 倍。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。