AMD团队开源ALTO训练配方:MXFP4训练GPT-OSS-20B逼近BF16
热点事件持续更新
AMD团队开源ALTO训练配方:MXFP4训练GPT-OSS-20B逼近BF16
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AMD 团队的 Han Wang 等作者发布论文与开源训练配方 ALTO,在 MLPerf Small MoE Training 基准上以 MXFP4 微缩格式训练 200 亿参数的 MoE 模型 GPT-OSS-20B,将最终损失与 BF16 基线的差距缩至 0.007,表明低精度格式可接近 BF16 的训练效果。 需要说明的是,该结果基于在 AMD MI300 硬件上模拟的 MXFP4 内核完成,尚未优化实际运行速度,速度收益仍待验证。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 12:00
ALTO 开源 MXFP4 训练配方将 GPT-OSS-20B 与 BF16 基线差距缩至 0.007报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv cs.AIALTO 开源 MXFP4 训练配方将 GPT-OSS-20B 与 BF16 基线差距缩至 0.007
AMD 团队发布 ALTO 开源训练配方,在 MLPerf Small MoE Training 基准上以 MXFP4 格式训练 GPT-OSS-20B 这款 20B 参数 MoE 模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。