TreeWY：免快照的GDN投机解码验证

一项 arXiv 研究提出 TreeWY，用门控 delta 规则的树结构 WY 变换，消除 Gated DeltaNet 混合模型投机解码中每个草稿位置的循环状态快照——每个草稿节点只需一次三角求解即可算出输出，仅在提交时重建被接受的那个状态，改存小型伪值矩阵。研究作者为 Sneha Murthy Ghantasala。 在该混合模型家族两个规模（Qwen3.5 35B 和 397B）的服务基准测试中，TreeWY 在接受长度基本不变的情况下降低了投机解码的循环状态内存和 KV 缓存压力。研究称这使更宽、更高接受率的草稿成为可能，但尚未带来吞吐量提升。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。