TRIAGE：缓存复用加剪枝加速VLA推理

Sooyoung Kwon 等研究者在 arXiv 发布论文，提出名为 TRIAGE 的视觉-语言-动作（VLA）模型推理加速方法。该方法无需训练，通过 token 的 drift（浅层 value 变化）判断缓存是否可复用，并将重计算、复用与剪枝三种策略结合使用。 论文称，TRIAGE 在平均成功率上与完全重计算相差不超过 3 个百分点，同时在 Jetson AGX Orin 上将 prefill 延迟最多降低 48%；在 LIBERO-Object 上仅重计算 7% 的视觉 token 时，比最强基线高出 24.4 个百分点。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。