研究理论分析时间序列基础模型中的轴向注意力

Pantea 与 Dieuleveut 在 arXiv 论文（2610.40188）中扩展了 Marion 等人（2025）提出的单位置回归框架，从理论上分析时间序列基础模型中广泛使用的轴向注意力机制。 论文构造了一个可解析的轴向注意力型预测器，证明其在渐近机制下可达到 Bayes 最优，而一类半线性简化则严格无法做到；同时证明投影梯度下降在特定温度缩放下全局收敛到最优参数。数值实验验证了理论结果，并凸显逆温度调度对经验收敛的关键作用。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。