研究者提出熵校准线性注意力模型ELinFormer

Mingtao Zhang 等研究者提出熵校准线性注意力模块，并将其实现为面向多变量时间序列预测的 ELinFormer 预测模型。该方法将信息聚合分解为均匀分量与查询相关修正，用查询特定温度校准二阶 KL 代理。 在五个 PEMS 基准上，ELinFormer 取得了有竞争力的预测精度，与 vanilla 注意力和 Linformer 相比在精度与内存之间取得更优权衡；论文称 PEMS08 上其有理温度规则和查询特定校准的 MAE 低于线性规则或共享温度方案。模型代码已公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。