arXiv 论文把实体标架自由视为对称性,推导注意力约束并实验验证
热点事件持续更新
arXiv 论文把实体标架自由视为对称性,推导注意力约束并实验验证
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Aakash Sarkar 等在 arXiv 论文(arXiv:2610.34945)中把逐实体坐标系的自由视为一种对称性,推导它在注意力机制中强制出现的结构:不变打分只依赖范数与平行输运内积,等变消息落在 x_i 与 T_ij x_j 张成的空间中,标准注意力则是共享标架下的平坦特例。 论文实验显示:在最小宽度下 17/17 个 fitting seeds 通过了长度 1000 以内的测试,而宽度翻倍时仅 7/18 通过;在解析版 CLUTRR 上,输运组合在 4–10 跳任务上比同规模 transformer 高 41 分,但强制等距性反而损失 65 分;在 StepGame 的可交换代数任务上,等距性则有帮助。
AI 根据报道生成 · 38 分钟前更新
最新进展10月27日 12:00
关系组合作为平行输运:逐实体标架对注意力机制施加了什么约束报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AI关系组合作为平行输运:逐实体标架对注意力机制施加了什么约束
一篇 arXiv 论文(arXiv:2610.34945)把逐实体坐标系的自由视为一种对称性,推导它在注意力中强制出现的结构:不变打分只依赖范数与输运内积,等变消息落在 x_i 与 T_ij x_j 张成的空间中,标准注意力则是共享标架的平坦分支。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。