研究者提出Select-TTT改进In-Place测试时训练
热点事件持续更新
研究者提出Select-TTT改进In-Place测试时训练
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Yue Wu 等研究者在 arXiv 论文(arXiv:2610.36794)中提出 Select-TTT,一种模型无关、查询条件化的规则,用于改进 In-Place 测试时训练(TTT)。该方法按各文本块与用户查询的相关性缩放快速权重的写入强度,相关性信号直接从模型冻结的输出头读取,无需监督、不新增参数。 提出该方法的动机是:In-Place TTT 在真实网页长上下文问答场景中收益会消失。论文称,Select-TTT 在两个基准和两个骨干模型上持续提升了长上下文问答表现。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
Select-TTT:基于查询条件的快速权重选择性更新改进 In-Place 测试时训练报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- arXiv cs.AISelect-TTT:基于查询条件的快速权重选择性更新改进 In-Place 测试时训练
研究者提出 Select-TTT,一种模型无关、查询条件化的规则,解决 In-Place TTT 在真实网页长上下文问答中收益消失的问题。该方法按各文本块与用户查询的相关性缩放写入强度,相关性信号直接从模型冻结的输出头读取,无需监督、无新增参数。Select-TTT 在两个基准和两个骨干模型上持续提升长上下文问答表现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。