arXiv cs.AI· Mosh Levy, Aly Lidayan, Yoav Goldberg·· 1 天前AI 评分39
预测闭包：从集合层面刻画 JEPA 的特征选择机制
Predictive Closure: A Set-Level Characterization of JEPA's Feature Selection
AI 导读
一篇 arXiv 论文提出“预测闭包”概念，从特征集合层面重新刻画 JEPA（联合嵌入预测架构）的特征选择。基于对 JEPA 训练目标的重新表述，该刻画表明特征选择取决于特征集合的属性：在特征独立演化时与已有结论一致，但预测即使像红绿灯这样不可预测的特征，只要有助于预测其他特征也可被保留。受控实验还显示，通过辅助目标或提供辅助信息可间接强化相关特征的表示。
来源：arXiv cs.AI · arxiv.org