Yann LeCun 转发 Mosh Levy:JEPA 世界模型如何选择保留哪些特征
RT Mosh Levy: 1/ JEPA selects which features its world model keeps. But how? Will it keep a feature it can't predict, like a traffic light? Judging ea...
AI 导读
Yann LeCun 转发 Mosh Levy 的推文串,讨论 JEPA 世界模型如何选择保留的特征,例如红绿灯这类无法预测的特征是否会被保留。此前研究认为模型不会保留无法单独预测的特征,该团队给出证据表明这一结论有误,并提出新的刻画方式解释原因。