Randall Balestriero:Platonic Representation Hypothesis 被证明为定理,109M JEPA-Text 对齐视觉模型胜过 72B LLM
RT Randall Balestriero: The Platonic Representation Hypothesis is now a Theorem ◼️ Train JEPAs separately, on any modalities: they provably learn th...
AI 导读
Yann LeCun 转发 Randall Balestriero 的成果:Platonic Representation Hypothesis 已成为定理——在不同模态上分别训练的 JEPA 可证明学到仅差一个旋转的相同表示。团队训练的 109M JEPA-Text 模型与视觉模型的对齐程度超过 72B LLM。