arXiv cs.AI· Ziran Li, Qiang Wang, Zhengyu Chen, Shanglin Lei, Borun Chen, Jingang Wang, Xunliang Cai·· 2 小时前AI 评分52
VLM 能力迁移缩放律:从 LLM 文本能力预测多模态表现
What Transfers from Text to Vision? Capability Scaling Laws and Transfer Dynamics for VLMs
AI 导读
论文提出 Capability-Driven Multimodal Scaling Law,首个从可观测文本能力直接预测 VLM 基准准确率的跨家族框架。团队在 7 个模型家族的 34 个 LLM 上训练超过 150 个 VLM,基于 200 多个文本与 50 个多模态基准验证:该律可将 8B 以下模型测得的迁移率外推至 72B 级基座并预测完整训练轨迹。
来源:arXiv cs.AI · arxiv.org