arXiv cs.AI· Genshin Kakimoto, Atsushi Yanagisawa·· 1 天前AI 评分42
多模态基础模型在日文金融文档上的分阶段持续适配研究
Staged Continual Adaptation of Multimodal Foundation Models for Japanese Financial Documents
AI 导读
一项发表于 ICML 2026 持续适配研讨会的研究,对 8.4B 参数多模态模型在日文金融文档上进行了三阶段后训练追踪,并在五个文本输入基准上评测。结果显示各阶段相互作用呈非加性:仅数学的蒸馏会覆盖此前学到的金融知识但保留程序性数学技能,领域阶段修复多于新增;跳过阶段的消融虽最利于领域知识但损失数值推理收益,最佳 checkpoint 依赖任务而定。
来源:arXiv cs.AI · arxiv.org