研究追踪七开源 RL 训练框架:1,598 篇方法论文仅 37 篇被纳入
Taiheng Pan 的 arXiv 论文追踪七个开源 RL 后训练框架的提交历史,并关联 2025 年 1 月至 2026 年 6 月筛选的 6,939 篇 arXiv 论文。
Taiheng Pan 的 arXiv 论文追踪七个开源 RL 后训练框架的提交历史,并关联 2025 年 1 月至 2026 年 6 月筛选的 6,939 篇 arXiv 论文。
一项 arXiv 研究追踪了从 SFT、DPO 到强化学习各后训练阶段对模型匹配用户方言倾向的影响,发现 10 个开源模型系的后训练把回复统一为标准英语,且 DPO 更新偏好匹配英式/澳式拼写而非 AAE 和 Singlish。研究者提出校准顺应对(CAP)偏好数据,在完全开源模型上提升了对未见方言特征的匹配度,同时未增加标准英语用户的方言输出,也不损害指令遵循能力。
研究者推出 RoboCasa-Shift,一个基于 RoboCasa365 构建的诊断型鲁棒性基准,通过单因子扰动、配对干净-扰动 rollout 和基于仿真器的分阶段诊断,评估 VLA 策略在长程任务中的表现。
StyleStream 2.0 是一个快速可控的流式语音风格转换框架,已被 NeurIPS 2026 接收。通过 few-step pixel MeanFlow 模型并结合 Self Forcing 式自回归反馈微调,端到端延迟降至消费级 GPU 上的 520ms,较 StyleStream 1.0 提速 2 倍。
arXiv 论文(arXiv:2610.28698)通过 120 组持续预训练(CPT)配置,系统研究数据量、多样性与模型规模对虚拟世界具身智能体的作用,覆盖 0.8B 到 27B 四种模型规模、50 到 1,600 小时六档数据预算和五种数据混合。
场景文本编辑(STE)研究提出 TextRIRO,不依赖合成配对数据,而是通过对真实图像进行 Crop、Shuffle、Mask 等破坏操作构建自配对监督,基于条件扩散架构训练。
慕尼黑工业大学与 LMU Munich 团队提出 Bridged Self-Distillation(BSD),一个从任意提供推理轨迹的教师模型进行 on-policy 蒸馏的统一框架。
研究者提出 TRACE(多模态临床事件轨迹建模)框架,将 EHR 数据、胸片、放射报告和出院摘要按天级轨迹组织,用时间注意力编码并分离全局上下文与当日事件。在 MIMIC-IV、eICU 和 MIMIC-III 共近 180,000 次住院数据上,TRACE 在全部 9 个数据集-任务设置中取得最高 AUROC,其中 8 个取得最高 ACC,涵盖死亡率、住院时长和再入院预测任务。