截断还是不截断？Looped Transformer 截断反向传播的 Scaling 研究
一项系统性研究通过近 600 次训练运行，联合变化模型规模、训练 token 数和前向/反向循环次数，拟合出刻画 Looped Transformer 中 BPTT 截断影响的统一 scaling law。
更新
收录归档 · 第 17 页
Hugging Face Daily PapersAI 评分3737 Hugging Face Daily PapersAI 评分4242 校准顺应对（CAP）：让聊天模型回应时匹配用户方言变体的后训练方法
一项 arXiv 研究追踪了从 SFT、DPO 到强化学习各后训练阶段对模型匹配用户方言倾向的影响，发现 10 个开源模型系的后训练把回复统一为标准英语，且 DPO 更新偏好匹配英式/澳式拼写而非 AAE 和 Singlish。研究者提出校准顺应对（CAP）偏好数据，在完全开源模型上提升了对未见方言特征的匹配度，同时未增加标准英语用户的方言输出，也不损害指令遵循能力。
Hugging Face Daily PapersAI 评分3131 DeCert：生成式奖励模型的决策证书监督方法（arXiv 论文）
一项 arXiv 论文提出 DeCert 框架，无需参考解释即可评估生成式奖励模型（GenRM）生成理由的有效性与判定一致性，并将其转化为兼顾判定正确性和理由质量的偏好监督。在两个模型家族和多个分布内外 benchmark 上，DeCert 持续超越强生成式裁判基线并提升理由质量，还将位置一致准确率最高提升 14.8 点，有效缓解位置偏差。
Hugging Face Daily PapersAI 评分3838 RoboCasa-Shift：面向长程家庭操作任务的分阶段 VLA 鲁棒性评测基准
研究者推出 RoboCasa-Shift，一个基于 RoboCasa365 构建的诊断型鲁棒性基准，通过单因子扰动、配对干净-扰动 rollout 和基于仿真器的分阶段诊断，评估 VLA 策略在长程任务中的表现。
Hugging Face Daily PapersAI 评分3737 StyleStream 2.0：快速可控的流式语音风格转换
StyleStream 2.0 是一个快速可控的流式语音风格转换框架，已被 NeurIPS 2026 接收。通过 few-step pixel MeanFlow 模型并结合 Self Forcing 式自回归反馈微调，端到端延迟降至消费级 GPU 上的 520ms，较 StyleStream 1.0 提速 2 倍。
Hugging Face Daily PapersAI 评分5151 虚拟世界具身智能体持续预训练研究：120 组配置揭示数据量、多样性与模型规模的扩展规律
arXiv 论文（arXiv:2610.28698）通过 120 组持续预训练（CPT）配置，系统研究数据量、多样性与模型规模对虚拟世界具身智能体的作用，覆盖 0.8B 到 27B 四种模型规模、50 到 1,600 小时六档数据预算和五种数据混合。
Hugging Face Daily PapersAI 评分3535 Real In, Real Out：只用真实数据做场景文本编辑的 TextRIRO 方法
场景文本编辑（STE）研究提出 TextRIRO，不依赖合成配对数据，而是通过对真实图像进行 Crop、Shuffle、Mask 等破坏操作构建自配对监督，基于条件扩散架构训练。
Hugging Face Daily PapersAI 评分3636 桥接自蒸馏（BSD）：面向 on-policy 学习的统一蒸馏框架
慕尼黑工业大学与 LMU Munich 团队提出 Bridged Self-Distillation（BSD），一个从任意提供推理轨迹的教师模型进行 on-policy 蒸馏的统一框架。
Hugging Face Daily PapersAI 评分3636 TRACE：用多模态临床轨迹建模进行住院风险预测
研究者提出 TRACE（多模态临床事件轨迹建模）框架，将 EHR 数据、胸片、放射报告和出院摘要按天级轨迹组织，用时间注意力编码并分离全局上下文与当日事件。在 MIMIC-IV、eICU 和 MIMIC-III 共近 180,000 次住院数据上，TRACE 在全部 9 个数据集-任务设置中取得最高 AUROC，其中 8 个取得最高 ACC，涵盖死亡率、住院时长和再入院预测任务。