WeGR:通过行为感知 Tokenization 与偏好对齐实现统一生成式检索
研究者提出统一生成式检索框架 WeGR,包含 CoCo-VAE 分词器和 DHPO 偏好对齐方法,前者在量化前注入协同信号并保持码本均衡利用,后者逐步扩展奖励评估范围以缓解奖励稀疏。在电商搜索平台为期六周的线上 A/B 测试中,订单相对提升 2.539%、CTR 提升 1.508%、CVR 提升 1.381%,CPU 和 GPU 用量分别降低 25.5% 和 26.1%。
研究者提出统一生成式检索框架 WeGR,包含 CoCo-VAE 分词器和 DHPO 偏好对齐方法,前者在量化前注入协同信号并保持码本均衡利用,后者逐步扩展奖励评估范围以缓解奖励稀疏。在电商搜索平台为期六周的线上 A/B 测试中,订单相对提升 2.539%、CTR 提升 1.508%、CVR 提升 1.381%,CPU 和 GPU 用量分别降低 25.5% 和 26.1%。
CRISP 是一种像素空间扩散解码器,包含骨干无关的 latent adapter、基于 DiT 的去噪器和支持掩码预测器,可在保持编码器与 latent 生成器不变的情况下替换 video-VAE 或 LiDAR 原生解码器,修复 LiDAR 潜在生成中的飞点问题。
arXiv 论文提出 Δ-MOPD,在多教师 on-policy 蒸馏(MOPD)中不再迁移教师的端点策略,而是迁移“教师减基座”的 logit 偏移并重新锚定在学生模型的冻结初始化上,以剔除教师从其基座模型继承的偏好。
论文提出 TAPDreamer,一种仅用公开编码器构造固定局部扰动、无需目标策略查询的攻击方法,可跨任务与动作架构迁移。仅覆盖约 6.5% 输入的冻结贴片使 FastWAM 在 40 个 LIBERO 任务上的成功率从 97.7% 降至 0.0%,在 50 个 RoboTwin 任务上从 90.86% 降至 0.0%,对 DreamWAM 和 Motus 也大幅降低成功率。
EDISCO 是首个针对欧氏组合优化问题(如 TSP 与 CVRP)的离散扩散模型,通过 E(2)-等变边评分网络与离散边变量上的连续时间马尔可夫链,实现对节点索引解的精确 E(2) 不变生成分布。
研究者提出 BridgeCast,一个基于条件 flow matching(CFM)的概率模型,用于将物理模型的海浪预报校正为再分析场。该模型采用 Transformer 架构进行时空建模,可纳入外生大气变量,并支持常微分方程和随机微分方程两种推理方式。实验表明其在不同区域和预报时效上均优于 SOTA 基线。
FERPO(Forward Entropy-Regularized Policy Optimization)是一种在策略最大熵强化学习算法,无需对 critic 求动作梯度即可实现策略改进,通过熵与 KL 散度正则的目标动作分布并用 forward-KL 结合 SNIS 拟合 actor。
研究者提出步进式风险敏感 GRPO(StepRS-GRPO),在扩散大语言模型(dLLM)的去噪状态间调整组优势变换的风险系数,且保留原有训练器。在多个 dLLM backbone 和数学推理基准上,该方法相较 centered GRPO 同时提升 pass@1 准确率与 pass@k 覆盖率,并增加答案多样性;消融实验中质量匹配对照与优势 RMS 对齐后增益依然成立。
一项研究提出基于 Transformer Autoencoder 的动作重定向方法,通过骨骼图的可学习展平构建拓扑与平移不变的潜在空间,无需配对数据即可全无监督训练。在零样本评估中,该方法将全局关节位置误差较现有基准降低 43-47%;37 人(含专家动画师)的用户研究显示其在动作对齐与物理合理性上排名最高(p < 0.05)。
论文提出训练-free 的模型组合方法 S³(Spectral Null-Space Swap):将 Non-thinking 模型保留在其主导子空间内、把 Thinking checkpoint 置于其外,从而提升推理效率。
论文提出 ROSS(Relearning from Self-Generated Rollouts through Selective Supervision),保留完整历史轨迹作为上下文,仅对选定的模型生成内容施加损失,实现从自生成 rollout 中再学习。
研究者提出 BreakingWeb,通过可控修改网站内容、服务器状态或渲染页面把已有任务变难,包含 7 个自托管网站上的 519 个任务对。六款浏览器智能体在干预下平均下降 22.9 个百分点,人类仅降 10.0 点;智能体 75% 的失败是信念失败,即在未完成所需改动时宣布任务完成。
一篇入选 NeurIPS 2026 JUDGe workshop 的论文分析 LLM 裁判奖励被压成 0/1 二值后的盲区:通过/不通过判定允许任意仿射拉伸而不改变任何判定结果。
UMM-Reflection 方法在统一多模态模型内部对完整反思轨迹施加强化学习,让反思文本与图像生成联合优化,无需推理时的外部验证器。在 BAGEL 上,该方法的 GenEval 得分比 SFT 提升 12.05 点,并在未参与训练的 WISE(+10.97)、OneIG-Bench(+3.48)和 T2I-CompBench++(+4.63)上实现迁移增益。
研究者推出 OPIS,一个以初始观测中的固定目标实例为锚点的输入锚定基准,用于评估视频世界模型的多目标记忆能力。数据集包含 500 个案例,覆盖真实世界、具身机器人和游戏世界领域,为 12,672 个刚体、铰接和可形变实例提供密集目标级标注。
论文提出 EMERGE(Equivariant Multi-scale GNN for Resolution-agnostic point cloud GEneration),首个完全 SE(3) 等变的图结构扩散骨干网络,用于点云生成。
一篇 arXiv 论文研究了动态通信网络上有限正则形式博弈中去中心化的社会最优均衡学习:各智能体仅观测自身收益、不预知博弈,只能与时变邻居交换低带宽消息。方法让智能体从局部收益比较生成语义内容/不满信号,并交换带时间戳的表而非原始动作或收益信息,结合表融合与时序多数重构,在功利主义和比例公平社会福利目标下获得有限时间对数遗憾保证。仿真显示该方法能在动态通信网络上有效选出社会理想均衡。
一项 arXiv 实证研究提出表征敏感性优先化(RSP)方法,用于医学问答数据选择:在预算 $B=128$、基座模型 google/medgemma-4b-it 的 LoRA 微调中,先筛出 top-$4B$ 预测熵样本,再结合答案翻转频率与 margin 收缩打分。
arXiv 论文(被 EMNLP 2026 Findings 接收)通过控制实验发现,预训练中的“辅助视图”,即对知识的概念化改写,是大语言模型学习知识的关键。
一项基于 400 个 BigCodeBench 问题构建 AST 级受控损坏评测框架的研究,衡量 LLM 修复代码时的“过度编辑”倾向。
arXiv 论文提出一套基于数据对称性的理论,用于从非 IID 数据中识别复杂因果查询。该框架以保持因果机制不变的对称性作为统计重复的来源,把识别任务分解为提取、计算和查询表达三步,并统一描述机制与干预。它在 IID 数据上复现标准结果,还能处理 do-干预或 soft-干预之外的复杂因果查询。
一项 NeurIPS 2026 NewInML Workshop 接收的预注册审计研究以闭式推导证明:当评分量表有界时,两回答共同经历的严重度偏移会因量表上下界衰减不均而伪造成差异中的差异交互效应。
论文提出 DA-WAM,一种决策对齐的世界动作模型,将 JEPA 架构与候选轨迹评分耦合,让驾驶世界模型预测与决策相关的未来而非重建场景细节。其动作条件预测器为每条候选轨迹生成未来隐变量,多头轨迹评分器据此估计规划因素与效用,并通过安全关键后训练提升对几何相似但安全性不同轨迹的区分。
研究提出 C+Mag,一种幅度信息驱动的物理引导深度学习 MRI 重建方法,用于加速稳态动态 MRI 重建,发现 k 空间幅度在时间帧间具有强一致性。方法采用基于 ADMM 的展开框架,引入二次平滑优化与动量更新以处理幅度约束的不可微与非凸性。
一项 arXiv 研究测试与大语言模型对话能否降低公众对正在发酵的阴谋论的信念。在美国 2024 年 7 月特朗普遇刺未遂和 2025 年 9 月 Charlie Kirk 遇刺事件后的实验中,N = 472 和 N = 1042 两批持有阴谋观点的美国成年人接受 LLM 多轮对话干预,与对照组(LLM 聊无关话题或看静态事实清单)相比,阴谋信念显著降低。
一篇 arXiv 论文提出 DECODEM 基准,用于评测大语言模型能否从美国上市公司章程和细则中提取公司治理变量,数据来自 SEC 的 EDGAR 数据库并配有人工标注标签。结果显示,当前模型能以较高准确率提取多数治理变量,但对章程的提取准确率低于细则;各前沿模型表现相当,更复杂的提取流程并不能持续提升性能,但对效率导向模型可显著缩小与前沿模型的差距。
DiffEEG 是一个 9.6M 参数的自监督基础模型,通过去噪扩散预训练与基于强化学习的微调,解决 EEG 癫痫检测中标注稀缺和类别极不平衡问题。模型在 TUHSZ 的 1.3M 无标注片段上预训练,采用策略梯度优化直接最大化 F1 分数。在 279 名患者的严格患者独立评估下,4 类癫痫分型达到 61% 准确率和 59% F1,二分类检测达到 81% 准确率与 85% 加权 F1。
一项研究提出在仅有合成语音可用时,用强化学习方法 GRPO 适配基于大语言模型的 ASR,效果优于监督微调(SFT):仅用合成语音的 GRPO 适配将 WER 相对降低 40%(36.71% 降至 22.09%),先 SFT 再 GRPO 可进一步提升至 45%。
一项研究提出用小型开源语言模型隐藏状态上的多标签逻辑回归探针,替换 Multi-Meta-RAG 中依赖 GPT-3.5 API 的新闻源元数据提取器。
arXiv 一项研究用多层模型比较 GitHub 上 AI 编程智能体与人类的 pull request,发现约五分之二的智能体 PR 处理时长差异来自仓库之间;在 280 个仓库中,智能体 PR 的仓库间方差是人类的 1.76 倍(95% CI 1.41–2.18)。
Yuvion VL 是一系列专为内容与 AI 安全构建的多模态大语言模型,提供指令微调与推理导向两种变体。其训练采用三阶段流程(风险概念跨模态对齐的继续预训练、生产级安全任务的指令后训练、推理后训练),并提出 Confuse-then-Contrast 微调框架和 Yuvion VL RiskEval(YVRE)评测基准。
KITE(Kinematic Interaction Transfer across Embodiments)方法将操作策略解耦为与本体无关的交互预测和针对特定本体的运动学解码,通过基于接触模式的交互意图表示连接两者。
一项针对内存受限 LLM 推理服务的研究建立了离散时间动力学模型,分析连续批处理下的请求准入、key-value cache 内存增长与驱逐机制。研究表明同质负载下无驱逐均衡不稳定,系统收敛到最坏极限环,吞吐量损失可高达 50%;而异质负载中互质的解码长度可稳定无驱逐均衡。论文据此推导了维持高吞吐的调度设计原则,v3 新增 GPU 基准实验附录。
一篇入选 CoRL 2026 的论文提出 flow control 方法,通过键盘等通用输入实时引导视觉-语言-动作(VLA)模型,无需重训练或微调。方法将用户输入写入 VLA 的 flow matching 动作专家的初始条件,兼顾高保真与高一致性,可开箱即用。实验显示该方法能提升任务成功率并加快完成速度,且在 flow control 轨迹上微调还可改进自主策略。
一篇 arXiv 论文提出规范上下文在线蒸馏方法 CCOPD,用同一基座模型分别扮演冻结教师和可训练学生,缓解大语言模型在信息分多轮给出时因自锚定漂移而偏离答案的问题。仅在数学对话上训练后,CCOPD 在 RAW-SHARDED 场景下相对基座模型平均提升 32%,且基本保持完整上下文性能,在五个零样本域外任务家族上同样有效。
一项 arXiv 研究(arXiv:2605.29458)测试一小时 LLM 自适应访谈能否预测个人的价值相关决策,46 名成人访谈后回答 25 道两难题作为真值。
推荐理由:论文用 46 人访谈实验与审计说明一小时访谈能还原特质却预测不了价值决策,为 persona agent 的边界给出实证依据。
NVIDIA 团队发表 arXiv 论文(arXiv:2605.21187),介绍 Spectrum-X Ethernet 的多平面架构,用拓扑并行取代层级深度,并在 NIC 和交换机中引入硬件加速负载均衡,以微秒级响应动态网络状况。
论文提出 Diffusion-Adaptive Routing(DAR),一种可学习的、时间步自适应的非增量残差替换,用于改进 Diffusion Transformer 的跨层信息路由。
DEFLECT 是一个离线后训练框架,利用训练数据中的执行时刻观测构建时序反事实对比,对基于陈旧输入动作的策略进行偏好监督,解决异步推理中预测时刻与执行时刻状态错位问题。在 Kinetix、LIBERO 和三个真实机器人任务上,最长支持延迟下相比 VLASH 在 Kinetix 提升 4.2 个百分点成功率,相比朴素异步执行的 GR00T N1.7 在 LIBERO 提升 22.7 个百分点。
提出 DiDi-Merging,通过可微秩选择和数据无关的参数空间精炼,在共享与专家参数间联合分配低秩容量。在八任务 ViT-B/32 基准上,小配置以单主干 1.24 倍存储达到 89.3% 平均准确率(98.7% 归一化保留率),中配置 1.4 倍存储达 89.8%;去除精炼会使中配置下降 4.3 个百分点。该方法已被 NeurIPS 2026 接收,代码已开源。