RealMe:从稀疏采集生成沉浸式体积视频
RealMe 是一个基于高分辨率视频扩散模型的统一框架,可将稀疏低分辨率采集视频增强为 2K 分辨率、4D 一致的视频,用于体积视频重建。该方法采用分解式时空注意力与布局感知位置编码,并引入潜空间频率损失缩小生成与真实采集的差距。在 DNA-Rendering 基准和自建 RealVV 数据集上,其视觉保真度与 4D 一致性超越现有最优方法,论文将发表于 SIGGRAPH Asia 2026。
RealMe 是一个基于高分辨率视频扩散模型的统一框架,可将稀疏低分辨率采集视频增强为 2K 分辨率、4D 一致的视频,用于体积视频重建。该方法采用分解式时空注意力与布局感知位置编码,并引入潜空间频率损失缩小生成与真实采集的差距。在 DNA-Rendering 基准和自建 RealVV 数据集上,其视觉保真度与 4D 一致性超越现有最优方法,论文将发表于 SIGGRAPH Asia 2026。
研究者提出 PAPAV 统一能力框架,将多模态具身智能体(MMEAs)的核心功能归纳为感知状态、预判动作效果、规划可行路径、通过接口或身体执行、验证结果五项。分析 64 个 benchmark 发现,评测集中在 Act,仅 5 个评估 Anticipate、3 个评估 Verify。该框架为设计可靠物理智能体、超越单纯任务成功率衡量进展提供了共同基础。
研究者提出预训练视觉状态编码器 ALPS,将物理状态信息、语言对齐和像素重建统一在同一组 patch token 中。仅用静态图像与文本从零预训练 ViT-B/16,并通过跨视角自蒸馏精调。
研究者提出 HRoPE(Homography Relative Positional Encoding),一种面向多视图 transformer 的表面感知位置编码。
来自 UCSB、斯坦福等多家机构的研究者联合提出多模态 Agent 记忆评测基准 WorldMemArena,论文已被 NeurIPS 2026 接收。基准包含 400 项以上多会话任务、24,258 组问答和 15,595 张图像,通过观察、行动与环境反馈的循环,把长期记忆拆成写入、维护、检索、使用四个可诊断环节。
研究者提出多模态条件潜在扩散模型 MC-LDM,用于预测阿尔茨海默病进展中的脑部 MRI 变化。该模型训练时融合 MRI、tau-PET、CDR 和 APOE4 多模态信息,推理时仅需基线 MRI、APOE4 和患者元数据;基于 ADNI 852 名受试者的 1,355 次访视训练,在 664 次访视的独立测试集上较次优基线降低 18% 的区域体积 MAE。
arXiv 论文提出 Stable Signer V3,一个基于 4D Deformable Primitive Splatting 的交互式高分辨率手语虚拟人系统。
论文提出 avatar referring segmentation 任务,并给出免训练框架 HumanSkill-4D,通过共享多模态大语言模型(MLLM)与几何算子,从语言查询中选取可动画高斯化身的区域及匹配姿态或运动的时间区间。
CRISP 是一种像素空间扩散解码器,包含骨干无关的 latent adapter、基于 DiT 的去噪器和支持掩码预测器,可在保持编码器与 latent 生成器不变的情况下替换 video-VAE 或 LiDAR 原生解码器,修复 LiDAR 潜在生成中的飞点问题。
UMM-Reflection 方法在统一多模态模型内部对完整反思轨迹施加强化学习,让反思文本与图像生成联合优化,无需推理时的外部验证器。在 BAGEL 上,该方法的 GenEval 得分比 SFT 提升 12.05 点,并在未参与训练的 WISE(+10.97)、OneIG-Bench(+3.48)和 T2I-CompBench++(+4.63)上实现迁移增益。
研究者推出 OPIS,一个以初始观测中的固定目标实例为锚点的输入锚定基准,用于评估视频世界模型的多目标记忆能力。数据集包含 500 个案例,覆盖真实世界、具身机器人和游戏世界领域,为 12,672 个刚体、铰接和可形变实例提供密集目标级标注。
论文提出 EMERGE(Equivariant Multi-scale GNN for Resolution-agnostic point cloud GEneration),首个完全 SE(3) 等变的图结构扩散骨干网络,用于点云生成。
Yuvion VL 是一系列专为内容与 AI 安全构建的多模态大语言模型,提供指令微调与推理导向两种变体。其训练采用三阶段流程(风险概念跨模态对齐的继续预训练、生产级安全任务的指令后训练、推理后训练),并提出 Confuse-then-Contrast 微调框架和 Yuvion VL RiskEval(YVRE)评测基准。
研究者推出诊断数据集 CounterCount,用包含非典型计数的反事实图像(如四耳兔子)测试 16 个 VLM 的属性计数能力。人类两类图像准确率达 98.9% 和 97.5%,而 16 个模型(14 个开源、2 个闭源)在事实图像上平均准确率 91.6%,反事实图像降至 49.5%,多数错误与常识计数一致,暴露知识先验偏见。
DRAPE 是一种面向多模态持续指令调优(MCIT)的提示学习框架,通过从文本指令派生提示查询并交叉注意力视觉 patch 特征,为每个查询-图像对合成实例级连续软提示,替代从固定提示池中选择。
研究者提出 LLaVA-CKD,一种自底向上级联知识蒸馏(CKD)框架,通过引入中等容量的中间教师逐步缩小师生容量差距,提升从大模型向小模型的知识迁移效果,并给出理论分析。该方法基于 LLaVA 架构构建模型,在七个公开 VQA 基准上评测,性能与近期紧凑型 VLM 相当。级联蒸馏源代码和训练好的模型已开源。
一项 arXiv 研究发现,VLM 并非无法识别有害意图,而是视觉模态使表示向特定越狱状态偏移,导致拒绝机制失效。研究定义了沿越狱方向的越狱相关表示偏移(jailbreak-related shift)来量化这一转变,可统一解释多种越狱场景。据此提出的推理时防御方法 JRS-Rem 在多个场景下提供强防御,同时保持良性任务性能,代码已开源。
一篇 arXiv 综述梳理了多模态生成模型(MGMs)的六类文本条件生成模态,涵盖图像、音乐、视频、人体运动和 3D 物体,并考察 self-supervised learning、mixture of experts、RLHF 和 chain-of-thought prompting 四种技术在不同模态中的应用。
Thinker 团队(Ubtech)发布统一多模态世界模型 Thinker-WM,通过共享中间 Unified Dynamics Transformer 联合建模与生成 RGB、度量深度和机器人动作。
研究者推出 MultiWorldBench,一个基于 Minecraft 的多人世界模型诊断基准,包含 495 个案例配置、七大任务套件和十项能力。以 Engine GT 为参照,Gamma-World 十项能力平均分最高(21.39),Solaris(MP)为 20.88,Solaris(SP)为 10.06,而 Engine GT 达 91.69。
研究者在 Qwen3.5-VL-27B 基础上,用约 52k 多模态样本(CAD 视觉问答、text2cadquery 参数化与装配级 CAD 代码、Inventor/SolidWorks 的 COM 子语料)经统一多任务 SFT 训练出 IndustryForge-27B。
论文提出 PTD-PO(Privileged Tutoring Distillation Policy Optimization),一种面向 LVLM 的 RLVR 训练框架,在不向学生策略暴露答案的前提下提供密集监督。
研究者推出 MindView 基准,用于评测生成式多视角空间智能,包含来自 513 个场景的 1,500 个样本,涵盖几何主导与语义主导两类共 7 项任务。对 11 个生成模型的评测显示其提升空间较大,微调 BAGEL 后总分提高 24.3 分,且在三个空间理解基准上也有提升。团队还提出免训练的空间证据选择器 MindCue,可逆转扩展上下文下的得分下降并超过标准上下文基线。
arXiv 论文提出 DISTRACT 基准,通过四类文本先验与四级图像退化的交叉干预,评测五个视觉语言跟踪器(VLT)中文本是否真正改变跟踪决策。Molmo2 和 JointNLT 表现出有方向的文本利用,且在决策临近状态可解码正确与冲突文本;UVLTrack、MMTrack 和 DUTrack 对文本语义变化仅弱响应,无行为效应通过 FDR 校正。
研究者推出通用代码式视频生成基准 Code2Video-Compass,覆盖文本到视频(T2V)、图像到视频(I2V)和视频到视频(V2V)三类设定。基准包含 2,104 个任务,横跨 10 个类别、24 个子类型和三个复杂度维度,并采用 12 项客观指标与 5 项主观指标的双层评测框架。
VisualEvolve 是一个让视觉语言模型(VLM)通过 Select--Execute--Evolve--Evaluate 循环自进化视觉操作与工具使用技能的框架,无需更新模型参数。
研究者推出 CountVideoBench,包含 2,600 段合成视频、覆盖 [5, 50] 区间 26 个基数(各 100 段),用于诊断视频语言模型的物体计数偏差。
研究者提出 RayCo4D,一种用于单目 4D 动态重建的射线条件连续运动模型,将视觉测量与潜在 3D 运动状态显式分离。该方法通过白噪声加速度过程先验实现连续时间插值,并借助双四元数混合将共享运动传递到高斯基元。实验显示其在快速运动与不完整轨迹下提升了结构与时间一致性,支持连续时间渲染,新视角合成质量具有竞争力。
研究者提出门控知识引导原型迁移方法 GProtoT,作为免训练求解器 SS-Text+ 的前置斥力模块,利用 VLM 相似度与基于本体的临床距离,将已支持类别的视觉残差迁移到无标注支持样本的低流行类别。
研究者提出 ABACUS,一个针对指令式图像编辑模型数值编辑能力的基准,用于评估模型在保持场景不变的前提下增、删或改变指定数量对象的能力。该协议无需 VLM 打分,基于 panoptic 真值和检测器共识在实例级验证编辑结果。对主流图像编辑模型的评测显示,数值编辑失败随场景复杂度和对象数量增加而显著加剧。
arXiv 论文提出 VGL-stGen,一个从预训练医学视觉-语言模型适配而来的多模态大语言模型,使用配对的肺 H&E 病理图像与空间转录组学数据及单细胞参考进行训练。单一部署检查点支持 13 项评测任务,涵盖组织与细胞类型分类、基因预测及基于病理、细胞身份和观测表达的条件表达补全。实验表明正确配对的病理图像能提供超越观测表达之外的信息。
研究者提出 PI-MLLM,一种心理物理学启发的多模态大语言模型,用于 Oddly Satisfying(解压向)视频情感分析(OSVEA),并构建了含 12,000 条标注 5 秒片段的 OSVD 数据集。
该研究提出面向南非食品包装照片 R3337 草案标准的区域引导证据提取与弃权式筛查流程,先用三类检测器定位营养成分表、配料表和产品标识区域,再以 PaddleOCR 和结构化提取恢复证据并按确定性规则判定,证据不全时弃权。
一项 arXiv 研究测试八种模型在六种语言、最多 105 个道德情境上的 110 万条回答,考察不同引答与读答方式何时测得相同判断、何时测得答题习惯。结果显示 token 读法与句子读法的画像中位相关性仅 r = 0.67,而句子读法与自由句读法一致性达 0.94;去除语言共识后,48 个模型-语言组合中有 39 个在命题标签下最接近自身跨语言的画像。
一项 arXiv 研究提出基于可解释性的框架,在 CUB-200 数据集上直接对比仅分类与描述生成两种监督训练得到的编码器表征。使用 attention rollout 与 gradient-weighted rollout 生成显著性图,并用涵盖忠实性与定位的五项指标评估。
RLSplat 是一种资源线性的预算可控前馈 3D Gaussian Splatting(FF3DGS)框架,使表示大小、推理延迟和峰值内存随 Gaussian 预算减少而线性下降。
研究者提出 AudiPsy,一个面向口语咨询对话抑郁评估的证据驱动 omni-LLM。其采用 Observation-Assessment-Summary(OAS)范式,整合对话转录、文本与声学情绪及情绪不一致性进行结构化推理,并构建了带多模态上下文增强的合成语料库 AudiPsy-Counsel 与三阶段课程训练。
研究者提出 AnomalyJev,一个轻量级框架,通过从多模态 LLM 生成的图像异常解释中提取可验证声明并与真值标注比对,来评估其忠实性与完整性,无需生成 token。
arXiv 论文提出 Less-is-More CIR,一个免训练的两阶段零样本组合图像检索(ZS-CIR)框架,结合简洁检索与 Critic 重排序。第一阶段只保留最具判别力的修改语义生成简洁目标描述,减少语义噪声;第二阶段从修改一致性和参考图保留度两个角度对候选图像重排序。实验验证了该框架的有效性与鲁棒性,代码已开源。
一篇 arXiv 论文提出无监督预训练视觉-语言模型(PVLM)适配框架,结合基于预测边际的渐进子集选择与级联一致性学习:先用类平衡的可靠伪标签锚点起步,再用弱增强视图的时间平滑教师预测监督强增强视图的学生预测,并做置信度过滤。