Yuvion VL:面向对抗性内容与 AI 安全的多模态基础模型
Yuvion VL 是一系列专为内容与 AI 安全构建的多模态大语言模型,提供指令微调与推理导向两种变体。其训练采用三阶段流程(风险概念跨模态对齐的继续预训练、生产级安全任务的指令后训练、推理后训练),并提出 Confuse-then-Contrast 微调框架和 Yuvion VL RiskEval(YVRE)评测基准。
Yuvion VL 是一系列专为内容与 AI 安全构建的多模态大语言模型,提供指令微调与推理导向两种变体。其训练采用三阶段流程(风险概念跨模态对齐的继续预训练、生产级安全任务的指令后训练、推理后训练),并提出 Confuse-then-Contrast 微调框架和 Yuvion VL RiskEval(YVRE)评测基准。
KITE(Kinematic Interaction Transfer across Embodiments)方法将操作策略解耦为与本体无关的交互预测和针对特定本体的运动学解码,通过基于接触模式的交互意图表示连接两者。
一项针对内存受限 LLM 推理服务的研究建立了离散时间动力学模型,分析连续批处理下的请求准入、key-value cache 内存增长与驱逐机制。研究表明同质负载下无驱逐均衡不稳定,系统收敛到最坏极限环,吞吐量损失可高达 50%;而异质负载中互质的解码长度可稳定无驱逐均衡。论文据此推导了维持高吞吐的调度设计原则,v3 新增 GPU 基准实验附录。
一篇入选 CoRL 2026 的论文提出 flow control 方法,通过键盘等通用输入实时引导视觉-语言-动作(VLA)模型,无需重训练或微调。方法将用户输入写入 VLA 的 flow matching 动作专家的初始条件,兼顾高保真与高一致性,可开箱即用。实验显示该方法能提升任务成功率并加快完成速度,且在 flow control 轨迹上微调还可改进自主策略。
一篇 arXiv 论文提出规范上下文在线蒸馏方法 CCOPD,用同一基座模型分别扮演冻结教师和可训练学生,缓解大语言模型在信息分多轮给出时因自锚定漂移而偏离答案的问题。仅在数学对话上训练后,CCOPD 在 RAW-SHARDED 场景下相对基座模型平均提升 32%,且基本保持完整上下文性能,在五个零样本域外任务家族上同样有效。
一项 arXiv 研究(arXiv:2605.29458)测试一小时 LLM 自适应访谈能否预测个人的价值相关决策,46 名成人访谈后回答 25 道两难题作为真值。
推荐理由:论文用 46 人访谈实验与审计说明一小时访谈能还原特质却预测不了价值决策,为 persona agent 的边界给出实证依据。
NVIDIA 团队发表 arXiv 论文(arXiv:2605.21187),介绍 Spectrum-X Ethernet 的多平面架构,用拓扑并行取代层级深度,并在 NIC 和交换机中引入硬件加速负载均衡,以微秒级响应动态网络状况。
论文提出 Diffusion-Adaptive Routing(DAR),一种可学习的、时间步自适应的非增量残差替换,用于改进 Diffusion Transformer 的跨层信息路由。
DEFLECT 是一个离线后训练框架,利用训练数据中的执行时刻观测构建时序反事实对比,对基于陈旧输入动作的策略进行偏好监督,解决异步推理中预测时刻与执行时刻状态错位问题。在 Kinetix、LIBERO 和三个真实机器人任务上,最长支持延迟下相比 VLASH 在 Kinetix 提升 4.2 个百分点成功率,相比朴素异步执行的 GR00T N1.7 在 LIBERO 提升 22.7 个百分点。
提出 DiDi-Merging,通过可微秩选择和数据无关的参数空间精炼,在共享与专家参数间联合分配低秩容量。在八任务 ViT-B/32 基准上,小配置以单主干 1.24 倍存储达到 89.3% 平均准确率(98.7% 归一化保留率),中配置 1.4 倍存储达 89.8%;去除精炼会使中配置下降 4.3 个百分点。该方法已被 NeurIPS 2026 接收,代码已开源。
研究者推出诊断数据集 CounterCount,用包含非典型计数的反事实图像(如四耳兔子)测试 16 个 VLM 的属性计数能力。人类两类图像准确率达 98.9% 和 97.5%,而 16 个模型(14 个开源、2 个闭源)在事实图像上平均准确率 91.6%,反事实图像降至 49.5%,多数错误与常识计数一致,暴露知识先验偏见。
DRAPE 是一种面向多模态持续指令调优(MCIT)的提示学习框架,通过从文本指令派生提示查询并交叉注意力视觉 patch 特征,为每个查询-图像对合成实例级连续软提示,替代从固定提示池中选择。
研究者提出 LLaVA-CKD,一种自底向上级联知识蒸馏(CKD)框架,通过引入中等容量的中间教师逐步缩小师生容量差距,提升从大模型向小模型的知识迁移效果,并给出理论分析。该方法基于 LLaVA 架构构建模型,在七个公开 VQA 基准上评测,性能与近期紧凑型 VLM 相当。级联蒸馏源代码和训练好的模型已开源。
一项被 IEEE SLT 2026 接收的研究提出 Abstract Compression 方法,为基于 LLM 的语音识别(ASR)压缩历史对话音频上下文。研究发现多轮监督训练后,对话上下文主要提升上下文实体的识别,但原始音频嵌入随对话长度快速增长。该方法用固定数量的潜在 token 替代先前每轮音频、同时显式保留转写文本,在域内和域外测试集上以更小的音频开销恢复了部分原始上下文条件的收益。
一项针对北京小时级 PM2.5 预测的研究比较了 SARIMAX、Facebook Prophet 和 NeuralProphet 三类轻量可解释模型,测试每周滚动重训练与冻结模型加在线残差修正两种自适应模式。
arXiv 论文以中文背景大语言模型的政治审查为自然实验,覆盖五个实验室的九个开源权重模型,提出对齐关键发生在概念检测到行为策略的路由层。研究发现探针准确率本身不具诊断性,消融政治敏感方向可在多数模型中消除审查并恢复事实输出但跨模型迁移失败;同一模型家族内硬拒绝降为零而叙事引导升至最大,使仅测拒绝的基准看不到审查。
推荐理由:论文用探针、消融和行为测试说明对齐发生在检测到行为的路由层,评估若只测拒绝会漏掉真正的审查机制。
一篇被 CVPR 2026 接收的 arXiv 论文提出无需额外训练的生成式补间(GI)方法:通过 Keyframe-anchored Attention Bias 提供语义与时间引导,并用 Rescaled Temporal RoPE 增强帧一致性。作者还发布了首个文本条件 GI 评测基准 TGI-Bench。该方法在短长序列上均取得帧一致性、语义保真度和节奏稳定性的 SOTA 表现。
一项 arXiv 研究发现,VLM 并非无法识别有害意图,而是视觉模态使表示向特定越狱状态偏移,导致拒绝机制失效。研究定义了沿越狱方向的越狱相关表示偏移(jailbreak-related shift)来量化这一转变,可统一解释多种越狱场景。据此提出的推理时防御方法 JRS-Rem 在多个场景下提供强防御,同时保持良性任务性能,代码已开源。
Macquarie 大学等机构研究者在 arXiv 发表论文,质疑此前 Nature Medicine 关于 ChatGPT Health 漏诊 51.6% 急症的研究结论,认为该错误率很大程度是评测协议的产物而非模型能力问题。
研究者推出 CHIMERA,一个包含 9K 样本的合成推理数据集,由先进推理模型生成长 CoT 轨迹,覆盖 8 大科学学科和超过 1K 细粒度主题,并用全自动评估流水线交叉验证题目与答案,免除人工标注。
arXiv 论文(arXiv:2602.04943v4)研究学习海森堡反铁磁体基态相结构的计算复杂度。作者将 Hilbert 空间表示为加权图,变分能量定义为一个加权 XY 模型,对 Z2 相可约化为图上的经典反铁磁 Ising 模型;固定振幅时,重构基态波函数符号的问题归约为加权 Max-Cut 实例,从而把波函数符号优化与组合优化直接联系起来。
arXiv 论文提出 TTCS,一种协同进化的测试时训练(Test-Time Training)框架,从同一预训练模型初始化题目合成器与推理求解器两个策略,通过迭代优化共同进化。合成器基于测试题生成渐进难度的课程题目,求解器用自洽性奖励更新自身,二者互相稳定训练过程。实验显示 TTCS 在高难度数学 benchmark 上持续提升推理能力,并可迁移到不同 LLM 主干的通用任务,代码已开源。
一项 arXiv 研究指出,强化学习中结果层面的模式坍缩并非探索不足或正则化太弱,而是期望回报目标本身的结构性后果——期望内的概率乘子使不同结果的 log 概率比按奖励差呈指数发散。作者提出逆概率缩放,并以 GRPO 的即插即用改写 IPS-GRPO 实现,无需辅助模型或架构改动。在推理和分子生成任务上,IPS-GRPO 持续减少模式坍缩,同时匹配或超过基线性能。
一项 arXiv 研究证明,AWQ、GPTQ 及对角 Fisher 量化、分块重建、Hadamard 旋转等后训练量化方法,都是最小化同一个由梯度加权激活敏感度决定的二次型的特例。
一篇本科论文提出 Reinforced Linear Genetic Programming(RLGP),在 Linear Genetic Programming 之上引入 Q-Learning,自动学习最优的寄存器-动作映射,解决需人工显式映射的问题。作者还发布了用内存安全的 Rust 编写的开源框架 "linear-gp",供后续实验使用,源码可在网上获取。
arXiv 论文提出 OPTIMA,一种实用的单次训练后剪枝方法,将掩码选择后的逐层权重重构转化为共享 Hessian 的逐列二次规划(QP),可批量在加速器上并行求解。
一项 arXiv 研究提出“潜在分离假设”:微调模型对子群数据表示的依赖程度,取决于各子群在预训练模型潜在空间中的分离程度。作者对该假设进行形式化与理论分析,并在四个视觉和语言数据集上验证,还通过正则化实验提供了因果作用的初步证据。研究显示,对潜在子群分离的定量分析可指导微调基础模型时的数据收集与平衡决策。
arXiv 论文提出 AISTRAL,一种 AI 原生互联网架构,让出版方通过政策管控的接口直接暴露语义单元,并借助类比 DNS 的语义解析器供 AI 智能体发现和检索内容。端到端原型在大型专业文档集上准确率最高提升 4.2 倍,比公开网络搜索智能体多答对最多 4.2 倍的问题,每查询传输数据减少 2.9-41 倍。由于检索终止于出版方服务器,署名、来源与使用策略随内容传递。
研究人员提出 SpectralTrain,一个架构无关的通用训练框架,将课程学习与基于 PCA 的光谱降采样结合,逐步引入光谱复杂度,提升高光谱图像分类的训练效率。该框架不依赖特定架构、优化器或损失函数,在 Indian Pines、Salinas-A 和新提出的 CloudPatch-7 三个基准数据集上取得 2-7 倍训练提速,精度变化因 backbone 而异。代码已开源。
研究者提出 CLP-SNN,将 Continually Learning Prototypes 算法重构为事件驱动的脉冲神经网络,并部署在 Intel Loihi 2 芯片上,成为该芯片上首个在线持续学习器。
一种新的贝叶斯非参数方法可对数量不设上限的时间序列簇的演化建模,通过在未知数量的线性动态 regimes 间切换实现聚类。该方法用分层 Dirichlet 过程作为 Switching Linear Dynamical System 参数的先验,并用 Gaussian process 先验刻画簇内振幅与时间对齐的统计变化,以原则化方式避免簇的过度增殖。
研究者提出 ATAR,一种利用推理结构引导 LLM 注意力的推理方法,解决长推理链中关键中间步骤和原始提示词被淹没、注意力不足的问题。实验显示 ATAR 在六个基准上超越 SOTA 方法,绝对提升最高达 15.39%;"非推理"模型借助 ATAR 在多数基准上达到与同规模推理模型相当甚至更好的表现。消融实验表明注意力对齐组件贡献显著,且提升在不同注意力引导后端下均保持稳定。
研究者提出 WoW-Bench(World-of-Whale)基准,以海洋哺乳动物叫声作为分布外声音事件,评测大型音频-语言模型(LALM)的低层听觉感知与认知,避免模型依赖对声音事件的先验知识。
一篇 arXiv 综述梳理了多模态生成模型(MGMs)的六类文本条件生成模态,涵盖图像、音乐、视频、人体运动和 3D 物体,并考察 self-supervised learning、mixture of experts、RLHF 和 chain-of-thought prompting 四种技术在不同模态中的应用。
研究者发布 MedHal,一个面向医学文本幻觉检测的大规模合成数据集,覆盖内在与外在幻觉的多种医学文本来源和任务。作者基于该数据集训练并评估了基线检测模型,效果优于通用幻觉检测方法。该资源可用于评估和训练医学文本生成系统,减少对昂贵专家审核的依赖。
PALATE 是一个针对 FLD(Feature Likelihood Divergence)计算效率瓶颈而提出的深度生成模型评估框架,基于对可访问数据随机变量全期望定律的特殊应用。它与 MMD 基线指标和 DINOv2 特征提取器结合后,表现达到或超过 SOTA 方法,同时计算效率更高、可扩展至大规模数据集,尤其在检测样本记忆化和评估泛化能力上实用。源代码作为补充材料提供。
一项 arXiv 研究提出在深度强化学习的关节级力矩控制中引入归纳偏置:从小规模专家示范数据中学习潜在动作,作为策略的行动先验。该先验让智能体利用专家动作知识、提升探索效率,迁移任务表现显著改善,且不受示范奖励水平限制;结合风格奖励做模仿时,能更贴近复现专家行为。论文已被 Humanoids 2026 接收。
arXiv 论文《Help Me Help You》在有监督迁移学习中识别出一种二分法:弱迁移机制下最优速率仅由源或目标单方数据决定,强迁移机制下则可利用源与目标数据的互补信息实现更快的目标收敛率。作者指出以往针对无监督场景的理论工具无法刻画强迁移机制,并提出“弱/强迁移模数”这一相关性概念精化,给出区分机制的条件,还提供了一种在各机制下均接近最优、无需先验分布知识的通用方法。
一项研究用 ResNet-50 和 Audio Spectrogram Transformer(AST)模型,基于鼾声识别阻塞性睡眠呼吸暂停(OSA)患者的多 level 上气道塌陷部位。
arXiv 论文(arXiv:2406.16232v4)提出 Jacobian descent(JD)及其随机变体,通过向量值目标函数的 Jacobian 矩阵迭代更新参数,将梯度投影以完全解决目标冲突,并在光滑凸情形下证明了比弱 Pareto 平稳点收敛更强的 Pareto 前沿收敛保证。