跳到正文
抹香鲸的奇妙信号
只看一手
10月21日周三
  1. arXiv cs.AI31

    DEFLECT 提出时序反事实偏好学习，提升异步 VLA 策略的抗延迟鲁棒性

    DEFLECT 是一个离线后训练框架，利用训练数据中的执行时刻观测构建时序反事实对比，对基于陈旧输入动作的策略进行偏好监督，解决异步推理中预测时刻与执行时刻状态错位问题。在 Kinetix、LIBERO 和三个真实机器人任务上，最长支持延迟下相比 VLASH 在 Kinetix 提升 4.2 个百分点成功率，相比朴素异步执行的 GR00T N1.7 在 LIBERO 提升 22.7 个百分点。

  2. arXiv cs.AI46

    DiDi-Merging 动态模型合并方法被 NeurIPS 2026 接收

    提出 DiDi-Merging，通过可微秩选择和数据无关的参数空间精炼，在共享与专家参数间联合分配低秩容量。在八任务 ViT-B/32 基准上，小配置以单主干 1.24 倍存储达到 89.3% 平均准确率（98.7% 归一化保留率），中配置 1.4 倍存储达 89.8%；去除精炼会使中配置下降 4.3 个百分点。该方法已被 NeurIPS 2026 接收，代码已开源。

  3. arXiv cs.AI47

    CounterCount：诊断视觉语言模型计数属性时的知识偏见

    研究者推出诊断数据集 CounterCount，用包含非典型计数的反事实图像（如四耳兔子）测试 16 个 VLM 的属性计数能力。人类两类图像准确率达 98.9% 和 97.5%，而 16 个模型（14 个开源、2 个闭源）在事实图像上平均准确率 91.6%，反事实图像降至 49.5%，多数错误与常识计数一致，暴露知识先验偏见。

  5. arXiv cs.AI34

    LLaVA-CKD：面向视觉语言模型的自底向上级联知识蒸馏方法

    研究者提出 LLaVA-CKD，一种自底向上级联知识蒸馏（CKD）框架，通过引入中等容量的中间教师逐步缩小师生容量差距，提升从大模型向小模型的知识迁移效果，并给出理论分析。该方法基于 LLaVA 架构构建模型，在七个公开 VQA 基准上评测，性能与近期紧凑型 VLM 相当。级联蒸馏源代码和训练好的模型已开源。

  6. arXiv cs.AI38

    Abstract Compression：面向 LLM 语音识别的对话音频上下文压缩方法

    一项被 IEEE SLT 2026 接收的研究提出 Abstract Compression 方法，为基于 LLM 的语音识别（ASR）压缩历史对话音频上下文。研究发现多轮监督训练后，对话上下文主要提升上下文实体的识别，但原始音频嵌入随对话长度快速增长。该方法用固定数量的潜在 token 替代先前每轮音频、同时显式保留转写文本，在域内和域外测试集上以更小的音频开销恢复了部分原始上下文条件的收益。

  8. arXiv cs.AI67

    arXiv 论文提出检测、路由、生成三阶段框架，指拒绝式对齐评估失效的原因

    arXiv 论文以中文背景大语言模型的政治审查为自然实验，覆盖五个实验室的九个开源权重模型，提出对齐关键发生在概念检测到行为策略的路由层。研究发现探针准确率本身不具诊断性，消融政治敏感方向可在多数模型中消除审查并恢复事实输出但跨模型迁移失败；同一模型家族内硬拒绝降为零而叙事引导升至最大，使仅测拒绝的基准看不到审查。

    推荐理由：论文用探针、消融和行为测试说明对齐发生在检测到行为的路由层，评估若只测拒绝会漏掉真正的审查机制。

  9. arXiv cs.AI40

    锚定与重缩放注意力实现语义一致的生成式视频补间研究

    一篇被 CVPR 2026 接收的 arXiv 论文提出无需额外训练的生成式补间（GI）方法：通过 Keyframe-anchored Attention Bias 提供语义与时间引导，并用 Rescaled Temporal RoPE 增强帧一致性。作者还发布了首个文本条件 GI 评测基准 TGI-Bench。该方法在短长序列上均取得帧一致性、语义保真度和节奏稳定性的 SOTA 表现。

  10. arXiv cs.AI45

    通过越狱相关表示偏移理解与防御 VLM 越狱（JRS-Rem）

    一项 arXiv 研究发现，VLM 并非无法识别有害意图，而是视觉模态使表示向特定越狱状态偏移，导致拒绝机制失效。研究定义了沿越狱方向的越狱相关表示偏移（jailbreak-related shift）来量化这一转变，可统一解释多种越狱场景。据此提出的推理时防御方法 JRS-Rem 在多个场景下提供强防御，同时保持良性任务性能，代码已开源。

  13. arXiv cs.AI34

    海森堡反铁磁体中哈密顿量与基态符号结构的图论表述

    arXiv 论文（arXiv:2602.04943v4）研究学习海森堡反铁磁体基态相结构的计算复杂度。作者将 Hilbert 空间表示为加权图，变分能量定义为一个加权 XY 模型，对 Z2 相可约化为图上的经典反铁磁 Ising 模型；固定振幅时，重构基态波函数符号的问题归约为加权 Max-Cut 实例，从而把波函数符号优化与组合优化直接联系起来。

  14. arXiv cs.AI41

    TTCS：面向自我进化的测试时课程合成框架

    arXiv 论文提出 TTCS，一种协同进化的测试时训练（Test-Time Training）框架，从同一预训练模型初始化题目合成器与推理求解器两个策略，通过迭代优化共同进化。合成器基于测试题生成渐进难度的课程题目，求解器用自洽性奖励更新自身，二者互相稳定训练过程。实验显示 TTCS 在高难度数学 benchmark 上持续提升推理能力，并可迁移到不同 LLM 主干的通用任务，代码已开源。

  15. arXiv cs.AI47

    期望回报导致强化学习结果层面模式坍缩：逆概率缩放（IPS-GRPO）如何修复

    一项 arXiv 研究指出，强化学习中结果层面的模式坍缩并非探索不足或正则化太弱，而是期望回报目标本身的结构性后果——期望内的概率乘子使不同结果的 log 概率比按奖励差呈指数发散。作者提出逆概率缩放，并以 GRPO 的即插即用改写 IPS-GRPO 实现，无需辅助模型或架构改动。在推理和分子生成任务上，IPS-GRPO 持续减少模式坍缩，同时匹配或超过基线性能。

  19. arXiv cs.AI44

    何时需要子群平衡？从潜在可分性预测微调性能敏感性

    一项 arXiv 研究提出“潜在分离假设”：微调模型对子群数据表示的依赖程度，取决于各子群在预训练模型潜在空间中的分离程度。作者对该假设进行形式化与理论分析，并在四个视觉和语言数据集上验证，还通过正则化实验提供了因果作用的初步证据。研究显示，对潜在子群分离的定量分析可指导微调基础模型时的数据收集与平衡决策。

  20. arXiv cs.AI43

    AISTRAL：面向 AI 原生互联网的出版方可控网络架构

    arXiv 论文提出 AISTRAL，一种 AI 原生互联网架构，让出版方通过政策管控的接口直接暴露语义单元，并借助类比 DNS 的语义解析器供 AI 智能体发现和检索内容。端到端原型在大型专业文档集上准确率最高提升 4.2 倍，比公开网络搜索智能体多答对最多 4.2 倍的问题，每查询传输数据减少 2.9-41 倍。由于检索终止于出版方服务器，署名、来源与使用策略随内容传递。

  21. arXiv cs.AI28

    SpectralTrain：一个通用的高光谱图像分类训练框架

    研究人员提出 SpectralTrain，一个架构无关的通用训练框架，将课程学习与基于 PCA 的光谱降采样结合，逐步引入光谱复杂度，提升高光谱图像分类的训练效率。该框架不依赖特定架构、优化器或损失函数，在 Indian Pines、Salinas-A 和新提出的 CloudPatch-7 三个基准数据集上取得 2-7 倍训练提速，精度变化因 backbone 而异。代码已开源。

  23. arXiv cs.AI32

    时间序列的贝叶斯非参数动态聚类方法研究

    一种新的贝叶斯非参数方法可对数量不设上限的时间序列簇的演化建模，通过在未知数量的线性动态 regimes 间切换实现聚类。该方法用分层 Dirichlet 过程作为 Switching Linear Dynamical System 参数的先验，并用 Gaussian process 先验刻画簇内振幅与时间对齐的统计变化，以原则化方式避免簇的过度增殖。

  24. arXiv cs.AI40

    ATAR：面向大语言模型的注意力对齐推理方法

    研究者提出 ATAR，一种利用推理结构引导 LLM 注意力的推理方法，解决长推理链中关键中间步骤和原始提示词被淹没、注意力不足的问题。实验显示 ATAR 在六个基准上超越 SOTA 方法，绝对提升最高达 15.39%；"非推理"模型借助 ATAR 在多数基准上达到与同规模推理模型相当甚至更好的表现。消融实验表明注意力对齐组件贡献显著，且提升在不同注意力引导后端下均保持稳定。

  27. arXiv cs.AI38

    MedHal：用于医学幻觉检测的合成数据集

    研究者发布 MedHal，一个面向医学文本幻觉检测的大规模合成数据集，覆盖内在与外在幻觉的多种医学文本来源和任务。作者基于该数据集训练并评估了基线检测模型，效果优于通用幻觉检测方法。该资源可用于评估和训练医学文本生成系统，减少对昂贵专家审核的依赖。

  28. arXiv cs.AI35

    PALATE：用全期望定律提升深度生成模型评估效率的新框架

    PALATE 是一个针对 FLD（Feature Likelihood Divergence）计算效率瓶颈而提出的深度生成模型评估框架，基于对可访问数据随机变量全期望定律的特殊应用。它与 MMD 基线指标和 DINOv2 特征提取器结合后，表现达到或超过 SOTA 方法，同时计算效率更高、可扩展至大规模数据集，尤其在检测样本记忆化和评估泛化能力上实用。源代码作为补充材料提供。

  29. arXiv cs.AI25

    协同动作与风格先验助力足式运动学习（arXiv 论文入选 Humanoids 2026）

    一项 arXiv 研究提出在深度强化学习的关节级力矩控制中引入归纳偏置：从小规模专家示范数据中学习潜在动作，作为策略的行动先验。该先验让智能体利用专家动作知识、提升探索效率，迁移任务表现显著改善，且不受示范奖励水平限制；结合风格奖励做模仿时，能更贴近复现专家行为。论文已被 Humanoids 2026 接收。

  30. arXiv cs.AI26

    迁移学习中源数据与目标数据的聚合价值：有监督场景下的强弱迁移二分法

    arXiv 论文《Help Me Help You》在有监督迁移学习中识别出一种二分法：弱迁移机制下最优速率仅由源或目标单方数据决定，强迁移机制下则可利用源与目标数据的互补信息实现更快的目标收敛率。作者指出以往针对无监督场景的理论工具无法刻画强迁移机制，并提出“弱/强迁移模数”这一相关性概念精化，给出区分机制的条件，还提供了一种在各机制下均接近最优、无需先验分布知识的通用方法。

  35. arXiv cs.AI31

    Taskonomy：解耦视觉任务迁移学习

    Taskonomy 提出一种全计算化方法，通过在 26 个 2D、2.5D、3D 和语义任务间寻找一阶及高阶迁移学习依赖，构建视觉任务迁移学习的分类图谱。该研究显示，联合求解 10 个任务所需的标注数据量可比独立训练减少约 2/3，同时性能几乎不变，并提供求解器帮助用户设计高效监督策略。该论文获 CVPR 2018 最佳论文奖。

  36. arXiv cs.AI35

    从结果到组件：评估 LLM 提议修复动作的反事实评估框架

    arXiv 论文提出一个反事实评估框架，将 LLM 提议的修复动作拆分为目标记录选择与更新值两个组件，分别衡量其作用与交互。在交通分配实验中，将 LLM 提议的更新保留在参考目标上可达到参考损失降低量的 79.4%，而在原目标上调节更新强度仅达 43.7%；数据库实验的 108 个动作中，替换更新使 17 个恶化，且均选中了未受影响的记录。组件复用研究将平均留出恢复率提升至 0.616。

  37. arXiv cs.AI35

    RELIEF：基于交互体验与反馈修订的代码生成模型改进方法

    arXiv 论文提出 RELIEF 方法，用编码智能体修订代码生成模型产出的界面，并将改进融入原始生成轨迹作为微调监督数据。研究团队收集了 200 个合成网站、355 段交互记录及 24 名用户的反馈，微调了两个代码生成模型的多个变体。结果显示反馈效果随基础模型能力而变，其中来自人类交互记录的批评在测试模型下带来最大的可用性提升。

  39. arXiv cs.AI31

    从提案到执行：共享自主中的交互语义建模

    一篇 arXiv 论文提出语义感知决策框架，将候选动作的提出、在交互上下文下的评估与最终执行结果显式分离建模。框架通过联合动作语言和解释函数定义语义结果，并由此诱导转移与奖励动态，可刻画咨询、授权等人机共享自主交互模式，且与标准 MDP 规划保持兼容。