跳到正文
热点事件持续更新

研究者提出DHO半监督知识蒸馏方法并被NeurIPS 2026接收

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Seongjae Kang 等研究者在 arXiv 论文中提出双头优化(DHO)方法,通过为监督损失与蒸馏损失分别设置双预测头,解决视觉语言模型(VLM)知识蒸馏中的梯度冲突问题。该论文已被 NeurIPS 2026 接收,代码与模型检查点已公开。 在 15 个数据集上的实验显示,DHO 持续优于单头 KD 基线,较小的学生模型常能超过教师模型,并在 ImageNet 半监督学习及跨 ImageNet 变体的分布外泛化上取得 SOTA。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    DHO:基于双头优化的视觉语言模型半监督知识蒸馏方法

    研究者提出双头优化(DHO)方法,通过为监督与蒸馏损失分别设置双预测头,解决视觉语言模型(VLM)知识蒸馏中的梯度冲突问题。在 15 个数据集上的实验显示,DHO 持续优于单头 KD 基线,较小的学生模型常能超过教师模型,并在 ImageNet 半监督学习及跨 ImageNet 变体的分布外泛化上取得 SOTA。代码与模型检查点已公开,论文被 NeurIPS 2026 接收。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。