研究者提出DHO半监督知识蒸馏方法并被NeurIPS 2026接收
热点事件持续更新
研究者提出DHO半监督知识蒸馏方法并被NeurIPS 2026接收
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Seongjae Kang 等研究者在 arXiv 论文中提出双头优化(DHO)方法,通过为监督损失与蒸馏损失分别设置双预测头,解决视觉语言模型(VLM)知识蒸馏中的梯度冲突问题。该论文已被 NeurIPS 2026 接收,代码与模型检查点已公开。 在 15 个数据集上的实验显示,DHO 持续优于单头 KD 基线,较小的学生模型常能超过教师模型,并在 ImageNet 半监督学习及跨 ImageNet 变体的分布外泛化上取得 SOTA。
AI 根据报道生成 · 1 小时前更新
最新进展10月27日 12:00
DHO:基于双头优化的视觉语言模型半监督知识蒸馏方法报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.AIDHO:基于双头优化的视觉语言模型半监督知识蒸馏方法
研究者提出双头优化(DHO)方法,通过为监督与蒸馏损失分别设置双预测头,解决视觉语言模型(VLM)知识蒸馏中的梯度冲突问题。在 15 个数据集上的实验显示,DHO 持续优于单头 KD 基线,较小的学生模型常能超过教师模型,并在 ImageNet 半监督学习及跨 ImageNet 变体的分布外泛化上取得 SOTA。代码与模型检查点已公开,论文被 NeurIPS 2026 接收。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。