跳到正文
热点事件持续更新

MuSID-KD 提出面向语义 ID 推荐的多粒度知识蒸馏方法

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Fengshi Zhang 等在 arXiv 发布论文 MuSID-KD,针对语义 ID(SID)生成式推荐中多 token 反复解码带来的推理开销,提出用知识蒸馏训练轻量级学生模型的方法。论文称该方法结合层次化候选分布对齐(HCDA)和排序影响引导的逐级蒸馏(RIGD):前者按共享 SID 前缀聚合物品概率并逐级对齐分布,后者按替换学生贡献后成对排序代理损失的下降来分配监督。

AI 根据报道生成 · 51 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.AI
    MuSID-KD:面向语义 ID 生成式推荐的多粒度知识蒸馏方法

    论文提出 MuSID-KD,针对语义 ID(SID)生成式推荐中多 token 反复解码带来的推理开销,用知识蒸馏训练轻量级学生模型。方法包含层次化候选分布对齐(HCDA)和排序影响引导的逐级蒸馏(RIGD),前者按共享 SID 前缀聚合物品概率并逐级对齐分布,后者按替换学生贡献后成对排序代理损失的下降来分配监督。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。