跳到正文
arXiv cs.AI· Parul Gupta, Satwik, Avni Aggarwal, Bhavesh Gurnani, Arnab Kumar Mondal, Dinesh Khandelwal, Dinesh Garg, Parag Singla·· 2 小时前AI 评分36

分层掩码扩散语言模型 HMDLM

Hierarchical Masked Diffusion Language Models

AI 导读

研究者提出分层掩码扩散语言模型 HMDLM,为每个 token 位置加入层级标签,将生成拆为先预测层级分布、再预测 token 分布的两步,各层级拥有独立噪声调度,保持解码完全并行。

来源:arXiv cs.AI · arxiv.org