arXiv cs.AI· Yuchen Guo, Zhuoyuan Mao, Yiwen Guo·· 1 天前AI 评分49
扩散语言模型中的事实访问状态：从机制到知识编辑与检索
Factual Access States in Diffusion Language Models: From Mechanism to Knowledge Editing and Retrieval
AI 导读
一项 arXiv 研究提出"事实访问状态"概念，发现掩码扩散语言模型（DLM）在第一层注意力就把关系措辞路由到可见实体位置，事实查找比自回归（AR）模型更早完成，且状态随关系表述和查询方向变化而占据一片区域而非单点。
来源：arXiv cs.AI · arxiv.org