论文用嵌入相似性网络分析LLM生成几何
热点事件持续更新
论文用嵌入相似性网络分析LLM生成几何
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Yuan-Chao Hu 等人在 arXiv 发布论文,将六个开源大语言模型的输入 embedding 构建成相似性网络,并把生成过程映射到该网络上,分析其拓扑结构与深度动态。论文称这些观测量有望用作推理时监测生成退化的指标,此效果尚未经独立验证。 研究发现该 token-embedding 网络呈无标度、重尾分布,但相比同协方差的随机 embedding 明显更碎片化;蒸馏由于输入 embedding 大多被继承,几乎不改变网络拓扑。
AI 根据报道生成 · 3 小时前更新
最新进展11月16日 13:00
LLM 生成时 token 在词表网络上的“舞动”:一项可解释性研究报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- arXiv cs.AILLM 生成时 token 在词表网络上的“舞动”:一项可解释性研究
arXiv 论文将六个开源大语言模型(LLM)的输入 embedding 构建成相似性网络,把生成过程映射到网络上分析其几何结构。研究发现该 token-embedding 网络是无标度且重尾分布,但比同协方差的随机 embedding 碎片化得多;蒸馏因 input embedding 大多被继承而几乎不改变拓扑。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。