跳到正文
热点事件持续更新

论文用嵌入相似性网络分析LLM生成几何

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Yuan-Chao Hu 等人在 arXiv 发布论文,将六个开源大语言模型的输入 embedding 构建成相似性网络,并把生成过程映射到该网络上,分析其拓扑结构与深度动态。论文称这些观测量有望用作推理时监测生成退化的指标,此效果尚未经独立验证。 研究发现该 token-embedding 网络呈无标度、重尾分布,但相比同协方差的随机 embedding 明显更碎片化;蒸馏由于输入 embedding 大多被继承,几乎不改变网络拓扑。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    LLM 生成时 token 在词表网络上的“舞动”:一项可解释性研究

    arXiv 论文将六个开源大语言模型(LLM)的输入 embedding 构建成相似性网络,把生成过程映射到网络上分析其几何结构。研究发现该 token-embedding 网络是无标度且重尾分布,但比同协方差的随机 embedding 碎片化得多;蒸馏因 input embedding 大多被继承而几乎不改变拓扑。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月16日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。