DictLLM 后训练压缩方法论文发布 arXiv
热点事件持续更新
DictLLM 后训练压缩方法论文发布 arXiv
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Jinho Park、Se Young Chun 和 Mingoo Seok 在 arXiv 提交论文 DictLLM，提出一种基于字典的后训练压缩方法：将分组层的权重矩阵分解为共享字典和层特定稀疏系数，无需再训练即可直接从预训练模型获得，论文标注为 NeurIPS 2026。 论文称，该方法将 LLaMA-7B 压缩 5.1x，WikiText-2 困惑度仅增加 2.9 点，压缩比达到 SOTA 低秩方法的 3.6x，并在语言建模和零样本推理基准上持续超越现有后训练低秩压缩方法。
AI 根据报道生成 · 2 小时前更新
最新进展11月6日 13:00
DictLLM：基于字典核的大语言模型后训练压缩方法报道时间线
沿着报道，了解事件的不同侧面。
11月6日
- arXiv cs.AIDictLLM：基于字典核的大语言模型后训练压缩方法
论文提出 DictLLM，一种基于字典的后训练压缩方案，将分组层的权重矩阵分解为共享字典和层特定稀疏系数，无需再训练即可直接从预训练模型获得。该方法将 LLaMA-7B 压缩 5.1x，WikiText-2 困惑度仅增加 2.9 点，压缩比达到 SOTA 低秩方法的 3.6x。在语言建模和零样本推理基准上，DictLLM 持续超越现有后训练低秩压缩方法，推动模型大小与性能的 Pareto 前沿。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。