arXiv cs.AI· Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong, Weihao Yuan, Siyu Zhu·· 2 小时前AI 评分44
REMORY:用残差记忆学习实现上下文压缩
REMORY: Learning Residual Memory for Context Compaction
AI 导读
arXiv 论文提出 REMORY,一种神经记忆网络,在有界软记忆 token 中补充文本摘要,帮助冻结的 LLM 近似使用完整历史时的输出,相当于序列维度的残差连接。
来源:arXiv cs.AI · arxiv.org