跳到正文
arXiv cs.AI· Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong, Weihao Yuan, Siyu Zhu·· 2 小时前AI 评分44

REMORY:用残差记忆学习实现上下文压缩

REMORY: Learning Residual Memory for Context Compaction

AI 导读

arXiv 论文提出 REMORY,一种神经记忆网络,在有界软记忆 token 中补充文本摘要,帮助冻结的 LLM 近似使用完整历史时的输出,相当于序列维度的残差连接。

来源:arXiv cs.AI · arxiv.org