量子位·· 2 天前AI 评分61
记忆张量开源 MemT 1.0 系列记忆原生模型,最大288B参数
RSI三块关键拼图,MemT 1.0从模型层补上「记忆」
AI 导读
记忆张量开源发布 MemT 1.0 系列,在 Transformer 模块中加入与注意力并行的记忆分支,将经验编码为内部状态,包括36B参数的 MemT-1.0-Nano(基座 Qwen3.6-35B-A3B)和288B参数的 MemT-1.0-Flash(基座 DeepSeek-V4-Flash),这也是记忆原生模型首次实现近300B规模的工程验证。
来源:量子位 · mp.weixin.qq.com