记忆张量开源MemT 1.0:长历史推理提速近4倍,存储缩减130倍

2026-10-20 科技 阅读


  10 月 20 日消息,今日,记忆张量(MemTensor)正式发布并开源记忆原生基础模型 MemT 1.0 系列,包括 MemT-1.0-Flash 和 MemT-1.0-Nano 两款模型。根据官方公布的测试结果,该系列模型在 11 项记忆基准中位列同类方法前两名,长历史场景下端到端推理速度最高提升近 4 倍。
  据介绍,MemT 1.0 采用可训练的内部记忆...

  10 月 20 日消息,今日,记忆张量(MemTensor)正式发布并开源记忆原生基础模型 MemT 1.0 系列,包括 MemT-1.0-Flash 和 MemT-1.0-Nano 两款模型。根据官方公布的测试结果,该系列模型在 11 项记忆基准中位列同类方法前两名,长历史场景下端到端推理速度最高提升近 4 倍。

  据介绍,MemT 1.0 采用可训练的内部记忆模块,将历史信息与任务经验写入固定大小的记忆状态,后续任务可直接调用,无需反复输入完整历史文本。模型基于 340 亿 Token 训练语料,通过两个阶段分别学习记忆写入和记忆调用能力。

  性能方面,在 11 项记忆基准测试中,MemT-1.0-Flash 平均得分 50.6 分,MemT-1.0-Nano 平均得分 47.0 分,分别位列参数化记忆方法第一、第二。

  效率方面,在 128K 历史长度下,MemT 1.0 端到端推理速度提升约 1.86 倍;在 256K 历史长度下提升约 3.99 倍,查询首字延迟保持在 104 至 112 毫秒。相比之下,传统完整上下文方案在 256K 历史下的首字延迟约为 445 毫秒。

  存储方面,在 256K 历史长度下,MemT 1.0 每条会话的记忆状态约占 40 MiB,较传统方案的 5.06 GiB 缩减约 130 倍。

  此外,在编程智能体测试中,MemT-1.0-Nano 引入历史解题经验后,在 SWE-bench Verified 上的平均成功率由 66.07% 提升至 69.73%,在 SWE-bench Multilingual 上的平均成功率由 60.00% 提升至 63.56%。

  目前,MemT 1.0 模型权重已通过 Hugging Face 和 GitHub 开放。记忆张量表示,后续将继续提升长期记忆能力、扩展记忆容量,并降低记忆更新成本。(定西)

相关阅读

柘城网为柘城本地权威综合门户。立足本土,解读钻石、辣椒、肉牛特色产业,传承朱襄故里人文,汇聚旅游、非遗、美食与民生资讯,搭建柘城论坛,服务柘城百姓。
  • 今天吃什么?
  • 关于我们
Copyright © 2026 柘城网 All Rights Reserved. 豫ICP备2025133402号豫公网安备41142402000636号
关灯
扫一扫添加微信客服
返回顶部
返回顶部