跳到正文
热点事件持续更新

记忆张量开源MemT 1.0系列记忆原生模型

1 篇报道1 个报道来源12 小时前更新

先了解这件事

AI 综述

记忆张量开源发布MemT 1.0系列记忆原生模型,包含两款:MemT-1.0-Nano总计36B参数、激活3B,基座为Qwen3.6-35B-A3B;MemT-1.0-Flash为288B参数、激活17B,基座是经过进一步后训练的DeepSeek-V4-Flash。 该系列的做法是在选定Transformer模块中增加与原注意力并行的记忆计算通路,把经验编码成内部动态状态,再通过训练学习写入、更新和读取,让这些状态经记忆分支参与后续计算。 据该报道,在同样的128K长历史下,Nano的端到端推理速度约为完整上下文方案的1.86倍,相同历史长度中每条轨迹的持久状态占用是完整上下文KV Cache的六十六分之一。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. 量子位
    记忆张量开源MemT 1.0:把记忆原生焊进Transformer

    记忆张量开源发布MemT 1.0系列记忆原生模型,包含36B参数、激活3B的MemT-1.0-Nano(基于Qwen3.6-35B-A3B)和288B参数、激活17B的MemT-1.0-Flash(基于DeepSeek-V4-Flash),在选定Transformer模块中增加与原注意力并行的记忆计算通路。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续探索 AI