Prime Intellect发布可训练融合MoE内核

Prime Intellect 发布 Prime Mega MoE，在 DeepSeek 开源 DeepGEMM 库的 Mega MoE 内核基础上补上了融合且重叠的反向传播，使其从只能用于推理变为可用于训练。 该内核作为 prime-rl 的分发后端使用，训练内核通过 prime-kernels 提供的预构建 DeepGEMM wheel 发布，标准版 DeepGEMM 构建中不包含这些内核。支持 BF16、MXFP8（仅限 Blackwell）和分块 FP8（仅限 Hopper）。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。