跳到正文
MarkTechPost· Asif Razzaq·· 3 小时前AI 评分48

Prime Intellect 发布 Prime Mega MoE:可训练的融合 MoE kernel,前向传播快 3.11 倍

Prime Intellect Releases Prime Mega MoE: Trainable Fused MoE Kernel, 3.11x Faster Forward Pass

AI 导读

Prime Intellect 发布 Prime Mega MoE,在 DeepSeek 开源 DeepGEMM 库的 Mega MoE kernel 基础上补上了融合且重叠的反向传播,使其从仅能推理变为可用于训练。

来源:MarkTechPost · marktechpost.com

继续探索 AI