MarkTechPost· Jean-marc Mommessin·· 2 小时前精选AI 评分76
Inception 发布扩散 LLM Mercury 3，速度达 1,068 tokens/秒
Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second
AI 导读
Inception 发布扩散语言模型 Mercury 3，采用并行精炼而非逐 token 生成，官方称在 NVIDIA GPU 上达到 1,068 tokens/秒，上下文窗口 1M tokens。
推荐理由
Inception 自报的基准表同时列出领先与落后项，读者可据此判断扩散 LLM 在速度与长上下文上的取舍。
来源：MarkTechPost · marktechpost.com