Inception 发布扩散语言模型 Mercury 3,改用并行精炼而非逐 token 生成。Inception 称其在 NVIDIA GPU 上达到 1,068 tokens/秒,上下文窗口为 1M tokens。
Mercury 3 仅通过 OpenAI 兼容 API 提供,不提供开放权重或量化版本。标价为每 100 万输入 tokens 0.20 美元、每 100 万输出 tokens 0.70 美元;发布期五折,为 0.10 美元和 0.35 美元。
AI 根据报道生成 · 2 小时前更新