IBM 发布 Granite Speech 5.0 2B,一个 2B 参数的开放语音语言模型,支持 6 种语言的语音转文字与语音翻译,采用 Apache 2.0 许可。
该模型可在 GPU 上通过 Transformers 或 vLLM 运行,在 Apple Silicon 上通过 mlx-audio 运行,也可在本地 CPU/Mac 上通过 llama.cpp GGUF 运行。IBM 建议 GGUF 使用 Q8_0 量化;更低比特量化在音频超过约 1 分钟时会损失准确率。
AI 根据报道生成 · 4 小时前更新