产品简介
IBM Granite Speech 5.0 2B 是 IBM 在 2026 年 10 月开源的语音语言模型，2B 参数，Apache 2.0 许可，权重直接放在 Hugging Face。结构是 16 层 conformer 语音编码器加 2 层 q-former 投影器，语言主干是 granite-4.0-1b-base，用 YaRN 把位置编码扩到 16k。
模型支持英语、法语、德语、西班牙语、葡萄牙语与日语的语音识别，以及这些语言之间的双向语音翻译，另外还支持英语译成意大利语与普通话。相比上一代，它提升了短语音的转写准确率，对噪声、混响与远场麦克风更稳，新增输入语言提示，关键词偏置的列表规模扩到 2000 条。
训练用了 39 万小时音频，在 IBM Blue Vela 集群的 8 张 H100 上跑了 40 天。推理侧可以用 Transformers、vLLM、llama.cpp 的 GGUF 版本，也能在 Apple Silicon 上通过 mlx-audio 运行。单段音频建议控制在 2 分钟以内，更长的录音先做切分再解码。
核心功能
- 6 种语言转写：英语、法语、德语、西班牙语、葡萄牙语与日语，覆盖会议、客服与播客场景
- 双向语音翻译：上述语言之间可以互译，另支持英语译意大利语与英语译普通话
- 2B 参数的开源权重：Apache 2.0 许可，权重与用法说明在 Hugging Face 直接可查
- 关键词偏置：支持最多 2000 条关键词提示，专有名词与型号的识别更准
- 输入语言提示：多语言场景可以显式指定输入语言，减少同一段音频里的语言误判
- 多种推理后端：Transformers、vLLM、llama.cpp 的 GGUF 版本与 mlx-audio 都有示例，CPU 与 Apple Silicon 也能跑
适合谁用
以下类型的用户会特别受益于 IBM Granite Speech 5.0 2B：
- 会议与访谈录音的多语言转写
- 跨境客服的语音翻译
- 播客与视频的字幕制作
- 日语与欧洲语言的本地化内容
- 端侧或私有环境的语音转写
- 医疗、法律等敏感录音的本地处理
优点亮点
- Apache 2.0 许可，商用与二次训练都没有额外限制
- 2B 参数量，单张消费级显卡甚至 CPU 就能跑
- 6 种语言转写加双向翻译，一套模型覆盖跨境场景
- 关键词偏置容量到 2000 条，行业术语可以塞进去
- 官方给出 Transformers、vLLM、llama.cpp 与 mlx-audio 四种跑法
- 长语音可以按 2 分钟切分后批量解码
价格与方案
模型权重以 Apache 2.0 许可在 Hugging Face 免费开放，使用成本取决于自己的硬件与部署方式，没有按调用量计费。
总结与建议
Granite Speech 5.0 2B 把多语言转写与翻译压进 2B 参数，Apache 2.0 的许可让商用没有额外顾虑。它的定位是一块能在本地跑起来的基础件：会议转写、跨境客服、字幕制作这些活儿，用一张显卡甚至 CPU 就能完成，敏感录音也可以不出内网。
版本演进
- Granite Speech 5.0 2B 开源：6 语言转写与双向翻译 （2026-10-20）：IBM 于 2026 年 10 月开源 Granite Speech 5.0 2B，2B 参数、Apache 2.0 许可，权重发布在 Hugging Face。支持英语、法语、德语、西班牙语、葡萄牙语与日语的转写及双向语音翻译，另加英语译意大利语与英语译普通话。训练使用 39 万小时音频，8 张 H100 跑 40 天。关键词偏置扩到 2000 条，可用 Transformers、vLLM、llama.cpp 与 mlx-audio 运行。