产品简介
Rumble-2-Flash 是 Reson8 在 2026 年 11 月 18 日开源的语音识别模型,Apache 2.0 许可,0.5B 参数,架构沿用 Qwen3-ASR。发布当天就能在 Transformers 与 vLLM 里原生跑起来,不需要自定义代码,也不需要 trust_remote_code。
它的做法是在线策略蒸馏。教师是生产版 Rumble-2,学生自己先把音频转写出来,教师再对每个位置给出自己的下一个 token 概率分布,学生去对齐这个分布。这样纠正的是学生自己犯的错,而不是让它模仿一个分词方式不同的模型。分词器不一致的问题用 GOLD 处理:把师生之间切分不同的 token 合并,比较共有的 token 与排序后的概率。
成绩分两块看。Open ASR Leaderboard 的多语言赛道覆盖中文、德语、法语、意大利语、西班牙语、葡萄牙语、印地语、荷兰语与英语,平均错误率 6.96%,英文赛道 6.6%。同一张表里 Meta omniASR-LLM 7B 的体积是它的 15 倍,Whisper large-v3 也在对比之列,官方自己的说法是它在跟体积大 3 到 60 倍的模型竞争。
第二块是呼叫中心,这一块更能说明问题。AppTek 的基准用 302 小时热线通话、14 种英语口音,按 AppTek 自有脚本计分:Rumble-2-Flash 是 7.86%,NVIDIA Nemotron 3.5 Transcribe 30B 是 7.78%,Qwen3-ASR 0.6B 是 8.7%,Qwen3-ASR 1.7B 的 7.4% 是表里最好的一行。电话音质是语音识别最难的一类输入,它在这个场景落在 30B 级模型的同一水位上,体积差了约两个数量级。
速度是 7000 以上 RTFx,官方换算成一小时音频约 0.5 秒处理完。这个数字的前提是批次填满,比如 Open ASR Leaderboard 里那些较大的数据集;批次填不满时吞吐会往下掉,自己压测时要注意这一点。
工程面比较省事。Transformers 与 vLLM 都是原生支持,device_map 设成 auto 就能分配设备。输出侧可以控制数字写成阿拉伯数字还是文字、是否保留填充词、是否保留逐字重复,也能强制指定识别语言。音频输入支持本地路径、URL、NumPy 数组,还可以一次传一个列表做批处理。多语言场景默认自动检测语种,40 多种语言在覆盖范围内。
边界也要说清楚。博客没有给显存或内存要求,也没有写训练数据的构成与时长,所以能不能跑在手机上这类问题它没有正面回答。X 上有转述说模型 1GB、支持 45 种语言、可以在手机本地离线转录,博客自己的口径是 40 多种语言,体积未提。两个来源对不上,本页按博客写。
适合谁用。需要在本地或私有环境跑转写、要批量处理长音频、或者做呼叫中心质检与会议记录的团队,0.5B 这个尺寸意味着单张消费级卡甚至 CPU 都能摆平,Apache 2.0 也省掉了商用授权的沟通成本。如果只是偶尔转几段录音,用现成 API 更省事。
核心功能
- 0.5B 参数与 Apache 2.0:五亿参数的模型配上可商用的宽松许可,可以在私有环境部署,也可以嵌进产品里分发。权重发布在 Hugging Face 的 Reson8 组织下。
- 在线策略蒸馏:从生产版 Rumble-2 蒸馏,学生先自己转写,教师按位置给出下一个 token 的概率分布,学生对齐该分布。纠正针对学生自己的错误,而不是照抄教师输出。
- 多语言平均错误率 6.96%:Open ASR Leaderboard 多语言赛道覆盖九种语言,平均 6.96%,英文赛道 6.6%。同表的 Meta omniASR-LLM 7B 体积是它的 15 倍。
- 呼叫中心场景 7.86%:AppTek 基准用 302 小时热线通话与 14 种英语口音。同表 NVIDIA Nemotron 3.5 Transcribe 30B 为 7.78%,Qwen3-ASR 1.7B 为 7.4%。
- 7000 以上 RTFx:满批条件下官方换算为一小时音频约 0.5 秒。吞吐随批次填充程度变化,未填满时会下降。
- 原生框架与输出控制:Transformers 与 vLLM 原生支持,无需自定义运行时。可控制数字格式、填充词、逐字重复与强制语言,音频支持本地路径、URL 与 NumPy 数组。
适合谁用
以下类型的用户会特别受益于 Rumble-2-Flash:
- 呼叫中心录音的批量转写与质检,重点是重口音、重叠人声与电话线路噪声
- 会议记录与语音备忘录的本地转写,数据不出内网
- 长音频批处理流水线,用 vLLM 起服务撑吞吐
- 需要按语种分流的多语言内容归档,先自动检测再走对应后处理
- 把转写嵌入自有产品,用 Apache 2.0 避开授权谈判
优点亮点
- 0.5B 的尺寸让单卡部署成立,长音频批量处理的单位成本很低
- 呼叫中心场景的错误率与 30B 级模型接近,而体积小两个数量级
- 在线策略蒸馏让纠错针对学生自己的错误,不是简单模仿教师输出
- Transformers 与 vLLM 开箱可用,不需要 trust_remote_code 或 fork 运行时
- 输出侧的可控项足够细,数字格式、填充词、逐字重复都能按下游需求调
- Apache 2.0 商用没有额外授权流程
价格与方案
权重以 Apache 2.0 在 Hugging Face 发布,下载与商用不收费,实际成本就是推理硬件与运维。0.5B 的体量意味着单张消费级显卡或 CPU 推理都能成立,批量转写时成本主要落在电力与机器折旧上。官方另有一个托管入口 reson8.dev,按 API 调用计费,适合不想自己维护服务、或者只需要偶尔转写的场景。打算长期跑量大任务时,自托管的边际成本通常更低;调用量零散时,托管 API 省掉运维更划算。具体价格以官方页面为准。
总结与建议
Rumble-2-Flash 把语音识别压到 0.5B,同时把电话音质这类难场景的错误率维持在 30B 级模型附近。多语言平均 6.96%,英文 6.6%,呼叫中心基准 7.86%,7000 以上 RTFx,Apache 2.0 可商用,Transformers 与 vLLM 原生支持。它的价值不在刷新榜单,而在于让私有部署、长音频批处理和产品内嵌转写这三件事的成本降了一个数量级。需要注意的是官方没有公布内存要求与训练数据构成,手机离线运行这类说法目前只有第三方转述,没有一手依据。
版本演进
- Rumble-2-Flash 开源发布 (2026-11-18):Reson8 以 Apache 2.0 发布 0.5B 语音识别模型,基于 Qwen3-ASR 架构,用在线策略蒸馏从生产版 Rumble-2 迁移能力,分词器差异用 GOLD 对齐。Open ASR Leaderboard 多语言平均错误率 6.96%,英文 6.6%,AppTek 呼叫中心基准 7.86%,7000 以上 RTFx,Transformers 与 vLLM 原生支持。