跳到正文
Hugging Face Blog·· 2 天前精选AI 评分62

Rumble-2-Flash 开源:0.5B 参数支持 40 多种语言的语音识别模型

Rumble-2-Flash: an open 0.5B speech model for 40+ languages

AI 导读

Reson8 以 Apache 2.0 协议开源 Rumble-2-Flash,这是一个 0.5B 参数的语音识别模型,支持 40 多种语言并自动检测语种。

推荐理由

0.5B 参数语音识别模型以 Apache 2.0 开源,在真实电话场景与 30B 模型持平,可对照其蒸馏方法理解小模型路线。

深度解读
要点速览
  • 0.5B 参数,Apache 2.0 开源,支持 40 多种语言并自动检测
  • 原生支持 Transformers 和 vLLM,无需自定义代码
  • 多语种赛道平均错误率 6.96%,英语 6.6% WER
  • 批次填满时超 7000 RTFx,约半秒处理一小时音频
  • 呼叫中心基准 7.86% WER,与 30B 的 Nemotron 基本持平

发生了什么

Reson8 以 Apache 2.0 协议开源了 Rumble-2-Flash,这是一个 0.5B 参数的语音识别模型,支持 40 多种语言并自动检测语种。模型原生支持 🤗 Transformers 和 vLLM,无需自定义代码或 trust_remote_code。它提供输出控制选项,包括数字以数字或单词形式输出、填充词、逐字重复和强制指定语言。速度方面,在批次填满时可达 7000 以上 RTFx,约半秒处理一小时音频。在 Open ASR Leaderboard 多语种赛道上,中、德、法、意、西、葡、印地、荷、英九种语言平均错误率 6.96%,英语赛道平均 6.6% WER。

为什么重要

0.5B 的体量在 Open ASR Leaderboard 多语种赛道上取得 6.96% 平均错误率,原文称优于 15 倍大的 Meta omniASR-LLM 7B 并领先 Whisper large-v3,说明小模型在语音识别上已具备竞争力。在 AppTek 302 小时呼叫中心基准上,它以 7.86% WER 与 NVIDIA Nemotron 3.5 Transcribe(30B)的 7.78% 基本持平,说明压缩、嘈杂、多口音的真实电话场景也能应对。原生接入 Transformers 与 vLLM,降低了部署门槛。

对国内用户的影响

对国内开发者而言,Apache 2.0 协议和 Transformers、vLLM 原生支持意味着可以较自由地集成到现有推理栈,无需 fork 运行时。原文未提及中国大陆的可用性、API 接入条件或中文以外的本地化支持细节,实际使用需自行验证。多语种自动检测和输出控制对做会议转写、客服质检类应用的团队有参考价值;原文未说明模型对中文方言或特定口音的表现。

怎么上手或延伸阅读

权重发布在 Hugging Face Hub 的 Reson8/Rumble-2-Flash,也可通过 Reson8 的 API 使用。上手可参考原文 Quickstart:安装 torch、transformers、accelerate,用 AutoProcessor 和 AutoModelForMultimodalLM 加载模型,调用 apply_transcription_request 传入音频(本地路径、URL、NumPy 数组或列表),省略 language 参数即自动检测语种。更多反馈可到模型页 Discussions 标签页。

常见问题

问:Rumble-2-Flash 是什么协议开源的?
答:原文写明以 Apache 2.0 协议开源,权重发布在 Hugging Face Hub 的 Reson8/Rumble-2-Flash,同时也可通过 Reson8 的 API 使用。
问:它支持中文吗?效果如何?
答:原文称支持 40 多种语言并自动检测语种,Open ASR Leaderboard 多语种赛道覆盖中文等九种语言,平均错误率 6.96%;原文未单独给出中文的错误率数字。
问:部署需要自己写推理代码吗?
答:不需要。原文称原生支持 🤗 Transformers 和 vLLM,无需 fork 运行时或 trust_remote_code,按 Quickstart 用 AutoProcessor 和 AutoModelForMultimodalLM 加载即可。

本解读由 AI 根据原文(Hugging Face Blog)整理,只基于原文内容;细节以原文为准。

来源:Hugging Face Blog · huggingface.co