Ollama 上线首个语音模型 Phonon:Mac 端离线语音合成,实时性达 113 倍

发布于

Ollama 在 10 月 24 日的官方博客中宣布加入语音模型,首个上线的是 Phonon 模型家族。官方给出的指标包括:在 M5 Max 上推理速度达到实时的 113 倍,词错误率 1.2%;当前仅支持 macOS,Windows 与 Linux 版本会在后续跟进;许可为 Apache 2.0 与 CC BY-NC 4.0。

对 Ollama 来说这是一次品类扩展。它以本地跑语言模型起家,语音、视觉这类模态此前都依赖外部服务;把语音纳入本地栈,意味着离线应用可以把「听与说」也留在设备端,隐私敏感的场景(医疗、金融、内部培训)第一次可以完全断网做语音交互。

113 倍实时是这条路线的关键指标:本地语音合成只有在远快于播放速度时,才能支撑打断、边说边改这类真正的对话体验。本月端侧模型动作密集:Meta 团队 10 月 17 日提交的 Muse Glimmer 30B 报告主打消费级硬件上的智能体任务,小米在 10 月 19 日上线了输出速度提升约 10 倍的 MiMo-V2.6-Pro-UltraSpeed。

资讯来源:ollama.com