本地 ASR Qwen3-ASR——macOS 离线语音识别,0.6B / 1.7B 两个尺寸
什么是本地 ASR
前面介绍的火山引擎、讯飞都是云 ASR——音频上传到云端服务器,云端返回转写结果。OpenLess 还支持本地 ASR——音频不上传,在你电脑本地直接做语音识别。
目前本地 ASR 的实现基于阿里巴巴开源的 Qwen3-ASR 模型(0.6B 和 1.7B 两个参数规模)。
平台支持现状
| 平台 | 本地 ASR 可用性 |
|---|---|
| macOS | ✅ 可用——内置 Qwen3-ASR via vendored Rust 封装 |
| Windows | 🚧 实验中——Foundry Local Whisper 和 sherpa-onnx 变体 |
| Linux | ❌ 暂不支持 |
| Android | ❌ 暂不支持 |
macOS 是本地 ASR 当前唯一正式支持的平台。OpenLess 仓库里 vendored 了一个独立的 Rust crate(Open-Less/qwen-asr),不依赖外部 Python 环境或 llama.cpp。
两个模型尺寸对比
| 模型 | 参数量 | 精度 | 速度 | 内存占用 | 适用场景 |
|---|---|---|---|---|---|
| Qwen3-ASR 0.6B | 6 亿 | 中等 | 快 | 低 | 追求速度、识别需求不复杂 |
| Qwen3-ASR 1.7B | 17 亿 | 高 | 中 | 中等 | 追求精度、包含专有名词或多语言 |
两个模型都需要提前下载到本地——首次使用前 OpenLess 会提示你选择下载哪个(或两个都下)。
开启本地 ASR
打开 OpenLess → 设置 → AI 服务与模型 → 语音识别 → 添加渠道 → 本地 Qwen3-ASR。
然后选择你想用的模型尺寸,点下载。下载完成后渠道会自动变成「已配置」状态。
本地 ASR 的优势
| 优势 | 说明 |
|---|---|
| 完全离线 | 音频不离开你的机器,真·本地优先 |
| 零持续成本 | 不需要给任何云 ASR 按月付费或按调用计费 |
| 响应延迟低 | 本地推理不经过网络,延迟由你电脑算力决定 |
| 热词支持 | 本地实现也支持词典热词注入 |
本地 ASR 的劣势
| 劣势 | 说明 |
|---|---|
| 精度不如顶级云 ASR | 0.6B 和 1.7B 是小参数量模型 |
| 首次下载体积大 | 1.7B 模型下载要几百 MB |
| macOS 限制 | Windows 是实验状态,Linux/Android 还没出 |
| 功耗 | 本地推理会用 CPU/GPU 资源 |
Apple Silicon 优化
在 Apple Silicon(M 系列芯片)的 Mac 上,OpenLess 可选是否编译 MLX 后端——MLX 是苹果开源的机器学习框架,直接用 Apple Neural Engine 和 GPU 做推理。开启后本地 ASR 速度会进一步提升。
编译 MLX 后端需要 Xcode 的 MetalToolchain 组件(仅从源码编译时需要,下载官方预编译 DMG 的用户不需要关心)。
本地 ASR vs 云 ASR 怎么选
建议:两者可以并存——先配一个云 ASR 跑通流程,再试一下本地 ASR 看看够不够用。哪个好用留哪个。