OpenLess 中文文档 下载 App

本地 ASR Qwen3-ASR——macOS 离线语音识别,0.6B / 1.7B 两个尺寸

什么是本地 ASR

前面介绍的火山引擎、讯飞都是云 ASR——音频上传到云端服务器,云端返回转写结果。OpenLess 还支持本地 ASR——音频不上传,在你电脑本地直接做语音识别。

目前本地 ASR 的实现基于阿里巴巴开源的 Qwen3-ASR 模型(0.6B 和 1.7B 两个参数规模)。

平台支持现状

平台本地 ASR 可用性
macOS✅ 可用——内置 Qwen3-ASR via vendored Rust 封装
Windows🚧 实验中——Foundry Local Whisper 和 sherpa-onnx 变体
Linux❌ 暂不支持
Android❌ 暂不支持

macOS 是本地 ASR 当前唯一正式支持的平台。OpenLess 仓库里 vendored 了一个独立的 Rust crate(Open-Less/qwen-asr),不依赖外部 Python 环境或 llama.cpp。

两个模型尺寸对比

模型参数量精度速度内存占用适用场景
Qwen3-ASR 0.6B6 亿中等快低追求速度、识别需求不复杂
Qwen3-ASR 1.7B17 亿高中中等追求精度、包含专有名词或多语言

两个模型都需要提前下载到本地——首次使用前 OpenLess 会提示你选择下载哪个(或两个都下)。

开启本地 ASR

打开 OpenLess → 设置 → AI 服务与模型 → 语音识别 → 添加渠道 → 本地 Qwen3-ASR。

然后选择你想用的模型尺寸,点下载。下载完成后渠道会自动变成「已配置」状态。

本地 ASR 的优势

优势说明
完全离线音频不离开你的机器,真·本地优先
零持续成本不需要给任何云 ASR 按月付费或按调用计费
响应延迟低本地推理不经过网络,延迟由你电脑算力决定
热词支持本地实现也支持词典热词注入

本地 ASR 的劣势

劣势说明
精度不如顶级云 ASR0.6B 和 1.7B 是小参数量模型
首次下载体积大1.7B 模型下载要几百 MB
macOS 限制Windows 是实验状态,Linux/Android 还没出
功耗本地推理会用 CPU/GPU 资源

Apple Silicon 优化

在 Apple Silicon(M 系列芯片)的 Mac 上,OpenLess 可选是否编译 MLX 后端——MLX 是苹果开源的机器学习框架,直接用 Apple Neural Engine 和 GPU 做推理。开启后本地 ASR 速度会进一步提升。

编译 MLX 后端需要 Xcode 的 MetalToolchain 组件(仅从源码编译时需要,下载官方预编译 DMG 的用户不需要关心)。

本地 ASR vs 云 ASR 怎么选

建议:两者可以并存——先配一个云 ASR 跑通流程,再试一下本地 ASR 看看够不够用。哪个好用留哪个。