Journal / 2026 / AI技术
两个 Swift 包:在苹果设备上换掉语音与决策引擎
2026 年 10 月 29 日,Mattt 发布两个 Swift 包:AnySpeechRecognizer 在苹果 Speech API 下换用 Parakeet 或 Qwen3-ASR,AnyDecisionModel 用概率而不是生成文本来做是/否、多选与评分。本文依据官方博客与两个代码仓库整理。

目录 · 1405 字 / 3 分钟
2026 年 10 月 29 日,Mattt 在 Hugging Face 博客上介绍了两个 Swift 包:AnySpeechRecognizer 和 AnyDecisionModel。它们解决的是同一类问题——苹果平台自带了一套 API,但背后只有苹果自己的模型;如果你不想用,过去只能自己重写整条链路。
这两个包的做法是保留 API 形状,把引擎变成可替换的。
AnySpeechRecognizer:保留苹果的语音 API
macOS 26 和 iOS 26 引入了 SpeechAnalyzer,这是苹果新的语音转文字 API。你往里加 SpeechTranscriber、SpeechDetector 之类的模块,喂文件或音频流,再从 async sequence 里读结果。
AnySpeechRecognizer 把这套接口镜像了一遍:
- 默认引擎仍然是苹果的 Speech 框架。
- 换引擎时,通常只需要改 import,再改创建 transcriber 的那一行。
- 目前可选 NVIDIA 的 Parakeet 和阿里巴巴的 Qwen3-ASR,都在本地通过 Core ML 跑。
- 额外加了说话人分离,用来标记谁在什么时候说话。
对已经有代码的人,迁移成本主要在这里:把 import Speech 换成 import AnySpeechRecognizer,然后决定用哪个模型。
模型与数字
博客给的模型分工:
- Parakeet v3 是 NVIDIA 的 Parakeet TDT 0.6B v3,支持 25 种欧洲语言,并且会自动判断听到的是哪种语言,不需要传 locale。
- Parakeet Ultra 是 Moondream 在 v3 上后训练的版本,作者说在大多数测量里更准。
- Parakeet Unified 是 NVIDIA 的英语版本。
- Qwen3-ASR 也能跑,但慢得多,内存要几 GB。
实测环境是 M4 Max Mac Studio、macOS 27.0.1,音频是 LibriSpeech 的 3 到 8 分钟文件。词错误率(WER)的关键几项:
- Parakeet v3 文件转写:test-clean 1.55%,test-other 2.78%。
- 苹果自带 transcriber 文件转写:test-clean 2.12%,test-other 3.97%。
- Parakeet Unified 文件转写:test-clean 1.43%,test-other 2.19%。
速度方面,博客说 Parakeet 处理一小时音频,从文件跑约 20 到 40 秒,实时输入约 1.5 到 2.5 分钟,Core ML 编译后内存约 100 MB。
但作者也给了一个不好看的数字:在 AMI 这种多人抢话的会议录音上,他们测的每个引擎 WER 都超过 23%。也就是说,换个更好的模型,解决不了「多人同时说话」这个场景。
AnyDecisionModel:用概率做决定
第二个包针对的是另一类需求:让模型回答是/否、从几个选项里选一个、或者给一个评分。
常见做法是提示语言模型生成文本,再解析输出。问题是,你只拿到一个答案,看不到模型给各个选项分配的概率。AnyDecisionModel 改成直接从模型的概率里取答案:
- 返回类型化的结果,带概率。
- 支持是/否、多选、评分三种问题。
- 可以跑在设备上的 MLX、Core AI 或 llama.cpp 模型,也可以接 Jev 或 Ollama 的决策模型。
- 两个包都能从 Hugging Face Hub 下载开放模型,在本地运行。
对做客服分流、工单归类、情绪打分这类应用,概率比一段生成文本更有用:你可以设阈值,把「不确定」的样本交给人。
需要保留的地方
- 语音的 WER 数字来自一台 M4 Max 和几个数据集,作者自己说要用自己的硬件和音频重测。
- 目前只在 macOS 27 上测过,没有测 iPhone。
- Parakeet 的「25 种欧洲语言」不等于中文支持;中文场景要单独验证。
- AnyDecisionModel 依赖底层模型本身的质量,概率校准好不好,决定了阈值有没有意义。
- 这是两个开源 Swift 包,不是苹果官方组件;API 形状跟随苹果,但长期兼容性要自己盯。
参考来源
本文基于以下公开报道整理:
- Introducing AnySpeechRecognizer and AnyDecisionModel: Open Models for Speech and Decisions on Apple Platforms — Hugging Face 博客,2026-10-29
- mattt/AnySpeechRecognizer — GitHub 仓库
- mattt/AnyDecisionModel — GitHub 仓库
本文由 AI 辅助整理,事实与引文来自 Hugging Face 博客与两个 GitHub 仓库;未在苹果设备上实测,配图后续补充。
所属主题
TopicsAI 观察 AI Insights
技术与工具 Tech & Tools