FreeFlow本地模型部署指南:用Ollama打造完全离线的Mac语音转文字方案
【免费下载链接】freeflowFree & fast alternative to Wispr Flow项目地址: https://gitcode.com/gh_mirrors/freeflo/freeflow
FreeFlow 是一款免费开源的 Mac 语音转文字(听写)应用,是 Wispr Flow 的免费替代品。它的强大之处在于:你不仅可以用默认的云端 API,还可以把模型换成Ollama运行的本地模型,打造一套完全离线、隐私可控的语音转文字方案。这篇指南将带你一步步完成 FreeFlow 本地模型部署,让你的语音数据永远不离开这台 Mac。
为什么需要完全离线的语音转文字?
大多数听写应用会把你的录音上传到云端处理,这意味着你的会议纪要、商业邮件、代码片段都可能经过第三方服务器。而 FreeFlow 本身没有自有服务器(详见 README.md 的 Privacy 一节),只要再把后端换成本地 Ollama,就能实现:
- 🔒零数据外泄:录音和文字全程在本机处理
- 🚀无月度订阅:不用为 AI 服务付费
- 🛡️断网可用:飞机上、会议室里照常听写
💡 适合场景:处理敏感商业文档、医疗/法律文本、内网环境办公。
方案原理:FreeFlow 如何对接 Ollama
FreeFlow 的架构非常灵活:所有 AI 请求都发往一个可配置的OpenAI 兼容 API 端点。默认地址是 Groq 云端,只要把它改成 Ollama 的本地地址(http://localhost:11434/v1),LLM 部分就完全跑在你的 Mac 上了。
配置项集中在设置界面中,源码见 SettingsView.swift:
| 设置项 | 作用 | 离线方案中填什么 |
|---|---|---|
| API Base URL | LLM 后端地址 | http://localhost:11434/v1 |
| Post-Processing Model | 文本清理/编辑模型 | 你拉取的 Ollama 模型 ID,如qwen3:8b |
| Transcription API URL | 语音转文字端点(可选,留空则用 Base URL) | 本地 Whisper 服务地址,或留空走云端 |
第一步:安装 FreeFlow 与 Ollama
- 下载 FreeFlow.dmg,拖入 Applications 完成安装(支持 Apple Silicon 与 Intel 全系 Mac)
- 安装 Ollama,并在终端执行一条命令拉取模型,例如:
ollama pull qwen3:8b选什么模型?文本清理是轻量任务,8B 级别的模型在 Apple Silicon 上速度就很不错;追求质量可以上 14B 甚至更大(ModelConfiguration.swift 中列出了官方推荐的模型清单,可参考其规格)。
第二步:在设置中配置本地模型
打开 FreeFlow 的设置面板,按下面填三个位置:
- API Base URL:填入
http://localhost:11434/v1(Ollama 的 OpenAI 兼容端点) - Post-Processing Model:填入模型 ID,如
qwen3:8b;Fallback Model可填一个备用模型,防止主模型繁忙时听写失败 - Transcription Model / Transcription API URL:默认 Whisper 模型走的是 Groq 云端。若想 100% 离线,需要另起一个提供
/v1/audio/transcriptions端点的本地 Whisper 服务,并在此处单独填写地址——这正是 FreeFlow 把转录端点拆出来单独配置的用意(实现见 TranscriptionService.swift)
💡折中方案:只把 LLM 清理切到本地、转录仍走免费云端,也是很多用户的选择——语音识别对隐私敏感程度低于"AI 改写你的文字",且省去了额外部署。
第三步:为本地模型延长超时时间(关键!)
本地模型冷启动较慢,FreeFlow 默认网络超时为 20 秒,长录音可能超时失败。用 macOS 的defaults命令即可延长(README.md 提供了完整说明):
defaults write com.zachlatta.freeflow transcription_timeout_seconds -float 120 defaults write com.zachlatta.freeflow post_processing_timeout_seconds -float 120 defaults write com.zachlatta.freeflow context_request_timeout_seconds -float 120想恢复默认值,把write换成delete执行相同三行即可。
常见问题与性能建议
Q:本地模型比云端慢很多,正常吗?正常。README 也提示本地模型在冷启动、长录音和高负载时会更慢。建议:保持 Ollama 常驻、选量化版本(如q4_k_m)、录音尽量短。
Q:如何确认配置成功?按住Fn说一句"测试本地离线模式",文字能被自动清理标点、去除"嗯啊"等口水词,说明本地 LLM 链路已通。
Q:想更保守地控制 AI 改写行为?可以把 README.md 中的"Simple post-processing prompt"粘贴到自定义系统提示词设置里,让清理只修错不改意。
总结
FreeFlow 本地模型部署的核心就三步:装好 Ollama 拉取模型 → 把 API Base URL 指向http://localhost:11434/v1→ 延长超时时间。配置完成后,你就拥有了一套免费、快速、完全离线的 Mac 语音转文字方案。更多功能细节(自定义词库、编辑模式、语音宏)欢迎继续探索 Sources/ 下的源码与 README.md。
【免费下载链接】freeflowFree & fast alternative to Wispr Flow项目地址: https://gitcode.com/gh_mirrors/freeflo/freeflow
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考