我介绍了自己使用 Obsidian 结合 PARA 方法论搭建起了自己的本地知识库，同时介绍了如何使用 Gemini CLI 让 Obsidian 有了强大的 AI 能力。
虽然 Gemini 很强，但它毕竟是云端模型，将私人的笔记数据发送到云端始终是许多人心中的一根刺。
今天来介绍下我是如何使用本地 Ollama + Qwen 3 模型，结合Obsidian构建真正的本地隐私 RAG（检索增强生成）知识库的。我的目标很明确：打造一个完全离线、绝对隐私、且懂你的私人 AI 助理。
为什么要 “完全本地化”？
Obsidian 的核心价值观是“Your data is yours”（你的数据属于你）。当我们把所有的思考、日记、工作计划都记录在这些 Markdown 文件中时，它们就构成了我们的"第二大脑"。
然而，传统的云端 AI 助手存在天然的悖论：
- 隐私泄露风险：要让 AI 懂你，就得把数据发给它；发给它，数据就离开了你的控制。
- 网络依赖： 非常依赖于在线网络，如果断网就完全不可用。
- 数据安全：你的个性化模型在云端服务，如果云服务停止运营，个人训练的模型也就消失了。
如果你有一台还不错的电脑，那么构建本地 RAG知识库就完美解决了这个问题：数据不出门，推理在本地，不仅安全又高效。
我想要的是什么？
有了构建的想法，接下来就是如何实施。其实一直以来，我都渴望拥有一个能记忆个人敏感信息的智能体助理。我可以放心地将一些个人或家人的敏感数据交给它，而它也能随时准确地回答我的提问。
比如我可以问它：“我爸妈的身份证号是多少？”“我去年过年的年夜饭都吃了什么？”“今年的车险我是什么时候缴的？”“六一儿童节晚上我和孩子们聊了什么？”涉及隐私的细节问题。
因为我们使用 Obsidian 作为知识库，所有的知识都存储在本地。配合 Thino 插件，可以实现类似于 Flomo 的灵感记忆存储。我便将这个插件与日记功能结合起来，专门用来记录生活中的琐事。
之前一直没有找到实现这个目标的有效路径，直到我使用 Obsidian 作为我的知识库，我这个想法才真正的变成了现实。
构建的底层原理：什么是 RAG？
构建个人知识库智能问答体，其实标准的做法那就是 RAG。
什么是 RAG？RAG (Retrieval-Augmented Generation，检索增强生成)最简单理解是：它给大模型（LLM）配了一个实时查阅的“外挂数据库”或“离线手册”。
大模型虽然强大，但有两个致命伤：
- 幻觉（Hallucination）：没见过的数据它会一本正经地胡说八道。
- 知识滞后：它的知识停留在训练结束的那一天（比如 2023 或 2024 年）。
RAG 的核心思想：既然模型不能实时记住所有新知识，那就在回答问题前，先去“书架”上把相关的资料查出来，贴在 Prompt 后面发给模型：“请参考以下资料回答问题”。
所以我们只要把我们的 Obsidian 本地知识库作为外挂知识库让本地的模型参考，那他就可以基于这些知识回答我们的问题。
但是一般的模型并不能直接读取原始的文档，这中间需要一个对文档建立索引的过程，也就是将文档向量化。具体的过程如下：
- 读取：扫描 Obsidian 库中的 .md文件。
- 切片：把长文章切分成一个个小的文本块（Chunks）。
- 嵌入 (Embedding)：利用 BGE-M3 模型，将这些文本块转换成高维向量。比如，“Obsidian 插件配置” 这段文字会被转化成一组代表其语义的数字。
- 存储：将这些向量存入本地的 ChromaDB 数据库。
完成这一步后，我们的知识库内容就可以被大模型检索和识别了。接下来就是第二步：大模型通过 RAG 的方式回答我们的私人问题。
它首先会识别用户的问题，把用户的问题也转成向量，然后在 ChromaDB 中快速寻找与问题最相关的笔记片段（Top-K）。将找出的文档块拼接到 Prompt 中，调用本地的推理模型生成答案，我使用的本地推理模型是 qwen-corder3:30b。
构建属于自己的 MyGPT
构建本地知识库也有很多种选择，也有些开源的产品选择，比如 RAGFlow 或者 PrivateGPT。我个人是选择了自己开发，有以下几个原因：
- RAGFlow 虽然能力很强但是特别的重，它需要跑 Docker，启动一堆服务。
- PrivateGPT 虽然相对轻量，但也需要一定的研究成本，且最重要的是，我希望能够进行高度的个性化定制。
因此，我用electron构建了一个 mac 原生的应用，其中的核心模块之一就是 MyGPT。目前，这个 MyGPT 已经完美实现了上述的个人知识库问答功能。未来，我还计划加入工具调用功能，从而实现真正的本地 Agent。
如上图所示，我可以问：“我今年的取暖费交了没，交了多少钱？”它不仅能精准地告诉我答案，还会列出原始文档的参考来源。点击这个参考来源，可以直接跳转到 Obsidian 的原始文档，这是许多其他 RAG 产品所无法做到的体验。
利用同样的方法，我也将吴军老师的一些内容制作成了知识库，作为我的第三方外部知识库加以利用。我可以在做问答的时候选择加载的知识库。
如何系统的学习大模型 AI ？
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
一直在更新，更多的大模型学习和面试资料已经上传带到CSDN的官方了，有需要的朋友可以扫描下方二维码免费领取【保证100%免费】👇👇
01.大模型风口已至：月薪30K+的AI岗正在批量诞生
2025年大模型应用呈现爆发式增长，根据工信部最新数据：
国内大模型相关岗位缺口达47万
初级工程师平均薪资28K（数据来源：BOSS直聘报告）
70%企业存在"能用模型不会调优"的痛点
真实案例：某二本机械专业学员，通过4个月系统学习，成功拿到某AI医疗公司大模型优化岗offer，薪资直接翻3倍！
02.大模型 AI 学习和面试资料
1️⃣ 提示词工程：把ChatGPT从玩具变成生产工具
2️⃣ RAG系统：让大模型精准输出行业知识
3️⃣ 智能体开发：用AutoGPT打造24小时数字员工
📦熬了三个大夜整理的《AI进化工具包》送你：
✔️ 大厂内部LLM落地手册（含58个真实案例）
✔️ 提示词设计模板库（覆盖12大应用场景）
✔️ 私藏学习路径图（0基础到项目实战仅需90天）
第一阶段（10天）：初阶应用
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- Prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- Prompt 攻击和防范
- …
第二阶段（30天）：高阶应用
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
第三阶段（30天）：模型训练
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
第四阶段（20天）：商业闭环
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …
学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。
如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。
