大家好,我是独孤风。
上一篇,我们手把手带大家用 Docker 成功部署了 Dify。
现在,Dify 这个“AI 工厂”的厂房和流水线已经通电了。但是,它目前还只是一个“空壳子”。
为什么?因为它没有“大脑”。
Dify 本身不生产大模型(LLM),它是一个“AI 应用开发与运营平台”(LLMOps),它的核心能力是“管理”和“编排”。
今天,我们就来完成 Dify 的“灵魂注入”——初始化设置,并零成本接入最强的大模型。
第一步:创建“工厂厂长”
这是你访问 Dify 的第一步。
打开浏览器,访问 http://localhost (或者你的服务器 IP)。 你将看到 Dify 的“管理员初始化页面”。
注意: 这是你整个 Dify 实例的“超级管理员”(root 用户),拥有最高权限。请务必使用一个安全的密码。
第二步:进入“空工厂”
登录后,你将看到 Dify 的主界面——“工作室 (Studio)”。
此时,如果你尝试“创建应用”,会发现“模型”那一栏是空的,什么也干不了。因为“大脑”还没接上。
第三步:“模型供应商”——AI 大脑的“插槽”
点击右上角头像 -> 设置 -> 模型供应商。
这就是 Dify 作为“AI 中台”的核心优势。它不是“绑定”某一个模型,而是提供了一堆标准化的“插槽”。
不管是国外的 GPT-4、Claude,还是国产的 DeepSeek、通义千问,甚至是你在本地跑的 Llama3,都能像插优盘一样“插”进来,统一管理。
第四步:接入DeepSeek
Dify 只是“插槽”,你必须自己有“模型”的 `API Key`。
实战:
我们以一个国产大模型“Deepseek”为例(国内访问快,注册方便)。
配置 Dify:
随后进入Dify的模型供应商设置,安装DeepSeek模型。。
弹出一个配置框,你只需要把你的 Key 粘贴到 API_KEY 框里。
点击“保存”。
保存后,你会看到“DeepSeek”的状态从“待配置”变成了“已激活”。Dify 会自动拉取这个 Key 下所有可用的模型。
我们工程师关心的安全问题:
我的 Key 存在 Dify 里安全吗?
Dify 官方提到:“Dify 使用了 PKCS1_OAEP 来加密存储用户托管的 API 密钥,每个租户均使用了独立的密钥对进行加密,确保你的 API 密钥不被泄漏。”
对于“私有化部署”的我们来说,Key 就存在我们自己的服务器(的db 容器)里,数据 100% 在内网,非常安全。
第五步:实战——接入“免费”的模型
不想直接调用厂商API的同学,我们可以直接用国内最香的方案:硅基流动 (SiliconFlow)。
理由很简单:
速度快:国内直连。
真免费:它聚合了 DeepSeek V2.5、Qwen 2.5 等顶尖模型,目前大量模型免费试用,还送余额。
操作步骤:
获取 Key:去硅基流动官网注册,复制你的 API Key(sk-开头的)。
配置 Dify:
在模型供应商里找到 SiliconFlow(或选 OpenAI-API-compatible)。
粘贴 Key。
Model 选型:推荐 deepseek-ai/DeepSeek-V2.5(代码/逻辑最强)或 Qwen/Qwen2.5-72B。
我们还可以在这里找到Embedding 模型,这是未来做RAG应用的关键。
第六步:配置本地模型 Ollama
再上一篇Ollama入门宝典,已经讲过这个问题了,我们再来复习一下。
在供应商里找到“Ollama”。
点击“安装”。
安装好以后,在ollama这里点击添加模型。
这里需要填写 基础 URL (Base URL)。
模型名称:qwen3:8b (必须与 ollama list 中的名字完全一致)
基础 URL:ollama部署的地址
模型类型:对话 (Chat)
上下文长度:4096 (根据显存情况调整)
核心坑点:如果你的 Ollama 跑在宿主机上,Dify 跑在 Docker 里,Base URL 千万别填 localhost!
Mac/Win:填 http://host.docker.internal:11434
Linux:填 http://172.17.0.1:11434 (Docker 网关 IP)
点击 “添加”。Dify 会尝试 ping 这个地址。
✅ 成功:没有任何报错,模型状态显示为“正常”。
Dify 会自动拉取你本地的模型。至此,你的 Dify 真正实现了“完全私有化”。
总结与福利
今天,我们完成了 Dify 部署后最关键的一步:注入灵魂。 现在,你的 AI 工厂已经拥有了国内最强的云端大脑,以及最安全的本地大脑。
万事俱备,只欠“原料”。
下一篇,我们将正式开始“生产”。 我将带你做一个 “数据治理知识库” ,建立你自己的私有知识库!
🎁为了帮大家真正把知识库落地,我建了一个 AI工程化实战群。
群里都是真正在搞技术的兄弟,我们会持续探讨dify、ollama、rag、worflow、agent相关知识。
👉 关注「大数据流动」,后台回复关键词【dify】,立刻加入!
我是独孤风,我们下期见。
👇 戳左下角「阅读原文」,访问我们的开源仓库点个 Star ⭐️