news 2026/8/3 14:03:29

【AI开发必备】Dify接入本地大模型实战指南,小白也能5分钟搞定!告别API收费,手把手教你搭建私有知识库!

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
【AI开发必备】Dify接入本地大模型实战指南,小白也能5分钟搞定!告别API收费,手把手教你搭建私有知识库!

基于此,本文对上一篇内容做个补充,主要介绍Dify如何接入本地模型。

对于先前已经搭建好的知识库,需要简单调整。

一、Dify接入本地大模型

如何用Dify接入本地大模型?

需要查看本地是否用Ollama成功部署大模型。

1、 如果你已经在本地部署了大模型。

可以直接在主页->设置->模型供应商中全局配置

配置成功后可看到Ollama

2、如果本地还没有安装模型,

核心步骤如下:

1、下载安装Ollama

官网地址:https://ollama.com/download/windows

点击下载windows 版本,其它版本网上自行检索

2、双击运行

点下一步,无脑安装。

3、检测是否安装成功

windows+R ,输入命令

C:\Users\admin>ollama -v

出现相应的版本号即为安装成功

4、本地部署大模型

考虑到本地机器性能,以接入deepseek-r1为例,用Ollama部署

选取模型规格及参数

接入deepseek-r1:14b,看到发送消息这个对话提示就是安装成了

5、Dify接入本地大模型(重要!!!)

好了,现在用Ollama部署了本地大模型。

这里不在赘述。

到此,我们具备了以下条件:

  • Ollama本地部署deepseek大模型成功.
  • Docker 部署Dify成功

接下来正式操作如何接入本地模型?

关键点:这里需要填写以下内容

  • 基础 URL (Base URL):ollama部署的地址。
  • 模型名称:(必须与本地部署的大模型名字完全一致,个人使用的是deepseek-r1:14b,就配置)
  • 模型类型:对话 (Chat)上下文
  • 长度:4096 (根据显存情况调整)

踩坑!!!:如果你的 Ollama 跑在宿主机上,Dify 跑在 Docker 里,Base URL 千万别填 localhost!

正确姿势:

Mac/Win:http://host.docker.internal:11434Linux: http://172.17.0.1:11434 (Docker 网关 IP)

设置中可视化配置如下:

好了,到这里基本完成Dify本地接入大模型。

知识库配置本地模型

最后,回到知识库本地化模型配置。

详细配置修改如下:

1、点击进入已经建好的知识库

2、点击模型设置,选择本地模型

可以看到已显示本地部署的模型

3、测试验证

那么,如何系统的去学习大模型LLM?

作为一名深耕行业的资深大模型算法工程师,我经常会收到一些评论和私信,我是小白,学习大模型该从哪里入手呢?我自学没有方向怎么办?这个地方我不会啊。如果你也有类似的经历,一定要继续看下去!这些问题啊,也不是三言两语啊就能讲明白的。

所以我综合了大模型的所有知识点,给大家带来一套全网最全最细的大模型零基础教程。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。

由于篇幅有限,⚡️ 朋友们如果有需要全套 《2025全新制作的大模型全套资料》,扫码获取~

👉大模型学习指南+路线汇总👈

我们这套大模型资料呢,会从基础篇、进阶篇和项目实战篇等三大方面来讲解。

👉①.基础篇👈

基础篇里面包括了Python快速入门、AI开发环境搭建及提示词工程,带你学习大模型核心原理、prompt使用技巧、Transformer架构和预训练、SFT、RLHF等一些基础概念,用最易懂的方式带你入门大模型。

👉②.进阶篇👈

接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。

👉③.实战篇👈

实战篇会手把手带着大家练习企业级的落地项目(已脱敏),比如RAG医疗问答系统、Agent智能电商客服系统、数字人项目实战、教育行业智能助教等等,从而帮助大家更好的应对大模型时代的挑战。

👉④.福利篇👈

最后呢,会给大家一个小福利,课程视频中的所有素材,有搭建AI开发环境资料包,还有学习计划表,几十上百G素材、电子书和课件等等,只要你能想到的素材,我这里几乎都有。我已经全部上传到CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

相信我,这套大模型系统教程将会是全网最齐全 最易懂的小白专用课!!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/3 15:18:12

Playwright 文件上传与下载完成判断全指南

在自动化测试或网页数据交互场景中,文件上传与下载是极为常见的操作。Playwright 作为强大的自动化测试工具,不仅能模拟用户触发上传和下载行为,更能精准判断操作是否完成。 本文将从原理到实践,全面讲解如何利用 Playwright 实现…

作者头像 李华
网站建设 2026/8/3 15:19:17

Open-AutoGLM非root权限实战指南(99%人忽略的关键细节)

第一章:Open-AutoGLM非root权限配置的核心挑战在无 root 权限的系统环境中部署 Open-AutoGLM 模型推理服务时,面临诸多权限与资源隔离带来的技术难题。受限于用户级操作权限,常规依赖安装、端口绑定和系统级服务注册等操作均无法直接执行&…

作者头像 李华
网站建设 2026/8/3 15:30:56

从模糊到精准:Open-AutoGLM指令解析优化全流程详解,效率提升200%

第一章:从模糊到精准——Open-AutoGLM指令意图识别优化的演进之路在自然语言处理领域,指令意图识别是构建智能对话系统的核心环节。早期的Open-AutoGLM模型虽具备基础语义理解能力,但在面对模糊、多义或上下文依赖较强的用户指令时&#xff0…

作者头像 李华
网站建设 2026/8/3 15:14:46

独家披露:顶尖AI工程师都在用的Open-AutoGLM Mac环境配置方案

第一章:Open-AutoGLM macOS 适配设置在 macOS 系统上部署 Open-AutoGLM 框架时,需针对 Apple Silicon 芯片架构和系统安全策略进行专项配置。正确设置环境可显著提升模型推理效率并避免常见兼容性问题。安装依赖与环境准备 Open-AutoGLM 依赖 Python 3.1…

作者头像 李华
网站建设 2026/8/3 14:07:12

Open-AutoGLM操作序列优化实战(专家级调优技巧大公开)

第一章:Open-AutoGLM操作序列优化实战(专家级调优技巧大公开)在高并发场景下,Open-AutoGLM 的推理延迟与资源利用率高度依赖于操作序列的编排效率。通过精细化调度和算子融合策略,可显著提升端到端吞吐量。动态批处理配…

作者头像 李华