DeepSeek本地部署全攻略：从Ollama安装到Open WebUI图形界面

简介：这份资源是一份面向AI推理部署与深度学习开发者的DeepSeek模型本地化部署指南，适合具备一定软硬件基础、希望降低云服务成本并深入理解大模型底层机制的研究人员与工程师。内容围绕Ollama安装、按显存规模选择DeepSeek-R1参数量版本、Docker容器化与Open WebUI图形界面接入等环节展开，覆盖从命令行加载到浏览器登录验证的完整链路。资源包共1个docx文档，约15KB，以图文步骤与命令清单形式组织，便于按硬件条件对照执行。目前已有5229人学习下载，读者可借此掌握一套通用的大规模语言模型本地部署方案，理解不同显存配置与模型规模的匹配逻辑，并积累容器管理与服务暴露的实操经验，为后续科研或类似项目落地提供可复用的参考路径。

1. 从一张显卡到一套本地推理服务：DeepSeek 部署到底在解决什么

手里只有一张 8G 显存的卡，却想跑一个能写代码、能读长文档的推理模型，这事放在两年前基本等于做梦。现在用 Ollama 把 DeepSeek 拉下来，命令行敲一行ollama run就能对话，整个过程不超过二十分钟。但真到要把它接进自己的工具链、让团队里其他人也能访问、还要控制上下文长度和并发的时候，问题就来了——模型选哪个尺寸、显存怎么算、Docker 和 Open WebUI 到底该不该上、拉模型卡在 99% 怎么办。这篇就把 DeepSeek 本地部署从裸机到图形界面这条链路拆开，每一步都落到具体命令和参数上。适合手头有个人电脑或工作站、想把大模型跑在自己机器上的开发者和研究员，也适合想先摸清 LLM 推理底层机制再决定要不要上云的人。

2. Ollama 安装与 DeepSeek 模型选型：显存和参数量怎么对上

2.1 Ollama 在不同系统上的安装路径与验证

Ollama 的定位是一个本地模型运行时，它把模型权重、推理引擎和 API 服务打包成一个常驻进程。Windows 下装完之后系统托盘会出现一个羊驼图标，说明后台服务已经起来了；macOS 和 Linux 则是通过命令行或包管理器完成。安装本身不复杂，关键是装完要验证服务是否真的在监听。

Windows 用户直接去官网下载.exe安装包，双击一路下一步即可。macOS 用户可以用 Homebrew：

# macOS 通过 Homebrew 安装 Ollama brew install ollama # 启动 Ollama 后台服务（首次需要手动启动） ollama serve

Linux 用户官方提供了一键脚本：

# Linux 一键安装脚本 curl -fsSL https://ollama.com/install.sh | sh # 验证安装是否成功，查看版本号 ollama --version

安装完成后，无论哪个系统，都用同一条命令验证服务状态：

# 列出当前已下载的模型，同时验证服务是否响应 ollama list

如果这条命令返回一个空列表而不是报错，说明 Ollama 服务已经在后台正常运行。这里有个细节：Windows 安装后服务是自动注册为开机启动的，macOS 用 brew 安装的话需要手动ollama serve或者配置 launchd，Linux 脚本安装会自动创建 systemd 服务。我一般会在安装后立刻跑一次ollama list，确认服务端口 11434 没有被其他程序占用——这个端口冲突是后面很多玄学问题的根源。

2.2 按显存选模型尺寸：1.5B 到 70B 的对应关系

DeepSeek-R1 系列提供了从 1.5B 到 70B 多个蒸馏版本，选型的核心依据就是显存。模型参数量和显存占用之间有一个粗略的换算关系：FP16 精度下每 10 亿参数大约占 2GB 显存，但 Ollama 默认使用 4-bit 量化，实际占用会降到约四分之一。下面这张表是实际部署时最常参考的对应关系：

选好版本后，直接在命令行拉取并运行：

# 拉取并运行 DeepSeek-R1 的 7B 版本 # Ollama 会自动下载模型权重并启动交互式对话 ollama run deepseek-r1:7b # 如果需要指定 32B 版本 ollama run deepseek-r1:32b

命令执行后会出现一个进度条，下载完成后直接进入对话界面。这里要注意：ollama run第一次执行时会先拉取模型再运行，如果模型已经存在则直接启动。下载的模型文件默认存放在用户目录下的.ollama/models文件夹里，Windows 是C:\Users\用户名\.ollama\models，Linux 和 macOS 是~/.ollama/models。如果系统盘空间紧张，可以通过设置环境变量OLLAMA_MODELS来改变存储路径。

提示：显存刚好卡在边界值时（比如 8G 卡跑 8B 模型），建议把上下文长度从默认的 2048 降到 1024 或 512，否则推理过程中容易触发 OOM 导致模型被强制卸载。

2.3 模型拉取失败与显存不足的排查思路

拉取过程中最常见的两个问题是网络中断导致下载卡住，以及显存不足导致模型加载后立即退出。前者表现为进度条长时间不动，后者表现为ollama run后直接报错或闪退。

网络问题的排查方式是先确认 Ollama 服务是否在正常运行，然后尝试手动拉取：

# 单独拉取模型，不立即运行，方便观察下载状态 ollama pull deepseek-r1:7b # 如果下载中断，重新执行 pull 会断点续传 ollama pull deepseek-r1:7b

显存不足的判断更直接，运行模型时另开一个终端窗口，用nvidia-smi观察显存变化：

# Linux / Windows WSL 下查看 GPU 显存占用 nvidia-smi # 关注 Memory-Usage 这一行，如果接近显卡总显存 # 说明模型加载后剩余空间不足以支撑推理

如果确认是显存不够，解决办法有三个：换更小参数的模型版本、降低上下文长度、或者把模型层部分卸载到 CPU（Ollama 会自动做这件事，但速度会明显下降）。我一般会先用 1.5B 版本跑通整个流程，确认 Ollama 服务和命令行交互没问题之后，再根据实际显存往上换版本，这样能把环境问题和模型问题分开定位。

3. Docker 与 Open WebUI：把命令行对话变成浏览器里的图形界面

3.1 Docker 安装与 Windows 下的重启注意事项

命令行里跟模型对话适合调试，但日常使用还是图形界面更顺手。Open WebUI 是一个开源的 Web 前端，通过 Docker 部署后可以在浏览器里像用在线服务一样跟本地模型交互。前提是先把 Docker 装好。

Windows 下从 Docker 官网下载 Docker Desktop 安装包，双击安装，所有选项保持默认。安装完成后必须重启系统，这一步不能跳过——Docker 需要加载 WSL2 内核组件，不重启的话容器启动会报内核版本不匹配的错误。重启后首次打开 Docker Desktop，会弹出服务条款窗口，同意之后建议注册一个账号，虽然不注册也能用，但注册后可以避免一些功能限制提示。

验证 Docker 是否正常工作：

# 查看 Docker 版本信息，确认客户端和服务端都正常 docker version # 运行一个测试容器，确认容器运行时没问题 docker run hello-world

如果docker version只显示 Client 部分而没有 Server 部分，说明 Docker 后台服务没有启动，需要手动打开 Docker Desktop 或者检查 WSL2 是否安装正确。

3.2 Open WebUI 容器启动命令逐段拆解

Open WebUI 的官方启动命令看起来很长，但每一段都有明确作用。先把完整命令贴出来，再逐段解释：

# 启动 Open WebUI 容器，连接到宿主机上的 Ollama 服务 docker run -d \ -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main

逐段说明：

• -d：后台运行容器，不占用当前终端窗口。
• -p 3000:8080：把容器内部的 8080 端口映射到宿主机的 3000 端口，之后在浏览器访问http://localhost:3000就能打开界面。
• --add-host=host.docker.internal:host-gateway：在容器内添加一个主机名解析，让容器能通过host.docker.internal访问到宿主机上运行的 Ollama 服务。这是整个命令里最关键的一段，少了它容器里的 Open WebUI 就找不到 Ollama。
• -v open-webui:/app/backend/data：创建一个名为open-webui的数据卷，挂载到容器内的数据目录，这样容器重启后对话记录和配置不会丢失。
• --name open-webui：给容器起一个固定名字，方便后续用docker stop open-webui和docker start open-webui管理。
• --restart always：设置容器随 Docker 服务自动启动，机器重启后 Open WebUI 也会自动恢复。
• 最后一行是镜像地址，main标签表示拉取最新版本。

命令执行后，用docker ps确认容器状态：

# 查看正在运行的容器，确认 open-webui 状态为 Up docker ps # 如果容器没有正常运行，查看日志排查 docker logs open-webui

3.3 首次登录与模型连接验证

容器启动后，打开浏览器访问http://localhost:3000，会看到 Open WebUI 的注册页面。第一个注册的账号自动成为管理员，所以建议用自己常用的邮箱和密码注册。注册完成后进入主界面，在模型下拉菜单里应该能看到之前用 Ollama 拉取的 DeepSeek 模型。

如果下拉菜单是空的，说明 Open WebUI 没有连上 Ollama。排查步骤是：先确认 Ollama 服务在宿主机上正常运行（ollama list有输出），再确认容器内的网络能通到宿主机。可以在容器内执行一条测试命令：

# 进入 open-webui 容器内部 docker exec -it open-webui bash # 在容器内测试是否能访问宿主机的 Ollama 服务 curl http://host.docker.internal:11434/api/tags

如果这条命令返回了模型列表的 JSON 数据，说明网络是通的，问题出在 Open WebUI 的配置上，需要在设置里手动把 Ollama 地址填成http://host.docker.internal:11434。如果 curl 报连接拒绝，那就是 Ollama 服务没有监听在外部可访问的地址上，需要检查 Ollama 的启动参数。

注意：Open WebUI 的对话数据存储在 Docker 数据卷里，卸载容器时如果加了-v参数会把数据卷一起删掉，对话记录就找不回来了。升级镜像前建议先备份数据卷。

4. 避坑与排查：部署 DeepSeek 本地环境时最容易翻车的五个点

4.1 模型下载卡在 99% 不动

现象：ollama pull进度条走到 99% 之后长时间没有变化，终端也没有报错。

原因：Ollama 在下载完成后需要对模型文件做校验和格式转换，这一步在大模型上耗时较长，尤其是 32B 以上的版本。另外如果磁盘剩余空间不足，校验阶段会静默失败。

解决：先检查模型存储目录所在磁盘的剩余空间，确保至少有模型体积两倍以上的空余。然后耐心等待五到十分钟，如果仍然不动，用Ctrl+C中断后重新执行ollama pull，Ollama 会从断点继续。实在不行就删除.ollama/models下对应的临时文件重新拉取。

4.2 Docker 容器启动后浏览器打不开 3000 端口

现象：docker ps显示 open-webui 容器状态是 Up，但浏览器访问localhost:3000显示连接被拒绝。

原因：Windows 下 Docker Desktop 的端口映射有时会被系统防火墙拦截，或者 3000 端口已经被其他程序占用。

解决：先用netstat -ano | findstr 3000检查端口占用情况，如果被占用就换一个宿主机端口，比如把-p 3000:8080改成-p 3001:8080。如果是防火墙问题，在 Windows 安全中心里给 Docker Desktop 放行入站连接。

4.3 模型加载后回答速度极慢

现象：模型能正常对话，但每生成一句话要等十几秒甚至更久。

原因：显存不足导致 Ollama 把部分模型层卸载到了 CPU 上推理，CPU 推理速度比 GPU 慢一个数量级。另一种可能是上下文长度设得太大，超出了显存承载能力。

解决：用nvidia-smi确认推理时 GPU 利用率是否跑满。如果 GPU 利用率很低而显存占用很高，说明模型层被分到了 CPU。换更小参数的模型版本，或者在ollama run时通过参数限制上下文长度：

# 启动时指定上下文窗口为 1024，减少显存压力 ollama run deepseek-r1:7b --parameter num_ctx 1024

4.4 Open WebUI 里模型列表为空

现象：Open WebUI 界面正常打开，但模型下拉菜单里没有任何选项。

原因：容器内的 Open WebUI 默认连接http://localhost:11434，但容器里的 localhost 指向容器自身，不是宿主机。必须显式配置成host.docker.internal。

解决：进入 Open WebUI 的设置页面，找到 Ollama 连接地址配置项，改成http://host.docker.internal:11434，保存后刷新页面。如果设置页面里找不到这个选项，用docker exec进容器手动改配置文件，或者删掉容器重新用完整命令启动。

4.5 系统重启后 Ollama 服务没有自动启动

现象：重启电脑后ollama list报连接错误，需要手动执行ollama serve才能恢复。

原因：不同系统的服务注册方式不一样。Windows 安装包会自动注册开机启动，但 macOS 用 brew 安装的不会，Linux 一键脚本安装的会创建 systemd 服务但有时会被禁用。

解决：Linux 下用systemctl enable ollama确保开机自启，macOS 下用brew services start ollama注册为后台服务。Windows 下如果托盘图标没出现，去安装目录手动运行一次ollama app.exe，它会重新注册启动项。

5. 进阶技巧：用 API 把本地 DeepSeek 接进自己的工具链

命令行和 Web 界面都跑通之后，真正让本地模型产生价值的做法是把它当成一个 API 服务来用。Ollama 默认在 11434 端口暴露了兼容 OpenAI 格式的接口，这意味着任何支持 OpenAI SDK 的代码都可以直接切换到本地模型，不需要改业务逻辑。

先验证 API 是否可用：

# 查看当前可用的模型列表 curl http://localhost:11434/api/tags # 发送一个对话请求，测试推理接口 curl http://localhost:11434/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "deepseek-r1:7b", "messages": [{"role": "user", "content": "用一句话解释什么是量化"}], "temperature": 0.7 }'

返回的 JSON 结构跟 OpenAI 的接口一致，choices[0].message.content就是模型的回答。这意味着你可以把现有项目里openai.ChatCompletion.create的base_url改成http://localhost:11434/v1，api_key随便填一个非空字符串，就能把请求转发到本地模型上。

用 Python 写一个最小可用的调用示例：

# 使用 OpenAI SDK 调用本地 Ollama 服务 from openai import OpenAI # base_url 指向本地 Ollama 的兼容接口 # api_key 必填但本地服务不校验，随便填一个非空值 client = OpenAI( base_url="http://localhost:11434/v1", api_key="ollama" ) response = client.chat.completions.create( model="deepseek-r1:7b", # 换成你本地已拉取的模型名 messages=[ {"role": "system", "content": "你是一个简洁的助手"}, {"role": "user", "content": "写一个 Python 快速排序"} ], temperature=0.3, # 代码生成场景建议调低 max_tokens=1024 # 控制单次生成长度，避免显存溢出 ) print(response.choices[0].message.content)

这段代码里有两个参数值得单独说。temperature控制输出的随机性，写代码时设 0.2 到 0.3 比较稳，创意类任务可以调到 0.8 以上。max_tokens限制单次生成的最大 token 数，设得太大不仅占显存，还会让响应变慢，一般对话场景 512 到 1024 够用。

还有一个实际部署时容易忽略的点：Ollama 默认只允许本机访问，如果想让局域网内其他机器也能调用，需要设置环境变量OLLAMA_HOST=0.0.0.0后重启服务。但这样做之前要想清楚，本地模型服务没有任何鉴权机制，暴露到网络上等于把推理能力完全开放。我一般只在开发机上临时开一下，验证完就改回来。

从那以后我每次部署完本地模型，都会先用curl打一次 API 确认接口通，再跑一段 Python 脚本验证 SDK 调用链路，最后才去配图形界面。这个顺序能保证出问题时定位在具体哪一层，而不是在一堆组件里来回猜。希望帮到你。

本文还有配套的精品资源，点击获取