简介:这份 Word 教程面向希望摆脱在线 DeepSeek 服务拥堵、重视隐私与响应速度的开发者及 AI 爱好者,围绕本地部署给出从环境准备到交互使用的系统指引。包内仅含 1 个 docx 文档,大小约 1.28 MB,篇幅集中、便于按章节查阅;内容覆盖 Ollama 安装、按硬件配置选择 1.5B、7B 或 32B 等模型规格、模型下载与启动,以及用 ChatBox 配置本地模型完成图形化对话,并附工具与模型获取路径、常见问题说明,对内存、显存等硬件门槛与版本选择给出对应建议,便于减少反复试错成本。教程还提示当前方案暂不具备联网检索能力,帮助读者建立合理预期。已有 3698 人学习,适合想在平台不稳定或网络受限时保持研究、写作与开发连续性的读者,也可作为熟悉大模型本地运行流程的入门参考。
1. 先说清楚:本地部署到底是怎么一回事
说个几乎每个新手都遇到过的场景:你正赶着写点东西,打开网页版对话工具想让它帮忙起个头,结果进度条转了半天,最后弹出一句「当前访问人数过多,请稍后再试」。换个时间段再来,还是排队。要用的时候用不上,这事最让人窝火。
DeepSeek 本地部署,说白了就是原本跑在别人服务器上的模型,搬到你自己电脑里。装好之后,打开本机软件就能对话,不登录、不排队,断网也能聊——当然第一次下载模型还是得联网。这篇入门文专门写给完全没接触过的人:先讲清它是什么、值不值得学,再一步一步带你跑通第一个能对话的本地版本。不用懂算法,跟着敲几行命令就行。
2. 值不值得装:三个好处和两条边界先讲透
2.1 好处一:不用和别人抢,服务繁忙时你还能用
最直接的动力就是稳定可用。网页版模型的算力是共享的,赶上使用高峰,或者平台自己出现波动,你就会看到各种「服务繁忙」。本地部署之后,模型文件躺在你自己的硬盘里,算力来自你自己的内存和显卡,别人用不用、平台忙不忙,跟你这一次对话没有关系。
我第一次把 7B 版本跑起来那天,正好是晚上九点多的高峰时段,网页端一直在转圈,本地这边该出字还是出字,那种「这东西终于是我自己说了算」的感觉还挺上头。不过要把话说在前面:本地这套不是网页版的备份,它俩是两个独立的运行环境,网页端的历史对话不会同步过来,你得把它当成一个新工具来用。
对经常在固定时间写材料、做整理的人来说,这一点很实在——你不需要赌平台今天稳不稳,打开就能用。
2.2 好处二:数据留在自己电脑里,聊什么自己知道
第二个好处是隐私。用网页版的时候,你输入的每一句话都要先发到对方的服务器上,再等结果传回来。平时聊点无关紧要的当然没关系,可一旦涉及还没公开的方案、内部资料、个人笔记,很多人心里就会犯嘀咕:这些内容会存多久、会被谁看到,普通用户其实说不清楚。
本地部署把这条链路整个搬回了自己机器:输入的内容在本机计算,输出也在本机生成,不经过外部网络。你可以把它理解成「把笔记本锁进自己抽屉」,而不是「把笔记本寄给别人保管再要回来」。这不是玄学,是部署形态本身决定的。
当然也别把话说满:本地不等于绝对安全,你的电脑该做的防护还是要做,模型文件也可能被人拷走。它解决的是「对话内容不出本机」这一层,而不是包治百病。对隐私敏感的场景,这一层往往正好是最需要的。
2.3 好处三:响应更跟手,长任务不用提心吊胆
第三个好处是延迟和连续性。本地模型不用排队、不用等网络往返,输入之后基本是「按下回车就开始出字」。短对话你可能感觉不明显,但如果你让它帮你整理一份长清单、改写一段几百字的文字,一来一回几十次,网络版的等待会一点点磨掉耐心。
更关键的是连续性。网页版在生成长内容时,如果碰上服务波动,可能中途断掉,前面等的时间就白费了。本地跑的时候,只要你的电脑不关机、模型不崩,它就会一直算下去。这种「不怕被打断」的踏实感,用过一次就回不去了。
顺便说一句,本地部署对网络环境几乎没有要求,模型下载完之后,你在没有网络的地方也能继续用,出差路上、断网的会议室里都不耽误事。
2.4 两条边界和一份自检:什么情况下先别急着装
先说两条边界,免得你装完失望。
第一,按这份教程装出来的本地版本不带联网能力。它回答的内容只来自模型训练时学到的知识,你问它今天的新闻、最新的价格,它要么答不上来,要么答得不准。它的正确定位是一个「离线知识助手」,不是搜索引擎。
第二,模型不是越大越好。参数越大,对内存和显存的要求越高,硬跑超出配置的版本,轻则慢得让你想砸键盘,重则直接把电脑卡死。这不是软件问题,是硬件天花板。
装之前花两分钟做个自检,能省掉后面一堆麻烦:
- 看内存:右键「此电脑」→ 属性 → 已安装的内存,记下这个数字。
- 看显存:Ctrl+Shift+Esc 打开任务管理器 → 性能 → GPU,看专用显存有多少。
- 看硬盘:至少留出模型体积 1.5 倍的空闲空间,7B 版本准备 10GB 以上比较稳妥。
三项都对得上,就可以往下走了;对不上也没关系,后面会告诉你怎么选小一号的版本。
3. 第一步装底座:Ollama 安装与第一个模型跑通
3.1 Ollama 是干什么的:把它想成模型的应用商店
很多人第一次听到 Ollama 会懵:我又不是程序员,装这玩意干嘛?换个说法就懂了——把 Ollama 想成一个「应用商店 + 播放器」的合体。
模型本身是一堆放在服务器上的大文件,Ollama 负责三件事:把模型下载到本地、登记在册、按需启动。你不需要去官网手动翻文件夹,也不用自己配环境变量、编译什么东西,一条命令点名要哪个模型,它就去把哪个模型请出来。
这个设计对新手特别友好。没有 Ollama 之前,本地跑模型要装一堆依赖、改配置文件,光是环境就能劝退一半人。有了它,整个流程被压缩成「装一个软件 + 敲一行命令」,这也是这份教程把它放在第一步的原因。
3.2 下载安装:从官网到那个小图标
打开 Ollama 官网,页面上有一个 Download 按钮,点下去按你的系统下载对应安装包。Windows 上就是双击、下一步、完成,整个过程不需要改任何选项,默认设置就行。
装完之后,正常情况任务栏右下角会出现一个羊驼形状的小图标,说明它已经在后台待命了。验证方法我比较推荐两种:按 win 键打开搜索框,输入 Ollama,能搜到那个羊驼图标就说明装上了;或者按 win+R 输入 cmd 打开命令行,敲下面这条命令。
# 在命令行里输入 ollama 并回车 # 如果安装成功,会刷出一屏命令帮助信息 ollama这条命令不带任何参数,作用是「自报家门」:能刷出帮助信息,说明 Ollama 已经正确安装并且能被系统找到。如果提示「不是内部或外部命令」,先别慌,这多半只是终端没刷新,关掉重新打开一次通常就好了,第 5 章会专门讲这个坑。
3.3 三档模型怎么挑:1.5B、7B、32B 对着配置抄作业
装好 Ollama 之后,下一步是选模型。这里最容易犯的错是「贪大」——看到 32B 就觉得肯定更强,结果电脑跑不动,白白浪费时间。先看懂下面这张表,再对着自己的配置挑。
| 版本 | 大致硬件要求 | 适合谁 | 体验感受 |
|---|---|---|---|
| 1.5B | 4GB 内存 + 核显可跑 | 低配笔记本、想先走通流程 | 反应快,回答偏简单 |
| 7B | 8GB 内存 + 4GB 显存 | 大多数家用电脑,推荐入门 | 速度和质量的平衡点 |
| 32B | 32GB 内存 + 12GB 显存 | 高性能台式机、专业用户 | 回答更完整,硬件门槛高 |
表里的 B 指的是模型参数规模,数字越大,模型「见过的东西」越多,回答通常越完整,但同时对内存和显存的要求也越高。入门阶段我的建议很明确:先选 7B。大部分近几年的家用电脑都能跑起来,它也是「能感受到效果」和「不至于卡死」之间比较好的折中。
如果你的电脑内存只有 8GB 甚至更低,别硬上 7B,先从 1.5B 开始。流程是完全一样的,先把整条链路走通,知道自己会操作了,以后换机器再升级版本,学习成本几乎为零。
3.4 第一个例子:命令行里把 7B 模型跑起来
现在到了最关键的一步。按 win+R,输入 cmd,回车,打开命令行窗口,然后敲下面这条命令。
# 让 Ollama 下载并启动 7B 版本的模型 # 第一次执行会自动从模型仓库下载几个 GB 的文件,请保持网络畅通 ollama run deepseek-r1:7b这条命令可以拆成三段来读:ollama是命令本身,告诉系统「我要用 Ollama」;run是动作,意思是「下载并运行」;deepseek-r1:7b是模型的完整名字,冒号后面的7b就是版本标签。三段合起来,就是「用 Ollama 把 7B 这个版本的模型拉下来跑起来」。
回车之后,屏幕会先显示下载进度。模型有几个 GB,网速一般的话要等一会儿,期间不要关窗口。下载完成后,界面会出现一个提示符,这时候就可以直接打字提问了,比如输入「你好,介绍一下你自己」,回车就能看到它一个字一个字往外蹦。
想退出对话,输入/bye再回车,或者直接按 Ctrl+C,都会回到普通命令行状态。下次再想用,不用重新下载,再执行一次ollama run deepseek-r1:7b就行——模型已经在本地了,启动只要几秒。
3.5 确认与复查:ollama list 能看到什么
命令行里能对话,但很多人第一次用会心里没底:模型到底下没下完?装了几个?这时候就该ollama list出场了。
# 列出本机已经下载好的所有模型 ollama list执行后会出现一张小表格,通常有四列:NAME 是模型名字,ID 是一串标识,SIZE 是模型占用的磁盘空间,MODIFIED 是最后一次修改时间。只要在 NAME 那一列能看到deepseek-r1:7b,就说明模型已经稳稳地待在你的硬盘里了。
这个命令建议养成习惯,每隔一段时间敲一次。原因很实际:模型文件很占地方,试过几个版本之后,硬盘容易被塞满,用ollama list一眼就能看出来哪些是当时试完就忘了删的。搞清楚自己机器上有什么,是入门阶段最值得建立的一个小习惯。
4. 第二步换成顺手界面:ChatBox 接上本地模型
4.1 命令行能对话,为什么还要装 ChatBox
命令行里已经能聊了,为什么还要多装一个软件?因为命令行只适合「验证能不能跑」,不适合「天天用」。
你可以想象一下:窗口就那么大,回答一长就得往上滚;想复制一段内容,得用鼠标小心地选中;对话记录关掉窗口就没了,下次还得重新问;代码块混在文字里,看着也累。这些都不影响功能,但会一点点消耗你继续用下去的意愿。
ChatBox 解决的就是这一层体验问题。它本质上是一个聊天界面,把「你打字」和「模型回答」包装成了熟悉的对话窗口:有历史记录、有会话列表、能方便地复制内容、能调整字体和主题。模型还是那个本地模型,Ollama 还在后台干活,ChatBox 只是给它配了一个顺手的「外壳」。
4.2 安装 ChatBox:下完双击,一路下一步
从 ChatBox 官网下载 Windows 安装包,双击运行,按提示下一步就行,安装过程没什么需要特别设置的地方。装好之后打开,第一次启动可能会让你选界面语言或者登录账号,直接跳过登录,用本地模式就好——我们要连的是自己电脑上的模型,不需要云端账号。
如果打开后发现是英文界面,去设置里找语言选项切成中文,后面配置起来会顺很多。这一步不难,但对新手来说,界面语言不对会让人莫名紧张,先把这点解决掉,心态会稳不少。
4.3 配置本地模型:地址和模型名这两格最关键
打开 ChatBox 之后,找到设置入口,选择「使用自己的 API Key 或本地模型」。如果你手快把这个引导窗口关掉了,也别急,通过「设置」→「添加自定义提供方」还能回到同一个配置页面。
接下来是几个关键项,按下面这样填:
- 提供方类型:选 Ollama,因为模型是 Ollama 在管理。
- API 地址:填
http://127.0.0.1:11434。 - 模型名称:填
deepseek-r1:7b,必须和ollama list里看到的完全一致。
地址里那个11434是 Ollama 在本机监听的端口,相当于门牌号,删掉或者改错就连不上。127.0.0.1代表「本机自己」,意思是让 ChatBox 去找这台电脑上的服务,而不是去网上找。模型名称这一格最容易被写错,大小写、冒号、版本号,任何一处对不上都会导致列表里选不到模型。
填完点保存,配置就生效了。如果保存按钮点完没反应,先检查一下 Ollama 是不是还在后台运行,图标还在不在。
4.4 第一次测试:输入「你是谁」看它怎么答
配置保存之后,新建一个对话,在输入框里敲「你是谁」,回车。几秒钟内如果它回答自己是 DeepSeek-R1,就说明整条链路已经通了:ChatBox 把你的问题发给本机的 Ollama,Ollama 调用本地模型生成回答,再传回界面显示出来。
这一步的意义不只是「能聊了」,更是「链路验证通过」。以后遇到问题,比如回答变慢、界面报错,第一反应都应该是回到这个测试:先在 ChatBox 里问一句「你是谁」,看它答不答;不答就回命令行跑一次ollama run,看模型本身正不正常。一层一层往回查,比盲目重装有效得多。
提示:到这里装好的本地版本不具备联网功能,问它实时新闻、最新数据是答不上来的,这是正常现象,不是装错了。
5. 新手避坑:五个最容易翻车的地方和排查顺序
5.1 坑一:命令行提示「ollama 不是内部或外部命令」
现象:敲完ollama或者ollama list回车,命令行返回一行红字或者英文提示,说找不到这个命令。
原因:Windows 安装程序会把 Ollama 加进系统路径,但已经开着的命令行窗口不会自动刷新,它拿的还是旧的那份环境信息。
解决:先关掉当前命令行窗口,重新按 win+R 输入 cmd 打开一个新的,再敲一次。还不行就重启一次电脑,让系统重新加载路径。如果依然报错,说明安装过程可能没走完,重新运行安装包选修复或重装一遍。
5.2 坑二:拉模型卡在下载,进度条半天不动
现象:执行ollama run deepseek-r1:7b之后,进度条停在一个数字上很久不动,或者速度慢到让人怀疑人生。
原因:模型文件有几个 GB,下载走的是模型仓库的服务器,速度受你的网络状况和对方服务器负载影响,偶尔会中断。
解决:按 Ctrl+C 中断,再执行同一条命令,Ollama 支持断点续传,已经下好的部分不会白费。也可以换到网络空闲的时段再试。如果实在等不了,教程配套的网盘里放了离线文件,直接拿来用能省掉这段等待。
5.3 坑三:模型跑起来了,电脑却卡得没法用
现象:对话开始之后风扇狂转,鼠标拖动都一顿一顿的,开个浏览器要等好几秒。
原因:模型参数超出了你的内存或显存承受范围。7B 版本在 8GB 内存的机器上,系统本身还要占一部分,留给模型的空间就不够了,系统只能频繁地在内存和硬盘之间倒腾数据。
解决:先输入/bye退出当前模型,然后换成 1.5B 版本重新跑。同时关掉其他占内存的程序,浏览器标签页是最容易忽略的大户。如果长期要用,加内存条比换软件更立竿见影。
5.4 坑四:ChatBox 连不上本地模型,一直转圈
现象:在 ChatBox 里发消息,界面一直显示加载中,或者弹出连接失败之类的提示。
原因:可能是 Ollama 后台服务没启动,也可能是 API 地址或模型名写错了。这两个原因占了新手问题的大多数。
解决:先回命令行跑一次ollama run deepseek-r1:7b,确认模型本身能正常回答;再回到 ChatBox 的设置里核对地址是不是http://127.0.0.1:11434、模型名是不是和ollama list里一字不差。按这个顺序查,基本都能定位到问题。
5.5 坑五:以为本地版能上网搜资料
现象:问它今天的新闻或者某个最新数据,它给了一个看着像模像样但其实过时甚至编造的答案。
原因:本地模型只有训练时学到的知识,不带实时检索能力,它不知道「今天」发生了什么。
解决:调整预期,把它当离线知识助手用,适合整理、改写、解释概念这类不依赖实时信息的任务。想要联网,需要额外搭配检索工具或插件方案,那是装好之后下一步再考虑的事。
6. 下一步学什么:从「能跑」到「用得顺」的三步路
装好只是起点,接下来怎么走,我按优先级给你排一下。
第一周,先把手感练熟。别急着研究参数,每天用它处理一件真实的小事:整理一份待办清单、把一段口语改写成书面语、让它解释一个你不太懂的概念。这一步的目的是建立「什么时候该用它」的直觉。同时留意上下文长度——聊得太长它会变慢,学会在合适的时候开新对话,比装十个插件都管用。
第二周,摸清自己机器的边界。把 1.5B 和 7B 都跑一遍,对比回答质量和速度,你就知道自己这台电脑大概在什么档位。以后看到别人推荐更大的模型,也不会盲目跟风。
| 阶段 | 目标 | 具体动作 |
|---|---|---|
| 第一周 | 用顺 | 每天一次真实对话,练习提问和追问 |
| 第二周 | 摸边界 | 对比 1.5B 与 7B 的速度和回答质量 |
| 一个月 | 扩展能力 | 了解联网检索、本地知识库这类方案的大致思路 |
一个月左右,可以开始了解两个方向。一个是提问方式,也就是怎么把问题描述清楚,这决定了同样的模型能发挥出几成水平;另一个是联网和知识库,让本地模型能查资料、能读你自己的文档,这部分比装软件复杂一些,但基础已经打好了,学起来不会太吃力。
从那以后我每次换新机器,第一件事永远是跑一遍「你是谁」,确认从命令行到界面整条链路都通了,再去干别的。这个习惯帮我省掉了很多「以为装好了其实没通」的返工。希望帮到你。
本文还有配套的精品资源,点击获取