简介:面向需要在类Unix系统上安装并配置Ollama的用户,这份资源提供了一套完整的下载、安装与排障参考方案。压缩包内共3个文件,包括一个用于下载安装包的PHP脚本、一个可自动完成环境检查、依赖获取与权限设置的Shell脚本,以及一份说明安装前要求、操作步骤和常见问题排查方法的TXT文档。整体包体仅13KB,轻量且易于迁移至不同环境。资源对安装前需确认的操作系统版本、硬件资源、网络连通性进行了提醒,安装环节覆盖了脚本执行、权限调整、依赖安装等关键动作,安装后还指导用户完成环境变量配置与服务状态验证,并提供了针对下载超时、依赖缺失等问题的排查思路。当前已有437人学习下载,既适合初次接触Ollama的开发者按文档逐步操作,也能供运维人员参考脚本逻辑进行批量部署或二次开发。借助这套资源,用户可以显著减少手动配置的繁琐步骤,快速获得稳定可用的Ollama运行环境。
1. 你手头只有一台 8GB 内存的旧笔记本,却想体验本地跑大模型,这是 ollama 能解决的最典型场景。ollama 是一个本地大模型运行器,把模型下载、依赖打包、启动服务原本各搞一摊的事,压缩成一条命令。装好之后你不需要写 Python 代码,不需要手工装运行环境,在终端里输入 ollama run 加上模型名,模型就跑起来了,同时它默认监听一个本地端口,供其他程序调用。这篇文章只讲一件事:ollama 安装怎么落地,从硬件确认、系统选型、下载安装,到首次验证、踩坑排查,再到模型目录迁移和远程访问。适合第一次接触 ollama 的开发者,也适合帮同事或团队在服务器上快速部署的运维者。先亮明观点:装 ollama 本身不难,真正的门槛在安装前的选型和安装后的路径规划。
2. 安装前的准备:硬件门槛、系统选型与下载渠道确认
在我给团队和同事装过的机器里,翻车频率最高的环节从来不是安装命令本身,而是硬件评估没做对。很多人装完发现模型跑不起来,第一反应是 ollama 坏了,其实多数情况是这台机器根本带不动目标模型。所以在下载安装包之前,先把配置这件事想清楚。
2.1 硬件要求怎么看:显存、内存、硬盘各看哪个数
先给结论:决定你能跑哪个量级模型的顺序是内存和显存,其次是硬盘空间,最后才是 CPU 代数。ollama 分发的模型大多是 4-bit 量化格式,一个 7B 参数模型大概占 4GB 硬盘空间,运行时还会占用相近大小的内存。量化格式的好处是显存和内存占用被压得很低,8GB 内存机器也能跑 3B 到 7B 的轻量模型;代价是精度和原始权重有差距,但对日常问答、代码生成这类场景完全够用。
- NVIDIA 显卡:优先考虑。ollama 对 CUDA 的支持最成熟,安装好后自动用显存加速,7B 模型推理基本在每秒几十 token 量级。
- AMD 显卡:新版 ollama 已经支持 ROCm,但配置比 NVIDIA 麻烦一点,部分老显卡型号还需要手动设置 HSA_OVERRIDE_GFX_VERSION 才能加载。
- 纯 CPU:能跑,速度慢一个数量级。8GB 内存跑 1.5B 模型,每秒 5 到 10 个 token,适合文本分类、简单问答这类不追求速度的场景。
| 使用场景 | 推荐内存 | 推荐硬盘可用空间 | 建议模型规模 |
|---|---|---|---|
| 轻量实验、入门体验 | 8GB | 10GB | 1.5B ~ 3B |
| 日常问答、代码辅助 | 16GB | 30GB | 7B ~ 13B |
| 开发测试、长上下文任务 | 32GB 以上 | 60GB 以上 | 30B 级量化模型 |
硬盘方面有个容易被忽略的点:模型文件不是装完就固定在安装目录,而是默认下载到用户主目录下的 .ollama 隐藏目录里。如果你的系统盘空间紧张,一定要看第 4.3 节的 OLLAMA_MODELS 配置,把模型目录指到数据盘,否则装完跑几个模型就能把系统盘塞满。这是我最想提醒的一件事,很多人要等到磁盘爆红才想起来后悔药在哪。
2.2 操作系统选型:Windows、macOS、Linux 各自的安装路径
ollama 安装对系统并不挑剔,但不同系统的体验差别很大。个人电脑上,Windows 最省心,下载安装包双击完事,后台服务自动托管,不用碰命令行;macOS 这边 Apple Silicon 芯片的 GPU 加速效果很好,M 系列芯片跑 7B 模型的速度接近中端独立显卡,安装包拖拽进应用程序目录就能用。服务器场景则基本是 Linux 的天下,因为要用 systemd 管理服务生命周期、设置开机自启,还要考虑多用户共享模型文件。
选系统时要留意的是架构而不是版本。x86_64 和 arm64 是两套独立的二进制包,Intel Mac 和 Apple Silicon Mac 的安装包不一样,Linux 服务器也要先确认处理器架构。一个常见翻车点是:在 ARM 服务器上硬跑 AMD64 的安装脚本,结果报错说找不到可执行文件。拿不准架构时,用 uname -m 或 lscpu 看一眼再决定下载哪个包。
2.3 下载渠道确认:官网安装包与包管理器的取舍
常见做法是先访问官网下载页,按系统挑安装包,这是最不容易出错的路径,因为拿到的是官方编译好的二进制,依赖都打包在里面。macOS 用户如果已经重度使用 Homebrew,可以 brew install ollama,好处是升级方便,一条命令搞定,缺点是版本可能比官网滞后几天。Linux 服务器上还有一条 curl 管道脚本的路子,适合一次性部署,但生产环境我一般不直接管道执行,而是先下载脚本看一眼再跑,这个细节放在第 4 章展开。
有一点要提醒:安装包和脚本都不要从第三方站点下载。ollama 的安装包体积不小,有些网站在下载页上挂了自己打包的“优化版”,来源不明的二进制包我劝你别碰。你无法知道里面多了什么东西。
3. 桌面端安装实操:Windows 与 macOS 的安装和首次验证
桌面端的安装体验最接近普通软件,但正因为像普通软件,反而容易忽略几个小细节。这一章把 Windows 和 macOS 两条路走一遍,每一步都给出确认方法,最后落到首次拉起模型。
3.1 Windows 安装:下载安装包、确认后台服务、跑通版本验证
Windows 上的安装流程很简单:打开官网下载页,点 Windows 安装包,下载完成后双击运行。安装过程不需要选择安装目录,默认装到当前用户目录,这一步对新手友好,但对老手来说也是第一个坑——你没法通过“选目录”来控制模型下载位置,只能在装完后用环境变量补上。
安装完成后,任务栏托盘会出现 ollama 的图标,说明后台服务已经在跑。此时打开一个全新的终端窗口输入:
ollama --version# 如果返回版本号,说明安装成功;如果提示 command not found, # 大概率是终端窗口在安装之前就打开了,PATH 环境变量没有刷新。正常情况下命令会返回类似 0.5.x 这样的版本号。这里要注意一个细节:装完 ollama 后,如果之前开着 PowerShell 或 CMD,必须全部关掉再重新开,否则新写入的 PATH 不会生效。很多人在这一步卡住,以为自己装失败了,其实是窗口没重启。
如果你安装时遇到系统弹窗、提示缺少运行时组件,最常见的元凶是缺少 VC++ 运行库。ollama 的 Windows 版依赖微软的 VC++ Redistributable,缺了它安装程序会报错。解决方法是去微软官网下载对应的运行库装上,再重新运行 ollama 安装包。这个问题不常见,但遇到了会让人一头雾水,因为报错提示不会直接说“缺少 VC++”。
3.2 macOS 安装:官网安装包与 Homebrew 两条路径怎么选
macOS 上我一般推荐大部分人走官网安装包:下载 zip 压缩包,解压后把 Ollama.app 拖进应用程序目录,首次打开时如果提示“来自互联网的 App”,需要去系统设置的隐私与安全性里点允许。这一步和安装其他 macOS 软件没有区别。
另一条路是 Homebrew:
brew install ollama# brew 会自动处理依赖和 PATH,升级时执行 brew upgrade ollama 即可。已经用 Homebrew 管理软件的人,这条路径更顺手,升级也统一。但不建议为了装 ollama 专门去装 Homebrew,明明白白一个拖拽安装能解决的问题,没必要引入一个包管理器。
Apple Silicon 的 Mac 会自动调用 GPU 加速,不需要额外配置。Intel Mac 也可以用,但推理速度会明显慢一些。装完同样用 ollama --version 验证,接下来进入首次模型拉取。
3.3 首次验证:拉取一个轻量模型并进入对话
安装完成只是第一步,真正检验安装结果的是能不能跑起模型。在终端里依次执行三条命令:
ollama list ollama run qwen2.5:1.5b# ollama list 列出本地已下载的模型,刚装完是空列表; # ollama run qwen2.5:1.5b 会先自动下载 1.5B 参数版本模型,然后进入交互对话。第一次跑模型会看到进度条,qwen2.5:1.5b 的下载体积在 1GB 左右,取决于网络环境可能需要几分钟。等进度条走完,出现 Send a message 提示后,输入“你好”回车,模型开始回复,安装这关就算真正通过了。
模型名里的 1.5b 是参数规模标记,数字越大模型能力越强,但对内存的要求也越高。首次体验建议从 1.5B 或 3B 起步,不要在 8GB 内存机器上一上来就拉 13B 模型——那不是安装问题,是硬件问题,后面第 5.5 节会专门讲这种翻车场景。如果下载中途断了,重新执行 ollama run 会从断点继续,不用从头开始。
4. Linux 服务器安装:脚本安装、离线部署与 systemd 配置
Linux 是生产环境的主战场,也是 ollama 安装细节最多的地方。脚本安装覆盖绝大多数场景,离线部署解决内网问题,systemd 配置决定服务能不能在服务器重启后自动恢复。这一章按顺序给出可复现的完整流程。
4.1 一键脚本安装与手动安装的差别
官方提供了一条 curl 管道安装脚本,一行命令能装完所有东西:
curl -fsSL https://ollama.com/install.sh | sh# -f 遇到 HTTP 错误就失败,-sSL 静默跟随重定向, # 脚本会自动检测系统发行版、架构,下载对应二进制并注册 systemd 服务。这条命令省事,但我不会在陌生服务器上直接执行。管道脚本的问题在于你把 root 权限交给了一段看不见内容的代码,万一下载源被劫持,你连审查的机会都没有。我的习惯是先下载后执行:
curl -fsSL https://ollama.com/install.sh -o install_ollama.sh less install_ollama.sh sh install_ollama.sh# -o 把脚本保存到本地文件,先看一遍内容再执行,查它调用了哪些路径, # 确认无误后再 sh 运行。多花两分钟,少踩一个安全坑。脚本安装和手动安装的区别在于:脚本会帮你创建名为 ollama 的系统用户、把二进制放到 /usr/local/bin、写一份 systemd service 文件并启动服务。手动安装则适合特殊环境,比如你自己规划了安装路径,或者服务器在内网无法访问外网。
4.2 离线环境部署:解压二进制包、配置 systemd 服务
内网服务器装 ollama 是经常遇到的场景。做法是在一台能访问外网的机器上下载对应架构的 Linux 压缩包,通过内部文件系统传到目标服务器,然后手动部署。
# 在目标服务器上创建安装目录并解压 sudo mkdir -p /opt/ollama sudo tar -C /opt/ollama -xzf ollama-linux-amd64.tgz sudo ln -s /opt/ollama/ollama /usr/local/bin/ollama ollama --version# tgz 压缩包里是 ollama 主程序和运行库,解压后不要只拷走二进制, # lib 目录里的动态库缺失会导致启动直接报错。 # ln -s 建软链接,是为了让系统 PATH 里能找到命令,不污染自定义安装目录。解压完成后,用 systemd 托管服务才能实现开机自启和崩溃自动拉起。新建 /etc/systemd/system/ollama.service,内容如下:
[Unit] Description=Ollama Server After=network-online.target [Service] ExecStart=/opt/ollama/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="OLLAMA_HOST=0.0.0.0" Environment="OLLAMA_MODELS=/data/ollama/models" [Install] WantedBy=default.target# ExecStart 必须指向你实际解压的二进制绝对路径; # User/Group 用专用低权限用户运行,避免服务以 root 身份暴露风险; # Restart=always 保证进程意外退出后自动拉起; # Environment 里定义的两个变量是安装完最重要的配置,分别控制监听地址和模型存放目录。写完后执行:
sudo systemctl daemon-reload sudo systemctl enable --now ollama systemctl status ollama# daemon-reload 让 systemd 重新读取新增的 service 文件; # enable --now 同时完成开机自启和立即启动; # status 查看服务状态,看到 active (running) 说明部署成功。这里有个容易踩的坑:如果服务文件里写了 User=ollama,但 /data/ollama/models 这个目录的所有者是 root,模型下载时会报 permission denied。必须执行 chown -R ollama:ollama /data/ollama/models 把目录归属交给 ollama 用户,否则第一次拉模型就会失败。
4.3 环境变量配置:自定义模型目录与监听地址
ollama 的默认行为是把模型文件放在用户主目录的 .ollama/models 下,端口监听 127.0.0.1:11434。这两个默认值在个人电脑上没问题,在服务器上通常要改。
OLLAMA_MODELS 指定模型存放目录。服务器上系统盘通常不大,数据盘挂在 /data 或 /opt 下,这个变量几乎必改。Linux 上修改 systemd 配置的推荐做法是:
sudo systemctl edit ollama# systemctl edit 会打开一个 override 文件,不会动原始 service 文件。 # 在 [Service] 段下追加: # Environment="OLLAMA_MODELS=/data/ollama/models" # 保存后执行 sudo systemctl restart ollama 生效。OLLAMA_HOST 控制监听地址。默认只监听本地回环地址,意味着局域网内其他机器访问不到这个服务。需要让别的机器调用模型时,设置为 0.0.0.0:11434。但要注意,这只解决了监听问题,防火墙端口放行和鉴权是另一回事,直接暴露到公网的风险在第 6 章说明。
Windows 上改这两个变量要走系统环境变量面板,改完必须退出任务栏托盘图标再重新启动 ollama,否则不生效。这个细节经常被忽略,改完发现没变化,怀疑是配置写错了。
5. 安装避坑指南:5 个高频失败场景与排查思路
这一章把安装和首次运行阶段最常见的几个坑集中写出来。每一条都是实际遇到过的问题,按现象、原因、解决的思路整理,排查时可以直接对照。
5.1 安装包下载慢或中断,重下又从头开始
现象:安装包或模型文件下载到一半停住,或者进度条卡在某个百分比不动,重试发现又要从头下。
原因:网络环境波动导致的下载中断,以及下载工具没有断点续传能力。这种问题最容易误判为安装本身出错,有些人反复卸载重装,其实问题出在下载环节。
解决:优先改用浏览器直接下载安装包,浏览器通常有断点续传;避免在终端里用 wget 直接拉大文件,除非加了 -c 参数支持续传。下载完对比文件大小与官网标注是否一致,大小对不上说明文件不完整,需要重下。模型文件下载中断不用慌,重新执行 ollama run 会从断点继续,这是 ollama 内置的行为,不需要删除重来。
5.2 装完报 command not found:PATH 没刷新的三种情况
现象:安装过程没有任何报错,但打开终端执行 ollama --version 提示 command not found。
原因:第一种,Windows 的终端窗口在安装前就打开了,PATH 变量没有刷新;第二种,Linux 下手动部署时没有把二进制目录加入 PATH;第三种,安装被安全软件静默拦截,实际没有完成。
解决:Windows 先关掉所有命令行窗口再重开,如果还是找不到,检查环境变量里是否包含 ollama 的安装路径。Linux 下执行 which ollama,如果没有任何输出,说明 PATH 里没有这个命令,回到第 4.2 节用 ln -s 建软链接。第三种情况去安全软件的拦截记录里看有没有 ollama 相关的提示,有的话放行后重新安装。
5.3 Windows 服务无法启动:端口被占用或防火墙拦截
现象:任务栏 ollama 图标存在,但浏览器访问 http://127.0.0.1:11434 没有响应,或者翻开日志看到 bind: address already in use。
原因:11434 端口被其他程序占用了。这个端口虽然没有 80 或 443 那么热门,但在某些装了监控工具、内部管理系统的机器上,被占的情况并不少见。
解决:先看端口占用情况。
netstat -ano | findstr 11434# 最后一列是占用进程的 PID,去任务管理器里确认是什么程序, # 如果确认可以释放,结束该进程;如果不方便释放,给 ollama 换端口。 # 换端口方式:设置用户环境变量 OLLAMA_PORT=11435,重启 ollama。防火墙拦截的表现不太一样,服务正常启动但外部访问不到,本地访问正常。这种情况去防火墙入站规则里放行 ollama 的端口,或者允许 ollama.exe 通过。第 6 章讲远程访问时还会提到这个点。
5.4 Linux 下模型下载报 permission denied
现象:systemd 服务已经起来,执行 ollama run 拉模型时,日志里出现 mkdir: permission denied 或者文件写入失败。
原因:服务文件里指定了 User=ollama,但模型存放目录 OLLAMA_MODELS 指向的 /data/ollama/models 属于 root 用户,低权限用户往里写文件自然被拒绝。
解决:把目录所有权交给 ollama 用户。
sudo mkdir -p /data/ollama/models sudo chown -R ollama:ollama /data/ollama/models sudo systemctl restart ollama# chown -R 递归设置目录所有者,ollama:ollama 分别是用户名和组名。 # 改完之后再拉模型就能正常写入。这个坑还有个变种:如果手动安装时直接用 root 身份运行 ollama serve,那确实没有权限问题,但生产环境不建议这么干。低权限用户运行服务,配合目录授权,才是正常的部署方式。
5.5 启动后立刻退出或被系统杀掉
现象:ollama run 命令执行后,模型加载到一半进程消失,或者服务状态从 active 变成 failed,有的服务器上连个报错都看不到。
原因:内存不足被系统 OOM Killer 杀掉。8GB 内存机器强行跑 13B 模型,加载权重那一刻内存立刻见底,系统为了自保会直接终止进程。另一个可能原因是模型文件下载不完整,导致启动校验失败。
解决:先确认内存压力。
free -h dmesg | grep -i oom# free -h 看可用内存是否还有余量,dmesg 里如果有 oom-kill 记录, # 直接坐实是内存不足被杀,不是安装问题。处理方式只有两条路:换更小参数的模型,或者给机器加内存。这个问题在 8GB 机器上非常普遍,不算安装 bug,但误判率极高。我的习惯是先看 dmesg 再下结论,不要凭感觉重装系统。
6. 装完之后接着做:模型目录迁移、远程访问与版本升级
安装验证通过之后,有三件小事值得马上做,因为它们决定了这个环境能用多久。
第一件是确认模型目录的位置。个人电脑上默认放在用户目录里,服务器上建议迁移到数据盘。Linux 下用第 4.3 节的 systemctl edit 加 OLLAMA_MODELS 环境变量,然后手动把旧目录下的模型文件搬过去:
sudo mkdir -p /data/ollama/models sudo mv ~/.ollama/models/* /data/ollama/models/ sudo systemctl restart ollama# mv 搬移模型文件比重新下载省时间,一个 7B 模型几个 GB, # 重新下载的时间和带宽成本都不划算。第二件是远程访问。设置 OLLAMA_HOST=0.0.0.0 后,确认监听地址:
ss -lntp | grep 11434# 看到 0.0.0.0:11434 说明监听正常,再放行防火墙端口即可。 # 注意:ollama 本身没有鉴权机制,监听 0.0.0.0 意味着内网所有机器 # 都能调用你的模型、查看对话历史,不要直接暴露到公网。这个安全意识是我吃过亏换来的。之前在某公司内部服务器上开了远程访问,忘了关防火墙端口,结果被同事误打误撞调走了 GPU 资源。后来我养成的习惯是:先确认监听地址,再开放端口,两层缺一不可,最好在前面加一层带鉴权的反向代理。
第三件是升级。ollama 更新频率不低,Windows 和 macOS 直接下载新版安装包覆盖安装;Linux 上重跑一次安装脚本即可,模型文件在 OLLAMA_MODELS 目录下不受影响。升级前看一眼当前版本和发布说明,别在刚发布的版本上跑生产任务,让新版本先飞一会儿。希望帮到你。
本文还有配套的精品资源,点击获取