简介：本资源是一份面向深度学习开发者的双系统环境搭建实战指南，专为 Windows 11 用户平滑迁移至 Ubuntu 24.04 并完成 AI 开发栈部署而设计，兼顾新手引导与进阶提速需求。内容覆盖 Ubuntu 24.04 安装、NVIDIA 驱动适配、CUDA 12.2 与 cuDNN 8.9.6 安装配置、Anaconda 环境管理、PyTorch 虚拟环境创建及 VS Code/PyCharm 集成等完整链路，附关键命令、环境变量设置、验证方法与典型排错提示（如驱动安装后 WiFi 失效的解决方案）。资源为单文件 PDF 文档，共 1 个，大小 1.74MB，结构清晰、图文结合，便于离线查阅与快速执行。目前已有 17640 人学习下载，实测步骤经作者在真实硬件环境反复验证，显著降低多版本兼容性踩坑风险，是构建稳定本地 GPU 开发环境的高复用性参考材料。
1. 这不是装系统，是给你的电脑“接上AI的电源”：Ubuntu 24.04 + NVIDIA 显卡驱动 + CUDA 全链路到底是什么？
你是不是也遇到过这种场景：
想跑一个 PyTorch 训练脚本，结果torch.cuda.is_available()死活返回False；
或者在 VS Code 里点开终端，敲nvidia-smi，提示“command not found”；
又或者好不容易下了个.run文件，双击打不开，右键属性一看——“不可执行”……
别急，这不是你手残，而是你还没给电脑装上那根关键的“AI供电线”。
这根线，就是Ubuntu 24.04（操作系统） + NVIDIA 驱动（显卡身份证） + CUDA（GPU 编程接口） + cuDNN（深度学习加速包）组成的一整套协同工作链。它不玄乎——你可以把它想象成：
✅ Ubuntu 是你家的“新装修毛坯房”（干净、开源、专为开发者优化）；
✅ NVIDIA 驱动是“水电工”，负责把显卡硬件和系统连通，让电脑“认得”这张卡；
✅ CUDA 是“插座标准”，定义了程序怎么往 GPU 上插电、怎么分配电流；
✅ cuDNN 是“智能配电箱”，把常见的卷积、归一化等操作直接预装好，省得你每次重写轮子。
这套组合，专治“明明有 RTX 4090 却只能用 CPU 跑模型”的心梗。它不是给程序员看的炫技配置，而是零基础也能搭起来的 AI 开发地基——只要你有一台 Windows 11 笔记本或台式机（带独立 NVIDIA 显卡），就能双系统共存，不删 Windows，不丢数据，稳稳当当把 GPU 算力真正用起来。
本文就是为你写的“第一根电线接法说明书”：不讲原理黑匣子，不堆术语云山雾罩，只带你从下载 ISO 开始，一步步点亮nvidia-smi的绿色小字，跑通第一个torch.cuda.is_available()为True的 Python 脚本。新手照着做，3 小时内能完成；老手跳读加粗步骤，15 分钟快速复现。
2. 为什么非得是 Ubuntu 24.04？先搞懂这个选择背后的“三不原则”
很多新手一上来就问：“我能不能直接在 Windows 里装 CUDA？”
答案是：能，但会踩坑；而 Ubuntu 24.04 是目前最省心、最顺滑、最接近“开箱即用”的选择。这不是跟风，而是基于三个硬核事实总结出的“三不原则”——不绕弯、不降级、不妥协。
2.1 不绕弯：Ubuntu 24.04 原生支持最新 NVIDIA 驱动，免手动编译
Windows 下装 CUDA，常要手动下载.exe、勾选一堆组件、再配环境变量，稍错一步就报错；而 Ubuntu 24.04（代号 Noble Numbat）自带 Linux 内核 6.8，对 NVIDIA RTX 40 系、Ampere 架构显卡原生兼容性极强。它的“软件与更新”工具里，NVIDIA 驱动版本直接显示为nvidia-driver-535或更高（对应 CUDA 12.2+），点击安装后自动处理内核模块签名、DKMS 编译、X11 配置——你不用敲make、不用查dkms status、更不用重启进 recovery 模式修 initramfs。
提示：这是实测血泪经验——某开发者曾用 Ubuntu 20.04 装 RTX 4070，因内核太老反复失败，换 24.04 后 10 分钟搞定。原因很简单：新版内核已把常见显卡 ID 写进源码，驱动无需“猜型号”。
2.2 不降级：CUDA 12.2 是当前 PyTorch/TensorFlow 官方推荐的“黄金搭档”
查 PyTorch 官网（https://pytorch.org/get-started/locally/）你会发现：
torch==2.3.0（2024 年主流版本）明确要求 CUDA 12.1 或 12.2；torchvision==0.18.0的 wheel 包名里直接写着cu121或cu122；- TensorFlow 2.16+ 同样只提供 CUDA 12.2 的预编译二进制。
而 Ubuntu 24.04 的官方仓库默认提供cuda-toolkit-12-2，apt 安装即可，不用像旧版那样手动下.run文件、禁用 Nouveau、改 GRUB 参数——这些“玄学步骤”全被系统封装掉了。你装的不是 CUDA，是“PyTorch 能直接认的 CUDA”。
2.3 不妥协：双系统比 WSL2 更真实、比虚拟机更高效
有人会说：“我用 WSL2 不香吗？”
WSL2 确实方便，但它本质是 Linux 内核运行在 Windows Hyper-V 上，GPU 加速需额外启用 WSLg + CUDA on WSL，且仅支持部分显卡（如 RTX 3060 及以上），RTX 40 系支持仍不稳定；而 VMware/VirtualBox 虚拟机则根本无法直通 GPU。
Ubuntu 24.04 双系统是唯一能让你：
🔹 直接调用nvidia-smi查看显存实时占用；
🔹 在htop里看到 GPU 进程真实 PID；
🔹 用nvtop（类似 top 的 GPU 版）监控每个训练任务的显存/算力分配；
🔹 未来无缝接入 Docker + NVIDIA Container Toolkit 做模型部署。
这不是“多此一举”，而是为后续所有 AI 工作流埋下的确定性伏笔。
2.4 新手避坑：安装前必须确认的 4 个硬件与系统前提
现象：U 盘启动后卡在黑屏/紫屏/无限转圈，或安装界面字体模糊、鼠标失灵。
原因：不是 ISO 问题，而是硬件兼容性没提前筛查。
解决：动手前花 3 分钟自查以下 4 项（全部满足再继续）：
| 检查项 | 怎么查 | 不满足怎么办 |
|---|---|---|
| 1. 显卡型号是否为 NVIDIA（非 Intel 核显 / AMD） | Windows 下按Win+R→ 输入dxdiag→ “显示”页签看“芯片类型” | 若是 Intel Iris Xe 或 AMD Radeon Graphics，请停止——本指南不适用；需 NVIDIA GTX 1050 及以上或 RTX 系列 |
| 2. BIOS 中 Secure Boot 是否已关闭 | 重启按 F2/F10/Del 进 BIOS → 找到 “Security” 或 “Boot” → 关闭 “Secure Boot” | 不关会导致 Ubuntu 安装时无法加载 NVIDIA 驱动模块，报错modprobe: ERROR: could not insert 'nvidia': Operation not permitted |
| 3. 硬盘是否有 60GB 以上空闲空间（建议 100GB） | Windows 磁盘管理中右键 C 盘 → “压缩卷” → 查看可压缩量 | 压缩不足会导致安装中途失败，且后续装 Anaconda + 数据集会爆满 |
| 4. 网络是否为有线连接（非 WiFi） | Ubuntu 安装过程需下载语言包、更新、驱动元数据，WiFi 驱动可能未加载 | 无线网卡在 Live 系统中常识别失败，务必用网线直连路由器 |
注意：如果你的笔记本是雷电 4 接口 + 外接显卡坞（eGPU），请确认坞站固件已升级至最新——旧固件会导致 Ubuntu 无法识别外接 GPU，此情况不在本指南覆盖范围。
3. 第一步：制作可启动 U 盘，把 Ubuntu 24.04 “搬进”你的 Windows 11 电脑
别怕“装系统”这个词——它现在就像给手机刷个新 ROM，全程图形化，无命令行恐惧。核心就三步：下镜像、做启动盘、分硬盘。我们拆解成“人话三幕剧”，每步附截图级说明（文字描述已足够精准，无需依赖图）。
3.1 下载官方 Ubuntu 24.04 ISO：认准 .desktop-amd64.iso，拒绝第三方魔改版
打开浏览器，访问：
👉 https://releases.ubuntu.com/24.04/
找到文件名含ubuntu-24.04.1-desktop-amd64.iso的链接（24.04.1 是当前稳定版，2024 年 8 月发布）。
✅ 正确特征：文件名以-desktop-amd64.iso结尾，大小约 4.8 GB；
❌ 错误信号：任何带server、minimal、netboot、legacy字样的都不是；若看到ubuntu-24.04.1-desktop-amd64.iso.torrent，那是种子文件，需用迅雷等下载，不推荐新手用。
提示：国内用户若官网下载慢，可用清华镜像站（完全同步、安全可信）：
https://mirrors.tuna.tsinghua.edu.cn/ubuntu-releases/24.04/
找同名 ISO 即可，校验码（SHA256）在页面下方，下载后建议用sha256sum ubuntu-24.04.1-desktop-amd64.iso核对——这是防止文件损坏的“后悔药”，10 秒就能做。
3.2 用 Rufus 制作启动 U 盘：选对模式，否则 BIOS 不认
准备一个 ≥8GB 的空白 U 盘（内容会被清空！）。
下载 Rufus（官网：https://rufus.ie/zh/），运行后按以下顺序设置：
- “设备”下拉选你的 U 盘（认准品牌和容量，别选错硬盘！）；
- “引导选择”点右侧小图标，选你刚下的
ubuntu-24.04.1-desktop-amd64.iso； - “分区方案”选GPT（不是 MBR！因为你的 Windows 11 默认是 UEFI 启动，GPT 是 UEFI 标配）；
- “目标系统”选UEFI (non CSM)（CSM 是兼容旧 BIOS 的模式，关掉它才能发挥 UEFI 优势）；
- “簇大小”保持默认，“格式化选项”全取消勾选（不要勾“快速格式化”以外的任何项）；
- 点击“开始”，弹窗选“ISO 模式”，确认。
⏳ 过程约 3–5 分钟。完成后 U 盘会多出EFI、boot等文件夹，这就是“能开机的 Linux”。
注意：若你用 Mac 或 Linux 制作启动盘，请用
dd命令（sudo dd if=ubuntu-24.04.1-desktop-amd64.iso of=/dev/sdX bs=4M status=progress && sync），但新手强烈建议用 Rufus——它自动处理分区表、引导标志、FAT32 分区等细节，避免dd写错/dev/sdX导致硬盘变砖。
3.3 在 Windows 11 中分出空闲空间：用磁盘管理“切”出一块地
⚠️ 关键警告：此步操作对象是 Windows 硬盘，务必先备份重要数据！
- Windows 下按
Win+X→ 选“磁盘管理”； - 找到你的系统盘（通常是“磁盘 0”下的“C:”卷），右键 → “压缩卷”；
- 输入压缩空间量：至少 60000 MB（60GB），建议输
100000（100GB）； - 点击“压缩”，等待完成（可能需 5–10 分钟，取决于硬盘速度和碎片程度）；
- 压缩后会出现一块“未分配”黑色区域——这就是留给 Ubuntu 的“宅基地”，不要新建简单卷！
提示：如果“压缩卷”按钮灰掉，说明 C 盘有不可移动文件（如页面文件、休眠文件）。以管理员身份运行 CMD，依次执行：
powercfg /h off # 关闭休眠（释放 hiberfil.sys） diskpart list volume select volume X # X 是 C 盘对应编号 shrink desired=60000 exit再回磁盘管理尝试压缩。
3.4 重启进 BIOS，从 U 盘启动：记住两个关键键（F12 或 ESC）
插入做好的 U 盘，重启电脑。
在开机自检画面（出现主板 Logo 时），狂按：
🔹多数品牌（戴尔、惠普、联想）：F12
🔹华硕、微星：ESC
🔹少数老机型：F2/F10/Del（若 F12 无效，就试这些）
进入“启动菜单”（Boot Menu）后，用方向键选中带USB或Rufus字样的选项（如UEFI: SanDisk Cruzer Blade），回车。
✅ 成功标志：屏幕出现紫色背景 + Ubuntu logo + “Try or Install Ubuntu” 文字；
❌ 失败标志：直接进 Windows，说明没按对键或 U 盘没识别——拔插 U 盘重试，或进 BIOS 把 “Boot Mode” 设为UEFI Only（关掉 Legacy/CSM）。
4. 安装 Ubuntu 24.04：图形化安装向导，重点盯住这 3 个选项
进入 Live 系统（Try Ubuntu）后，桌面双击“Install Ubuntu”图标。全程中文界面，但有 3 个选项必须亲手确认，否则后续 NVIDIA 驱动会翻车。
4.1 语言与键盘：选“中文（简体）”，但键盘布局选“English (US)”
安装向导第一步选语言，选“中文（简体）”没问题。
但到“键盘布局”页时，务必选 “English (US)”，而不是“Chinese”或“Pinyin”。
原因：Ubuntu 中文输入法（fcitx5）在安装阶段未加载，若选中文键盘，安装过程中按Shift+2出不来@，/键位置错乱，导致无法输入邮箱、密码等关键字段。
血泪经验：A同学曾因选“Chinese”导致安装卡在“设置用户名”页，反复退格无效，最后强制重启重来——其实只需切换键盘布局。
4.2 安装类型：选“与其他系统共存”，别碰“清除整个磁盘”
到“安装类型”页，你会看到几个选项：
🔸 “清除整个磁盘并安装 Ubuntu” →绝对不选！这会删掉 Windows；
🔸 “现在安装 Ubuntu”（手动分区）→ 新手慎入，易误删 EFI 分区；
✅ 正确选项：“与其他系统共存”（英文是 "Install Ubuntu alongside Windows Boot Manager"）。
Ubuntu 会自动识别你刚才压缩出的“未分配空间”，并划分为：
/根分区（约 50GB，装系统和软件）；swap交换分区（约 4GB，内存不足时用硬盘暂存）；/home用户目录（剩余空间，存文档、代码、数据集）。
这个自动方案安全、合理、省心，够用三年不重装。
4.3 最后一步：取消勾选“安装第三方软件”，驱动留到系统装完再装
安装向导倒数第二页，有个勾选项：
☑️ “为图形或无线硬件安装附加的专有软件”
❌必须取消勾选！
原因：这个选项会尝试在安装过程中加载 NVIDIA 驱动，但此时系统尚未完成初始化，极易导致安装卡死、黑屏或 X11 启动失败。
✅ 正确做法：取消勾选 → 点“继续” → 安装完成 → 重启进新 Ubuntu 系统 → 再通过“软件与更新”图形化安装驱动。
这是 Ubuntu 社区验证过的“零失败路径”，比任何命令行都可靠。
4.4 新手避坑：安装后首次启动的 3 个高频问题排查
现象：安装完成重启，卡在黑屏/紫屏/光标闪烁，或进系统后分辨率极低、鼠标拖不动。
原因：NVIDIA 驱动未生效，系统仍在用开源nouveau驱动。
解决：按Ctrl+Alt+F3进文本终端（TTY），登录你的用户名和密码，执行：
# 1. 更新系统（确保内核和固件最新） sudo apt update && sudo apt upgrade -y # 2. 安装基础编译工具（驱动编译必需） sudo apt install build-essential linux-headers-$(uname -r) -y # 3. 重启，再进图形界面 sudo reboot若仍黑屏，重启时长按Shift进 GRUB 菜单 → 选“Advanced options for Ubuntu” → 选带recovery mode的内核 → 选“resume normal boot”。
注意：若你用的是笔记本独显+核显混合模式（如 NVIDIA Optimus），首次启动可能默认用核显，屏幕正常但
nvidia-smi不见——这是正常现象，驱动装好后会在“NVIDIA X Server Settings”里切换。
5. 装驱动、CUDA、cuDNN：三步走，每步一条命令，失败立刻有解
系统装好，桌面出来了，但nvidia-smi还报错？别慌，这才是真正“接电”的开始。我们抛弃.run文件手动安装的老路，全程用 Ubuntu 24.04 原生 apt，安全、快速、可回滚。
5.1 一步到位装 NVIDIA 驱动：用“软件与更新”图形界面，比命令行还稳
- 点左上角“活动” → 搜“软件与更新” → 打开；
- 切到“附加驱动”（Additional Drivers）页签；
- 等待几秒，列表会刷出多个驱动版本，如：
nvidia-driver-535-server（服务器版，稳定但功能少）nvidia-driver-535（推荐！桌面版，支持 CUDA 12.2）nvidia-driver-545（测试版，可能不稳定）
✅选中nvidia-driver-535→ 点“应用更改”；
- 等进度条走完（约 3–5 分钟），弹窗点“重新启动”。
重启后，按Ctrl+Alt+T打开终端，输入：
nvidia-smi✅ 成功标志：顶部显示驱动版本（如535.129.03）、CUDA 版本（如12.2），下面列出 GPU 名称、温度、显存使用率；
❌ 失败标志：NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver。
提示：若失败，大概率是 Secure Boot 未关。重启进 BIOS 关掉它，再重试驱动安装。
5.2 一行命令装 CUDA 12.2：用官方 apt 仓库，告别 .run 文件权限地狱
Ubuntu 24.04 官方源已内置 CUDA 12.2，无需去 NVIDIA 官网下.run文件（那个文件需要chmod +x、sudo ./xxx.run、还要手动禁 Nouveau——全是新手雷区）。
直接在终端执行：
# 添加 NVIDIA 官方 CUDA 仓库（信任密钥自动导入） sudo apt update && sudo apt install -y software-properties-common wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.0-1_all.deb sudo dpkg -i cuda-keyring_1.0-1_all.deb sudo apt update # 安装 CUDA 12.2 工具包（含 nvcc 编译器、库、示例） sudo apt install -y cuda-toolkit-12-2 # 验证安装 nvcc --version✅ 成功标志：输出nvcc: NVIDIA (R) Cuda compiler driver, 版本12.2.127；
❌ 失败标志：E: Unable to locate package cuda-toolkit-12-2→ 检查lsb_release -a是否真为 24.04，或网络是否通畅。
5.3 两行命令装 cuDNN 8.9.6：用 deb 包安装，不碰 tar.gz 解压噩梦
cuDNN 不是源码，是 NVIDIA 提供的预编译加速库。Ubuntu 24.04 下最简方式是 deb 包安装：
- 访问 https://developer.nvidia.com/cudnn → 登录（免费注册）→ 下载
cuDNN v8.9.6 Library for Ubuntu 22.04 x86_64 (Deb)（注意：虽然写 22.04，但它兼容 24.04）； - 下载后（文件名类似
cudnn-local-repo-ubuntu2204-8.9.6.50_1.0-1_amd64.deb），在终端执行：
# 安装 deb 包（自动配置 apt 源） sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.6.50_1.0-1_amd64.deb # 导入 GPG 密钥（否则 apt update 会报错） sudo cp /var/cudnn-local-repo-ubuntu2204-8.9.6.50/cudnn-local-5E60450C-keyring.gpg /usr/share/keyrings/ # 更新 apt 并安装 cuDNN 运行时库 sudo apt update sudo apt install -y libcudnn8 # 验证（进入 CUDA 示例目录运行测试） cd /usr/local/cuda-12.2/extras/demo_suite/ sudo ./bandwidthTest✅ 成功标志：最后一行输出Result = PASS；
❌ 失败标志：./bandwidthTest: No such file or directory→ 检查ls /usr/local/cuda-12.2/extras/demo_suite/是否存在该文件，若无，说明 CUDA 安装不完整，重装cuda-toolkit-12-2。
5.4 常见问题排查：新手必遇的 4 个“明明装了却用不了”场景
现象 1：nvcc -V显示版本，但nvidia-smi报错“NVIDIA-SMI has failed...”。
→ 原因：驱动和 CUDA 版本不匹配（如驱动 535 对应 CUDA 12.2，但你装了 CUDA 12.1）。
→ 解决：nvidia-smi顶部显示的 CUDA 版本是“驱动支持的最高 CUDA 版本”，不是你装的版本。只要nvidia-smi能运行，就证明驱动 OK；nvcc -V显示你装的 CUDA 版本，两者不同不冲突。
现象 2：import torch成功，但torch.cuda.is_available()返回False。
→ 原因：PyTorch 未装 GPU 版，或环境变量未生效。
→ 解决：先确认which python和python -c "import torch; print(torch.__version__)"；然后装 GPU 版：pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121（注意cu121对应 CUDA 12.1，若你装 CUDA 12.2，用cu122）。
现象 3：sudo apt install cuda-toolkit-12-2报错The following packages have unmet dependencies。
→ 原因：系统有旧版 CUDA（如 11.x）残留，apt 依赖冲突。
→ 解决：sudo apt remove --purge 'cuda*' 'nvidia-cuda-toolkit'→sudo apt autoremove→sudo apt clean→ 重试安装。
现象 4：./bandwidthTest运行报错./bandwidthTest: error while loading shared libraries: libcudnn.so.8: cannot open shared object file: No such file or directory。
→ 原因：cuDNN 库路径未加入系统动态链接库搜索路径。
→ 解决：echo '/usr/lib/x86_64-linux-gnu' | sudo tee /etc/ld.so.conf.d/cudnn.conf && sudo ldconfig。
6. 下一步学什么？从“能跑”到“会调”的 3 条实战路径与我的血泪习惯
你现在应该已经能看到nvidia-smi的绿色输出，nvcc --version显示 12.2，torch.cuda.is_available()返回True——恭喜，地基已稳。但这只是起点，不是终点。接下来怎么走？别被“深度学习”“分布式训练”吓住，我们聚焦三个最实在、最常被问、最能立刻提升效率的方向，每条都配具体动作。
6.1 路径一：用好 Anaconda + 虚拟环境，告别“包冲突焦虑症”
为什么必须学？
你迟早会遇到：项目 A 要tensorflow==2.12（需 CUDA 11.8），项目 B 要pytorch==2.3（需 CUDA 12.2）——同一台机器，不可能同时装两个 CUDA。Anaconda 的虚拟环境就是你的“平行宇宙发生器”，每个环境独立 Python、独立 pip、独立 CUDA 路径绑定。
✅ 今天就能做的三件事：
- 装 Anaconda（比 Miniconda 更全，新手友好）：
wget https://repo.anaconda.com/archive/Anaconda3-2024.06-Linux-x86_64.sh bash Anaconda3-2024.06-Linux-x86_64.sh -b -p $HOME/anaconda3 source $HOME/anaconda3/etc/profile.d/conda.sh conda init bash exec bash # 重载 shell - 创建一个专属 PyTorch 环境（命名即意义）：
conda create -n ai-gpu python=3.10 # 用 3.10 因 PyTorch 2.3 官方推荐 conda activate ai-gpu pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu122 - 把这个环境挂进 VS Code（以后打开项目自动识别）：
VS Code 里Ctrl+Shift+P→ 输入Python: Select Interpreter→ 选~/anaconda3/envs/ai-gpu/bin/python。
我的血泪习惯：从那以后我每次新建项目，第一件事不是写代码，而是
conda create -n <项目名> python=3.10。哪怕只是写个爬虫，我也建环境——因为某次我全局pip install了一个新包，结果把 Jupyter 的内核搞崩了，重装 Anaconda 花了 2 小时。现在，conda env list就是我的项目地图，conda deactivate就是我的一键还原键。
6.2 路径二：把 VS Code 变成“GPU 开发工作站”，不只是代码编辑器
VS Code 默认只是文本编辑器，但装对插件后，它能：
🔹 实时显示 GPU 显存占用（不用切 terminal）；
🔹 一键运行.ipynb并在侧边栏画出 loss 曲线；
🔹 按F5调试 Python 时，变量窗口直接展开torch.Tensor的 shape/dtype/device。
✅ 今天就能装的 4 个核心插件：
| 插件名 | 作用 | 安装命令（在 VS Code 扩展市场搜） |
|---|---|---|
| Python | 官方 Python 支持，必装 | Microsoft 官方出品 |
| Jupyter | 直接运行.ipynb，支持 GPU tensor 预览 | Microsoft 官方出品 |
| Remote - SSH | 连远程服务器（如公司训练机）开发，本地写代码，远程跑 GPU | Microsoft 官方出品 |
| NVIM（可选） | 若你爱 Vim 键绑定，装此插件，Esc进命令模式，:执行!nvidia-smi | GitHub: vscode-neovim |
提示：装完 Jupyter 插件后，在
.ipynb文件里按Ctrl+Shift+P→Jupyter: Create New Blank Notebook，然后在第一个 cell 输入：import torch x = torch.randn(1000, 1000).cuda() print(f"Tensor on {x.device}, shape {x.shape}")按
Ctrl+Enter，立刻看到Tensor on cuda:0, shape torch.Size([1000, 1000])—— 这就是 GPU 开发的呼吸感。
6.3 路径三：学会看懂nvidia-smi和nvtop，做自己的 GPU 运维员
nvidia-smi是你的 GPU 体检报告单，但默认只刷新一次。学会这两个命令，你就能：
🔸 发现谁偷跑了你的显存（同事共享服务器时）；
🔸 判断模型是否真在 GPU 上跑（而非 fallback 到 CPU）；
🔸 估算训练时间（显存带宽 vs 计算单元占用）。
✅ 今天就能掌握的 3 个技巧：
- 实时监控（每 1 秒刷新）：
watch -n 1 nvidia-smi # 按 Ctrl+C 退出 - 看进程详情（谁占了显存）：
nvidia-smi pmon -i 0 # -i 0 指第 0 块 GPU，输出 PID、显存占用、GPU 利用率 - 装
nvtop（比nvidia-smi更直观的 top）：sudo apt install cmake libncurses5-dev libncursesw5-dev libudev-dev libdrm-dev libev-dev libzstd-dev git clone https://github.com/Syllo/nvtop.git mkdir nvtop/build && cd nvtop/build cmake .. && make && sudo make install nvtop # 图形化界面，按 F1 看帮助
我的血泪习惯：从那以后我每次跑训练前，必开一个终端
watch -n 1 nvidia-smi，盯着Memory-Usage和GPU-Util两列。有一次发现GPU-Util长期 0%，但Memory-Usage满了——立刻意识到数据加载瓶颈在 CPU，加了num_workers=4就解决问题。希望帮到你。
本文还有配套的精品资源，点击获取
