Windows上WSL2+GPU直通搭建AI开发环境实战指南

1. 为什么要在 Windows 上折腾 WSL2 跑 AI 开发环境

如果你是一个长期在 Windows 上做深度学习或者大模型微调的开发者，大概率经历过这样的场景：想跑一个 PyTorch 训练脚本，结果发现某个依赖库在 Windows 上编译不过；想用一些 Linux 下才有的性能分析工具，又不想重启切换到双系统；好不容易配好了 CUDA，结果发现某个算子只支持 Linux 内核调度。这种“两头不讨好”的状态，我折腾了差不多两年，直到把整套 AI 开发环境彻底迁到 WSL2 上，才算真正消停下来。

WSL2 全称是 Windows Subsystem for Linux 第二代，它跟第一代最大的区别在于：WSL1 是系统调用翻译层，而 WSL2 直接跑了一个轻量级的完整 Linux 内核虚拟机。这意味着你在 WSL2 里拿到的不是一个“模拟的 Linux”，而是一个真正的 Linux 内核，系统调用、内存管理、进程调度都是原生的。对于 AI 开发来说，这一点至关重要，因为 CUDA 驱动、PyTorch 的底层算子、NCCL 通信库这些东西，对内核行为非常敏感，翻译层很容易出各种玄学问题。

那 GPU 直通又是怎么回事？简单说，WSL2 通过微软和 NVIDIA 合作的一套机制，把 Windows 主机上的 NVIDIA 显卡驱动以半虚拟化的方式暴露给 WSL2 里的 Linux 内核。你不需要在 WSL2 里再装一遍显卡驱动，只需要 Windows 侧装好驱动，WSL2 里装对应的 CUDA Toolkit 就能直接调用 GPU。实测下来，nvidia-smi在 WSL2 里能正常输出，PyTorch 的torch.cuda.is_available()也能返回 True，训练速度跟原生 Linux 相比差距在 5% 以内，日常开发完全够用。

这套方案适合谁？我觉得有三类人特别值得试：第一类是做深度学习模型训练和微调的，尤其是需要跑大模型 LoRA 或者全量微调的；第二类是做 GPU 加速计算、需要 CUDA 编程的；第三类是想学 Linux 但又不想放弃 Windows 日常办公和娱乐的。如果你只是偶尔跑个推理，那其实 Windows 原生环境也够，但只要你涉及到训练、编译、多卡通信这些场景，WSL2 的优势就非常明显了。

2. 环境搭建前的整体设计与选型考量

2.1 为什么选 WSL2 而不是双系统或者纯 Linux 主机

双系统的问题在于切换成本太高。你正在 Windows 上查资料、写文档，突然要跑个训练，重启切到 Linux，跑完再切回来，一天下来光重启就浪费不少时间。而且双系统下两个系统的文件系统是隔离的，数据交换很麻烦。纯 Linux 主机倒是省事，但你就得放弃 Windows 上的很多生产力工具和娱乐软件，对于大多数人来说不现实。

WSL2 的好处是它跟 Windows 是深度融合的。你可以在 Windows 的 VS Code 里直接打开 WSL2 里的项目文件夹，用 Windows 的浏览器查文档，同时 WSL2 里的训练脚本在后台跑着。文件系统也是互通的，Windows 的 D 盘挂载在/mnt/d下，你可以直接把数据集放在 Windows 盘里，WSL2 里直接读。这种无缝体验是双系统和纯 Linux 都给不了的。

还有一个容易被忽略的点：WSL2 支持 systemd。从 0.67.6 版本开始，WSL2 可以通过配置文件启用 systemd，这意味着你可以像在原生 Linux 上一样用systemctl管理服务。对于需要跑一些后台服务（比如 Jupyter Notebook、TensorBoard、模型推理服务）的场景，这个特性非常实用。

2.2 GPU 直通的技术原理与版本要求

GPU 直通的核心是微软的 GPU 半虚拟化技术（GPU-PV）。Windows 主机上的 NVIDIA 驱动会创建一个虚拟的 GPU 设备，通过 WSL2 的虚拟机总线暴露给 Linux 内核。Linux 侧看到的是一个/dev/dxg设备，CUDA 库通过这个设备跟 Windows 侧的驱动通信，最终落到物理 GPU 上执行。

这套机制对版本有硬性要求。Windows 侧需要 Win10 21H2 以上或者 Win11，而且必须是 WSL2 模式。NVIDIA 驱动需要是 470 以上的版本，推荐用 535 或者更高的生产分支驱动。WSL2 内核版本需要 5.10.60.1 以上。CUDA Toolkit 在 WSL2 里推荐用 11.8 或者 12.x 系列，这两个版本对 WSL2 的支持最成熟。

这里有个坑要注意：WSL2 里不要装 NVIDIA 的 Linux 显卡驱动。很多人习惯性地在 Linux 里apt install nvidia-driver-xxx，这在 WSL2 里会把 GPU 直通搞坏。WSL2 里的 CUDA 库只需要 CUDA Toolkit，驱动部分完全由 Windows 侧提供。这一点跟原生 Linux 完全不同，是新手最容易踩的坑。

2.3 发行版选择与存储位置规划

WSL2 支持的发行版很多，Ubuntu、Debian、Fedora、openSUSE 都有。做 AI 开发我推荐 Ubuntu 22.04 LTS 或者 24.04 LTS，原因是 PyTorch 和 CUDA 的官方文档基本都是基于 Ubuntu 写的，遇到问题搜解决方案也最容易找到。Ubuntu 22.04 的软件源里 CUDA Toolkit 版本比较全，24.04 更新一些但有些老库可能还没适配。

存储位置是个大问题。WSL2 默认把发行版装在 C 盘的用户目录下，一个 Ubuntu 加上 CUDA Toolkit 和 PyTorch，轻松吃掉 30 到 50 GB。如果你的 C 盘是系统盘而且空间紧张，建议把 WSL2 迁到 D 盘或者其他数据盘。迁移方法后面会详细讲，核心思路是先用wsl --export导出镜像，再用wsl --import导入到目标位置。

另外，WSL2 的虚拟磁盘文件（ext4.vhdx）会随着使用不断增长，但不会自动收缩。你删了文件，vhdx 文件大小可能还是那么大。这个后面在问题排查部分会讲怎么处理。

3. 从零开始的完整部署实操流程

3.1 Windows 侧准备：启用功能与安装 WSL2

第一步是确认 Windows 版本。按Win + R输入winver，确保版本号是 21H2 以上。如果是 Win11 那基本没问题。然后以管理员身份打开 PowerShell，执行以下命令启用必要的 Windows 功能：

dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart

这两条命令分别启用 Linux 子系统和虚拟机平台。执行完需要重启电脑。重启后，下载并安装 WSL2 内核更新包，这个在微软官网搜“WSL2 Linux 内核更新包”就能找到。装完之后把 WSL2 设为默认版本：

wsl --set-default-version 2

然后安装 Ubuntu 22.04：

wsl --install -d Ubuntu-22.04

这个命令会自动下载并安装 Ubuntu 22.04。安装完成后会提示你设置用户名和密码。这里有个细节：用户名不要用中文，也不要用大写字母，纯小写英文加数字最稳妥，避免后续路径出现编码问题。

3.2 把 WSL2 迁移到非系统盘

如果你 C 盘空间充足，这步可以跳过。但如果要迁移，先关闭 WSL2：

wsl --shutdown

然后导出当前发行版：

wsl --export Ubuntu-22.04 D:\wsl\ubuntu22.04.tar

这个 tar 文件可能有好几个 GB，导出时间取决于你的磁盘速度。导出完成后，注销原来的发行版：

wsl --unregister Ubuntu-22.04

接着在目标位置创建目录并导入：

mkdir D:\wsl\ubuntu22.04 wsl --import Ubuntu-22.04 D:\wsl\ubuntu22.04 D:\wsl\ubuntu22.04.tar --version 2

导入完成后，默认登录用户会变成 root。你需要修改默认用户，方法是编辑/etc/wsl.conf：

[user] default=你的用户名

然后在 PowerShell 里wsl --shutdown重启一次，再进入就是你的用户了。这个迁移过程我做过好几次，实测下来很稳，但要注意导出前把不必要的大文件清理掉，不然 tar 包会很大。

3.3 启用 systemd 与基础环境配置

Ubuntu 22.04 默认没有启用 systemd。编辑/etc/wsl.conf，加上：

[boot] systemd=true

保存后wsl --shutdown重启。再次进入后可以用systemctl status验证，如果能看到服务列表就说明 systemd 生效了。

接下来更新软件源并安装基础工具：

sudo apt update && sudo apt upgrade -y sudo apt install -y build-essential git curl wget vim htop tmux

build-essential是编译 PyTorch 扩展和某些 Python 包必需的，tmux用于在训练时保持会话，htop看系统资源。这些工具看着不起眼，但后面都会用到。

3.4 安装 CUDA Toolkit 与验证 GPU 直通

在 WSL2 里装 CUDA Toolkit，推荐用 NVIDIA 官方源。先下载并安装 keyring：

wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-keyring_1.1-1_all.deb sudo dpkg -i cuda-keyring_1.1-1_all.deb sudo apt update

然后安装 CUDA Toolkit。这里选 12.1 版本，因为 PyTorch 2.x 对 12.1 支持最好：

sudo apt install -y cuda-toolkit-12-1

装完后配置环境变量，编辑~/.bashrc，在末尾加上：

export PATH=/usr/local/cuda-12.1/bin:$PATH export LD_LIBRARY_PATH=/usr/local/cuda-12.1/lib64:$LD_LIBRARY_PATH

然后source ~/.bashrc。验证 CUDA 是否可用：

nvcc --version nvidia-smi

nvcc --version应该输出 CUDA 12.1 的版本信息。nvidia-smi应该显示你的 GPU 型号、显存、驱动版本。如果nvidia-smi报错说找不到命令，检查一下是不是装了 Linux 侧的 NVIDIA 驱动，如果是，卸载掉：

sudo apt remove --purge nvidia-*

然后重启 WSL2。这个坑我踩过，当时在 WSL2 里手贱装了nvidia-driver-535，结果 GPU 直通直接失效，nvidia-smi报 “No devices were found”，卸载后恢复正常。

3.5 安装 Miniconda 与 PyTorch

Python 环境管理我推荐 Miniconda，比系统自带的 Python 干净，也比 Anaconda 轻量。下载安装：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh

安装过程中一路回车，最后问是否初始化 conda 时选 yes。然后source ~/.bashrc让 conda 生效。创建一个专门用于 AI 开发的虚拟环境：

conda create -n pytorch python=3.10 -y conda activate pytorch

Python 3.10 是当前 PyTorch 兼容性最好的版本，3.11 和 3.12 有些第三方库还没跟上。然后安装 PyTorch，用官方推荐的 CUDA 12.1 版本：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

这个命令会从 PyTorch 官方源下载预编译好的 CUDA 12.1 版本，不需要本地编译，几分钟就能装完。装完后验证：

python -c "import torch; print(torch.__version__); print(torch.cuda.is_available()); print(torch.cuda.get_device_name(0))"

如果输出显示版本号、True 和你的 GPU 型号，说明整套环境跑通了。如果torch.cuda.is_available()返回 False，先检查 CUDA Toolkit 版本和 PyTorch 版本是否匹配，再看nvidia-smi是否正常。

4. 性能调优与日常使用中的关键细节

4.1 内存与 CPU 资源分配策略

WSL2 默认会占用宿主机的很大一部分内存，有时候能吃到 80%。对于 AI 开发来说，这可能导致 Windows 侧卡顿，甚至训练时因为内存不足被 OOM Killer 杀掉。解决办法是在 Windows 用户目录下创建.wslconfig文件，路径是C:\Users\你的用户名\.wslconfig，内容如下：

[wsl2] memory=32GB processors=16 swap=8GB localhostForwarding=true

memory根据你物理内存来设，一般给一半到三分之二。比如 64GB 内存给 32GB，32GB 内存给 16GB。processors设成物理核心数的一半左右，留一些给 Windows 系统。swap设 8GB 到 16GB，防止内存突然不够时进程被杀。改完后wsl --shutdown重启生效。

这里有个经验：如果你要跑大模型微调，显存比内存更关键。WSL2 的 GPU 直通是独占式的，Windows 侧如果也在用 GPU（比如玩游戏、跑渲染），会跟 WSL2 抢资源。训练的时候最好把 Windows 侧的 GPU 占用程序关掉。

4.2 文件系统性能：跨系统访问的坑

WSL2 访问 Windows 文件（/mnt/c、/mnt/d）走的是 9P 协议，性能比访问 WSL2 内部文件系统（ext4）差很多。实测下来，读小文件可能慢 3 到 5 倍，写大文件也慢不少。所以数据集和训练代码最好放在 WSL2 内部，比如~/projects和~/datasets。

但 WSL2 内部空间有限，如果数据集特别大（比如几百 GB），放 Windows 盘也不是不行，但要注意 IO 瓶颈。我的做法是：代码和配置文件放 WSL2 内部，数据集放 Windows 盘，训练时用torch.utils.data.DataLoader的num_workers多开几个进程预读取，能缓解 IO 压力。另外，/mnt/d下的文件权限默认是 777，有些训练框架会警告，可以在/etc/wsl.conf里加上：

[automount] options = "metadata,umask=22,fmask=11"

这样挂载的 Windows 盘会有正常的权限位。

4.3 显存监控与训练稳定性保障

WSL2 里监控显存用nvidia-smi就行，但默认输出是静态的。想看实时刷新，用：

watch -n 1 nvidia-smi

或者用nvitop，一个 Python 写的 GPU 监控工具，界面比nvidia-smi好看很多：

pip install nvitop nvitop

训练稳定性方面，WSL2 的 GPU 直通偶尔会出现显存泄漏，表现为训练几个 epoch 后显存占用越来越高，最后 OOM。这个问题在 CUDA 12.1 加 PyTorch 2.1 的组合下比较少见，但如果你遇到了，可以在训练循环里定期调用torch.cuda.empty_cache()，或者升级到最新的 PyTorch 版本。另外，WSL2 的 GPU 直通不支持多卡 NVLink 通信，如果你要做多卡训练，NCCL 会走 PCIe，速度比原生 Linux 慢一些，但单机多卡还是能用的。

5. 常见问题排查与避坑经验实录

5.1 WSL2 启动失败与网络问题

“WSL2 尚未准备就绪”这个报错我遇到过好几次，通常是因为 Windows 的虚拟机平台功能没启用，或者 WSL2 内核版本太旧。排查步骤是：先wsl --status看当前状态，如果提示内核需要更新，就去微软官网下载最新的 WSL2 内核更新包。如果提示虚拟机平台未启用，用前面提到的dism命令重新启用并重启。

网络问题方面，WSL2 默认用 NAT 模式，Windows 和 WSL2 之间网络是通的，但 WSL2 访问外网有时候会 DNS 解析失败。解决办法是在/etc/resolv.conf里手动指定 DNS：

nameserver 8.8.8.8 nameserver 114.114.114.114

然后sudo chattr +i /etc/resolv.conf防止被自动覆盖。不过 WSL2 重启后可能会重置，更彻底的方法是在.wslconfig里加上dnsTunneling=true，这是 WSL2 较新版本提供的 DNS 隧道功能，能自动处理 DNS 解析。

5.2 CUDA 与 PyTorch 版本不匹配的排查

torch.cuda.is_available()返回 False 是最常见的问题。排查顺序是这样的：先看nvidia-smi是否正常，如果不正常，说明 GPU 直通有问题，检查 Windows 驱动版本和是否误装了 Linux 驱动。如果nvidia-smi正常但 PyTorch 还是 False，检查 PyTorch 版本和 CUDA 版本是否匹配。用python -c "import torch; print(torch.version.cuda)"看 PyTorch 编译时用的 CUDA 版本，跟nvcc --version对比。如果不一致，重新安装对应版本的 PyTorch。

还有一个隐蔽的坑：conda 环境里可能装了cudatoolkit这个包，它会跟系统 CUDA Toolkit 冲突。检查conda list | grep cuda，如果有cudatoolkit，卸载掉：

conda remove cudatoolkit

PyTorch 的 pip 包自带 CUDA 运行时，不需要 conda 的cudatoolkit。

5.3 磁盘空间回收与 vhdx 压缩

WSL2 的 ext4.vhdx 文件只增不减，用久了可能占几十 GB 甚至上百 GB。回收方法是：先在 WSL2 里清理无用文件，比如 conda 缓存、pip 缓存、旧的训练 checkpoint：

conda clean --all -y pip cache purge

然后在 PowerShell 里关闭 WSL2，用diskpart压缩 vhdx：

wsl --shutdown diskpart

在 diskpart 交互界面里：

select vdisk file="D:\wsl\ubuntu22.04\ext4.vhdx" attach vdisk readonly compact vdisk detach vdisk exit

这个过程可能需要几分钟，压缩率取决于你删了多少文件。我上次清理后，vhdx 从 85GB 压到了 42GB，效果很明显。建议每隔几个月做一次。

5.4 常见问题速查表

6. 进阶玩法：把 WSL2 打造成完整的 AI 开发工作站

6.1 VS Code 远程开发与 Jupyter 集成

VS Code 的 Remote-WSL 扩展是 WSL2 开发的杀手锏。装好扩展后，在 WSL2 里进入项目目录，执行code .，VS Code 会自动在 Windows 侧打开并连接到 WSL2 环境。你可以在 VS Code 里直接用 WSL2 的 Python 解释器、终端、调试器，体验跟本地开发几乎一样。Jupyter Notebook 也可以在 VS Code 里直接跑，内核选 WSL2 里的 conda 环境就行。

如果你习惯用浏览器版的 Jupyter Lab，在 WSL2 里启动：

jupyter lab --ip=0.0.0.0 --port=8888 --no-browser

然后在 Windows 浏览器里访问http://localhost:8888。WSL2 的 localhost 转发是自动的，不需要额外配置。这个特性对于跑一些交互式实验非常方便。

6.2 模型训练与推理服务的后台运行

训练大模型动辄几个小时甚至几天，不能一直开着终端。用 tmux 保持会话：

tmux new -s train conda activate pytorch python train.py

按Ctrl + B然后D脱离会话，训练继续在后台跑。下次tmux attach -t train就能回到会话看进度。如果想更省事，可以用nohup：

nohup python train.py > train.log 2>&1 &

日志输出到train.log，用tail -f train.log实时查看。

推理服务可以用 FastAPI 或者 Flask 包一层，然后用 systemd 管理。因为 WSL2 启用了 systemd，你可以写一个 service 文件放在/etc/systemd/system/下，systemctl start启动，systemctl enable开机自启。这样即使 WSL2 重启，服务也会自动拉起来。

6.3 数据备份与环境迁移

WSL2 环境配好之后，建议定期备份。用wsl --export导出 tar 包，放到安全的位置。如果换了电脑或者环境搞坏了，用wsl --import几分钟就能恢复。conda 环境也可以用conda env export > environment.yml导出依赖列表，换机器时conda env create -f environment.yml重建。

不过要注意，conda env export会导出所有依赖的精确版本，有时候跨平台重建会失败。更稳妥的做法是手动维护一个requirements.txt，只列核心依赖，让 pip 自己解析版本。我一般两个都保留，environment.yml用于同平台快速恢复，requirements.txt用于跨平台重建。

这套 WSL2 加 GPU 直通的方案，我从 2022 年用到现在，跑过 BERT 微调、LLaMA LoRA、Stable Diffusion 训练，整体稳定性很好。唯一需要注意的是 Windows 更新有时候会重置 WSL2 配置，更新后如果发现 GPU 不可用，先wsl --update升级 WSL2 内核，再检查.wslconfig是否还在。踩过几次坑之后，我现在把.wslconfig和wsl.conf都纳入了版本管理，换机器或者重装时直接复制过去，省事很多。