CUDA算力等级与版本匹配指南：从查询到编译参数避坑

简介：这份PDF资料聚焦NVIDIA CUDA的详细参数，系统梳理了各代GPU的计算能力（Compute Capability）与CUDA版本之间的对应关系，面向需要查询显卡算力、判断CUDA Toolkit兼容性的开发者、深度学习环境配置人员及GPU编程初学者。资源为单一PDF文件，压缩包约1.17MB，内容涵盖CUDA技术原理、资料传输流程、分散读取与共享存储器等核心特性，并延伸至图形渲染、生物信息学、密码学、数据密集计算等应用场景，同时列出CUDA平台支持的语言与计算接口。其中显卡受支持情况与CUDA版本支持的计算能力列表是配置环境、排查版本冲突时的实用参考。目前已有13582人学习下载，适合在搭建CUDA开发环境或选购显卡时快速查阅对照。

1. CUDA详细参数：算力等级与支持版本到底怎么查、怎么选

买卡、租卡、配环境，绕不开两个参数：算力等级（Compute Capability）和它支持的 CUDA 版本。很多人第一次配深度学习环境就卡在这——装完驱动、装完 CUDA Toolkit，跑起来报no kernel image is available for execution on the device，或者编译时提示算力不匹配。问题往往不在代码，而在没搞清这张卡的算力等级和 CUDA 版本之间的对应关系。

这篇笔记把这件事拆开讲：算力等级是什么、怎么查自己卡的算力、CUDA 版本和算力怎么对应、装环境时参数怎么设、踩过哪些坑。适合正在配 GPU 环境、准备租卡跑训练、或者要写-arch编译参数的从业者。读完你能自己查表、自己定参数，不用再靠试错。

2. 算力等级与 CUDA 版本：先搞懂这两个参数在说什么

2.1 算力等级不是显卡性能跑分

算力等级（Compute Capability，简称 CC）是 NVIDIA 给每一代 GPU 架构定的一个版本号，格式是主版本.次版本，比如 7.5、8.6、8.9、9.0。它描述的是这张卡支持哪些指令集、哪些硬件特性，不是帧率、不是 TFLOPS、不是显存带宽。

这一点特别容易搞混。有人看到 RTX 4090 是 8.9，A100 是 8.0，就以为 8.9 比 8.0 强。实际上算力等级只表示“架构代际和特性集”，性能要看具体型号的 SM 数量、显存带宽、频率。8.9 的消费卡和 8.0 的数据中心卡，算力等级不同，但定位完全不同。

算力等级决定的是：你的代码能不能用某个 PTX 指令、能不能用某个 Tensor Core 特性、编译出来的 kernel 能不能在这张卡上跑。所以它是“兼容性参数”，不是“性能参数”。

常见的算力等级对应关系大致是：

这张表只是帮你建立直觉，具体型号的算力等级要以官方文档为准。不同型号即使同架构，算力等级也可能不同。

2.2 CUDA 版本是工具链版本，不是驱动版本

CUDA 版本指的是 CUDA Toolkit 的版本，比如 11.8、12.1、12.4。它包含编译器nvcc、运行时库、数学库、调试工具等。你写 CUDA 代码、编译 PyTorch 扩展、跑某些推理框架，都依赖这个版本。

这里有个关键区分：驱动版本和 CUDA 版本是两回事。驱动版本是nvidia-smi右上角显示的那个，比如 535.xx、550.xx。CUDA 版本是 Toolkit 的版本。驱动版本决定了你最高能跑哪个 CUDA 版本，但你可以装比驱动支持上限更低的 CUDA 版本。

关系是这样的：每个驱动版本有一个“最高支持的 CUDA 版本”。比如驱动 535 最高支持 CUDA 12.2，驱动 550 最高支持 CUDA 12.4。你装 CUDA 12.1 没问题，装 CUDA 12.4 可能就报错。但反过来，你装了 CUDA 12.4，驱动却是 535，那就会出问题。

所以配环境时的顺序是：先看驱动版本 → 确定最高支持的 CUDA 版本 → 在这个范围内选 Toolkit 版本 → 再看算力等级是否被这个 Toolkit 支持。

2.3 算力等级和 CUDA 版本的对应关系

这是最容易翻车的地方。每个 CUDA Toolkit 版本支持的算力等级范围是有限的。新卡需要新 Toolkit，老 Toolkit 不认识新算力等级。

比如 CUDA 11.0 最高支持到 8.0（Ampere 数据中心卡），不支持 8.6、8.9。CUDA 11.8 开始支持 8.9（Ada Lovelace）。CUDA 12.0 开始支持 9.0（Hopper）。如果你拿一张 8.9 的卡去装 CUDA 11.0，编译时就会报错，或者跑起来提示找不到 kernel image。

反过来，老卡在新 Toolkit 上一般还能跑，因为 CUDA 保持向后兼容。但有些新特性老卡用不了，编译时需要指定正确的-arch参数。

查对应关系最可靠的方法是看官方文档的“CUDA Toolkit Release Notes”里的“Supported Compute Capabilities”表格。但那个表比较长，我一般会记几个关键节点：

• CUDA 11.0：支持 3.5 到 8.0
• CUDA 11.8：支持 3.5 到 8.9
• CUDA 12.0：支持 5.0 到 9.0
• CUDA 12.4：支持 5.0 到 9.0（后续小版本可能增加）

注意最低支持版本也在变。CUDA 12.0 开始不再支持 3.5 和 3.7，所以老卡（比如 Kepler 架构）在新 Toolkit 上就编译不了了。

2.4 怎么查自己卡的算力等级

最直接的方法是用nvidia-smi看卡型号，然后去官方文档查算力等级。但更工程化的做法是写个小程序直接查。

# query_cc.py # 用 PyTorch 查询当前设备的算力等级 import torch if not torch.cuda.is_available(): print("CUDA not available") else: # 获取设备数量 device_count = torch.cuda.device_count() for i in range(device_count): # 获取设备名称 name = torch.cuda.get_device_name(i) # 获取算力等级，返回 (major, minor) cc = torch.cuda.get_device_capability(i) print(f"Device {i}: {name}, Compute Capability: {cc[0]}.{cc[1]}")

这段代码的逻辑很简单：遍历所有可见的 CUDA 设备，打印名称和算力等级。get_device_capability返回一个元组(major, minor)，拼起来就是7.5、8.6这种格式。

参数说明：i是设备索引，从 0 开始。如果你有多张卡，会依次打印。如果torch.cuda.is_available()返回 False，说明驱动或 CUDA 运行时有问题，先排查环境。

如果你不想装 PyTorch，也可以用cudaGetDeviceProperties写个 C 程序，但那个麻烦。更简单的是用nvidia-smi --query-gpu=name,compute_cap --format=csv，不过这个命令在部分驱动版本上不支持compute_cap字段，得看驱动版本。

# 查询 GPU 名称和算力等级（需要驱动支持） nvidia-smi --query-gpu=name,compute_cap --format=csv

如果这条命令报错，说明驱动版本太老，不支持compute_cap查询。那就只能用 PyTorch 或者去官方文档查。

2.5 编译参数-arch和-code怎么设

写 CUDA 代码或者编译扩展时，nvcc需要知道目标算力等级。参数是-arch=sm_XX或者-gencode arch=compute_XX,code=sm_XX。

-arch=sm_86表示编译出能在 8.6 上跑的代码。-gencode可以指定多个目标，生成包含多个算力等级的 fatbin，这样一张编译产物能在多种卡上跑。

# 编译一个 CUDA 源文件，指定算力等级 8.6 nvcc -arch=sm_86 -o my_kernel my_kernel.cu # 生成同时支持 8.0 和 8.6 的 fatbin nvcc -gencode arch=compute_80,code=sm_80 \ -gencode arch=compute_86,code=sm_86 \ -o my_kernel my_kernel.cu

逻辑说明：-arch=sm_86是简写，等价于-gencode arch=compute_86,code=sm_86。compute_XX是虚拟架构，决定 PTX 版本；sm_XX是真实架构，决定 SASS 版本。如果只写-arch，就只生成对应算力等级的代码。如果写多个-gencode，就生成 fatbin，运行时根据实际卡选择对应的 SASS 或 JIT 编译 PTX。

参数怎么选：如果你知道目标卡是 8.6，就写-arch=sm_86。如果要兼容多张卡，就写多个-gencode。如果不想管，可以写-arch=native，让编译器自动检测当前卡的算力等级，但这样编译产物换卡就可能跑不了。

注意：-arch=native在跨机器部署时容易翻车。编译机是 8.9，部署机是 8.6，跑起来就报no kernel image。稳妥做法是显式指定目标算力等级，或者生成包含多个等级的 fatbin。

3. 从驱动到 Toolkit：一套可复现的环境配置流程

3.1 先确认驱动版本和最高支持的 CUDA 版本

第一步永远是看驱动。nvidia-smi右上角的CUDA Version是驱动最高支持的 CUDA 版本，不是你当前装的 Toolkit 版本。

# 查看驱动版本和最高支持的 CUDA 版本 nvidia-smi

输出里右上角会显示类似CUDA Version: 12.4。这表示你的驱动最高能跑 CUDA 12.4。你可以装 12.4 或更低版本，但不能装 12.5。

如果你要装 PyTorch，PyTorch 官方会指定推荐的 CUDA 版本。比如 PyTorch 2.4 默认配 CUDA 12.1，也有 11.8 的版本。这时候你要看驱动是否支持。驱动 535 最高支持 12.2，那装 12.1 没问题。驱动 525 最高支持 12.0，那装 12.1 就可能出问题。

3.2 选 Toolkit 版本：跟着框架走还是跟着卡走

选 Toolkit 版本有两个思路：跟着框架走，或者跟着卡走。

跟着框架走：如果你主要用 PyTorch、TensorFlow，那就看框架官方推荐的 CUDA 版本。比如 PyTorch 2.4 推荐 CUDA 12.1，你就装 12.1。这样兼容性最好，不用自己编译框架。

跟着卡走：如果你要自己写 CUDA kernel，或者用一些需要特定 CUDA 版本的库，那就看卡的算力等级。比如 8.9 的卡需要 CUDA 11.8 以上，9.0 的卡需要 CUDA 12.0 以上。这时候框架推荐版本可能不够新，就得自己权衡。

我一般会先看框架推荐版本，再看这个版本是否支持我的卡。如果支持，就用框架推荐版本。如果不支持，就升到支持卡的最低版本，然后看框架有没有对应版本。实在不行就自己编译框架，但那个成本很高。

3.3 用 conda 装 CUDA Toolkit 的实操命令

最省事的方法是用 conda 装 CUDA Toolkit，不用管系统级的依赖冲突。

# 创建一个新环境，指定 Python 版本 conda create -n cuda_env python=3.10 # 激活环境 conda activate cuda_env # 安装 CUDA Toolkit 12.1 conda install -c nvidia cuda-toolkit=12.1 # 验证安装 nvcc --version

逻辑说明：conda install -c nvidia cuda-toolkit=12.1会从 NVIDIA 的 conda 频道安装 CUDA Toolkit 12.1。这样装的好处是环境隔离，不会污染系统。nvcc --version会显示当前 Toolkit 版本。

参数说明：cuda-toolkit=12.1指定版本。如果你要装 11.8，就改成cuda-toolkit=11.8。注意 conda 频道里还有cudatoolkit（没有连字符），那是运行时库，不是完整 Toolkit。要编译代码得装cuda-toolkit。

装完之后，nvcc的路径在$CONDA_PREFIX/bin/nvcc。如果你在环境里直接敲nvcc找不到，可能是 PATH 没配好。可以手动加：

# 把 conda 环境的 bin 目录加到 PATH export PATH=$CONDA_PREFIX/bin:$PATH

3.4 验证算力等级和 Toolkit 是否匹配

装完 Toolkit 后，写个小程序验证一下能不能编译、能不能跑。

# test_cc.py # 用 numba 或 cupy 验证算力等级匹配 import torch # 打印算力等级 cc = torch.cuda.get_device_capability(0) print(f"Compute Capability: {cc[0]}.{cc[1]}") # 尝试做一个简单的矩阵乘法，验证 kernel 能跑 a = torch.randn(1000, 1000).cuda() b = torch.randn(1000, 1000).cuda() c = torch.mm(a, b) print(f"Matrix multiplication result shape: {c.shape}") print("CUDA kernel executed successfully")

这段代码先打印算力等级，然后做一个矩阵乘法。如果算力等级和 Toolkit 不匹配，矩阵乘法可能会报no kernel image或者直接崩溃。如果跑通了，说明环境基本可用。

参数说明：torch.randn(1000, 1000).cuda()把张量放到 GPU 上。torch.mm是矩阵乘法，会调用 cuBLAS，底层是 CUDA kernel。如果这一步报错，说明 Toolkit 和驱动或算力等级有问题。

3.5 多卡环境下的算力等级差异处理

如果你有多张不同算力等级的卡，比如一张 8.6 和一张 8.9，编译时要注意。默认情况下，PyTorch 会为当前卡编译，但如果你要写自定义扩展，最好生成包含多个算力等级的 fatbin。

# 编译扩展时指定多个算力等级 nvcc -gencode arch=compute_86,code=sm_86 \ -gencode arch=compute_89,code=sm_89 \ -o my_ext my_ext.cu

这样编译出来的产物在 8.6 和 8.9 上都能跑。如果只指定一个，另一张卡就可能跑不了。

注意：多卡环境下，如果两张卡算力等级差距太大（比如 7.5 和 8.9），有些库可能不支持。这时候要么统一用低算力等级的卡，要么分别编译。

4. 避坑指南：算力与 CUDA 版本不匹配的 5 个典型翻车现场

4.1 报错no kernel image is available for execution on the device

现象：装完环境跑 PyTorch，报no kernel image is available for execution on the device。或者自己编译的 CUDA 程序跑起来直接崩。

原因：编译时指定的算力等级和实际卡的算力等级不匹配。比如编译时用了-arch=sm_80，但实际卡是 8.6，SASS 代码对不上，PTX 也没生成对应版本，就找不到可执行的 kernel image。

解决：重新编译，指定正确的算力等级。如果是 PyTorch 扩展，在setup.py里改extra_compile_args。如果是自己写的 CUDA 程序，改nvcc的-arch参数。稳妥做法是生成包含多个算力等级的 fatbin。

# setup.py 里指定多个算力等级 from setuptools import setup from torch.utils.cpp_extension import BuildExtension, CUDAExtension setup( name='my_ext', ext_modules=[ CUDAExtension( name='my_ext', sources=['my_ext.cu'], extra_compile_args={ 'nvcc': [ '-gencode', 'arch=compute_80,code=sm_80', '-gencode', 'arch=compute_86,code=sm_86', ] } ) ], cmdclass={'build_ext': BuildExtension} )

4.2 驱动版本太低，装不了新 Toolkit

现象：装 CUDA 12.4，装完nvcc --version正常，但跑程序报CUDA driver version is insufficient for CUDA runtime version。

原因：驱动版本太低，不支持当前 Toolkit。比如驱动 525 最高支持 CUDA 12.0，你装了 12.4，运行时就会报驱动版本不够。

解决：要么升级驱动，要么降 Toolkit 版本。升级驱动在租卡环境下可能不方便，那就降 Toolkit。先看nvidia-smi右上角的最高支持版本，然后装不超过这个版本的 Toolkit。

4.3 conda 装的 Toolkit 和系统 Toolkit 冲突

现象：系统里已经装了 CUDA 11.8，conda 环境里装了 12.1，编译时nvcc用的是系统的 11.8，但运行时链接的是 conda 的 12.1，报版本不匹配。

原因：PATH 和 LD_LIBRARY_PATH 没配好，nvcc和运行时库来自不同版本。

解决：在 conda 环境里显式设置 PATH 和 LD_LIBRARY_PATH，确保nvcc和库都来自 conda 环境。

# 在 conda 环境里设置环境变量 export PATH=$CONDA_PREFIX/bin:$PATH export LD_LIBRARY_PATH=$CONDA_PREFIX/lib:$LD_LIBRARY_PATH # 验证 nvcc 路径 which nvcc # 应该输出 $CONDA_PREFIX/bin/nvcc

4.4 算力等级太高，老 Toolkit 不认识

现象：拿一张 8.9 的卡，装 CUDA 11.0，编译时报Unsupported gpu architecture 'compute_89'。

原因：CUDA 11.0 不支持 8.9，最高只到 8.0。Toolkit 不认识这个算力等级。

解决：升级 Toolkit 到支持 8.9 的版本，最低 CUDA 11.8。如果框架只支持 CUDA 11.0，那就得换卡或者自己编译框架。

4.5 多卡环境只编译了一个算力等级

现象：两张卡，一张 8.6 一张 8.9，编译时只指定了-arch=sm_86，结果 8.9 的卡跑不了。

原因：编译产物只包含 8.6 的 SASS，8.9 的卡找不到对应的 kernel image。

解决：编译时指定多个-gencode，生成包含 8.6 和 8.9 的 fatbin。或者分别编译两个版本，运行时根据卡选择。

# 生成同时支持 8.6 和 8.9 的 fatbin nvcc -gencode arch=compute_86,code=sm_86 \ -gencode arch=compute_89,code=sm_89 \ -o my_kernel my_kernel.cu

5. 进阶技巧：用cudaGetDeviceProperties写一个自检脚本

5.1 为什么要自己写自检脚本

nvidia-smi和 PyTorch 能查算力等级，但有些信息查不到，比如 L2 缓存大小、共享内存大小、寄存器数量、是否支持某个特性。写一个自检脚本，可以在部署前快速确认环境是否满足要求。

cudaGetDeviceProperties是 CUDA 运行时 API，能拿到设备的完整属性。用 C 或 C++ 写一个小程序，编译后跑一下，就能输出所有关键参数。

5.2 完整自检脚本代码

// check_device.cu // 用 cudaGetDeviceProperties 查询设备完整属性 #include <cstdio> #include <cuda_runtime.h> int main() { int device_count = 0; cudaGetDeviceCount(&device_count); if (device_count == 0) { printf("No CUDA devices found\n"); return 1; } for (int i = 0; i < device_count; i++) { cudaDeviceProp prop; cudaGetDeviceProperties(&prop, i); printf("Device %d: %s\n", i, prop.name); printf(" Compute Capability: %d.%d\n", prop.major, prop.minor); printf(" Total Global Memory: %.2f GB\n", prop.totalGlobalMem / (1024.0 * 1024.0 * 1024.0)); printf(" Shared Memory per Block: %zu bytes\n", prop.sharedMemPerBlock); printf(" Registers per Block: %d\n", prop.regsPerBlock); printf(" Warp Size: %d\n", prop.warpSize); printf(" Max Threads per Block: %d\n", prop.maxThreadsPerBlock); printf(" L2 Cache Size: %d bytes\n", prop.l2CacheSize); printf(" Memory Clock Rate: %d kHz\n", prop.memoryClockRate); printf(" Memory Bus Width: %d bits\n", prop.memoryBusWidth); printf(" Concurrent Kernels: %d\n", prop.concurrentKernels); printf(" Async Engine Count: %d\n", prop.asyncEngineCount); printf(" Unified Addressing: %s\n", prop.unifiedAddressing ? "Yes" : "No"); printf(" Managed Memory: %s\n", prop.managedMemory ? "Yes" : "No"); printf("\n"); } return 0; }

编译命令：

nvcc -o check_device check_device.cu ./check_device

逻辑说明：cudaGetDeviceCount获取设备数量。cudaGetDeviceProperties填充cudaDeviceProp结构体，里面包含所有设备属性。然后逐项打印。

参数说明：prop.major和prop.minor就是算力等级。prop.sharedMemPerBlock是每个 block 可用的共享内存大小，写 kernel 时要注意不要超过这个值。prop.regsPerBlock是每个 block 可用的寄存器数量，寄存器用多了会限制 occupancy。prop.l2CacheSize是 L2 缓存大小，影响内存访问性能。

5.3 怎么用这个脚本排查环境问题

部署前跑一下这个脚本，重点看几个参数：

• Compute Capability：确认和编译时指定的算力等级一致。
• Shared Memory per Block：如果 kernel 用的共享内存超过这个值，编译会报错。
• Registers per Block：如果 kernel 用的寄存器太多，occupancy 会下降。
• Managed Memory：如果用 Unified Memory，确认这个字段是 Yes。

如果Compute Capability和预期不符，说明卡不对或者驱动有问题。如果Shared Memory per Block比预期小，可能是驱动版本太老，没启用新架构的更大共享内存。

5.4 一个我常犯的错误

我早期配环境时，总是先装 Toolkit 再看算力等级，结果经常装错版本。后来改成先跑自检脚本，确认算力等级和驱动版本，再选 Toolkit。这个顺序看起来简单，但能省很多重装时间。

还有一个习惯：编译扩展时，永远显式指定-gencode，不用-arch=native。因为编译机和部署机可能不是同一张卡，native在跨机器时就是坑。显式指定虽然麻烦一点，但可控。

希望帮到你。

本文还有配套的精品资源，点击获取