CUDA与cuDNN在linux / Ubuntu22.04上的安装与卸载，包含CUDA的.run安装与.d ...

NVIDIA显卡驱动 for Linux / Ubuntu22.04的续集，主要关注CUDA与cuDNN在linux / Ubuntu22.04上的安装与卸载。

• 重点：
  
  
  • 整合了两种CUDA安装方式（.run与.deb）、两种cuDNN的安装方式（.tar.xz与.deb），网上似乎没什么人做这个
    
  • 整合了CUDA与cuDNN的官方样例代码的测试方法
    
    
    
    • 网上的CUDA测试方法大多使用nvcc -V，还算OK，添加了官方samples的测试
      
    • 网上的cuDNN测试方法根本上止步于查询版本号大概查询dpkg是否能正常索引包，不太有效，能编译跟跑通官方样例才是正解
      
    
    
  • 整合了CUDA与cuDNN的版本切换方法，尤其是美满的使用脚本的一键切换版本方法（部门代码由GPT辅助生成）
    
  • 整合了CUDA与cuDNN的彻底卸载方法
    
  
  

往下看的重要提醒

假如你使用了conda来管理你的环境，假如环境中安装了pytorch，那么已经自带了需要的CUDA与cuDNN，不需要、没必要再另外安装
假如是TensorFlow，可以从conda的仓库里指定CUDA与cuDNN版本来安装
可以看到我这里安装了torch，已经附带了cuda12.4与cuDNN9.1.0_0了，想安装差别版本，直接去pytorch官网吧

1. $ conda list | grep 'cudnn'
2. pytorch   2.4.0   py3.12_cuda12.4_cudnn9.1.0_0    pytorch

复制代码

CUDA for Linux

安装准备

• 使用nvidia-smi查察可支持CUDA最高版本
  
• NVIDIA ToolKit官网找对应版本CUDA：
  
  
  • CUDA下载页：https://developer.nvidia.com/cuda-downloads
    
  • 一样平常都是需要探求其他的合适版本，从上面网站的Resources · Archive of Previous CUDA Releases进去：CUDA Toolkit Archive
    
  
  

安装方法推荐

推荐使用方法一.run安装

• 后续版本管理或卸载非常方便
  
• 由于使用 .deb可能会将已经安装的较新的显卡驱动替换
  

方法一：.run(local)安装

• 下载并安装
  
  1. wget https://developer.download.nvidia.com/compute/cuda/12.6.0/local_installers/./cuda_12.1.1_530.30.02_linux.run
  3. # 法一：
  4. sudo sh ./cuda_12.1.1_530.30.02_linux.run
  6. # 法二：
  7. sudo chmod +x ./cuda_12.1.1_530.30.02_linux.run # 添加可执行权限
  8. ./cuda_12.1.1_530.30.02_linux.run # 安装

  复制代码
• 进入可视化界面安装
  同意协议：
  
  
  
  由于之前已经安装了驱动，取消勾选驱动安装
  
  
  在Options里可以更改安装地址，还可以选择为哪些用户或全部用户安装CUDA
  
  
  由于要思量我们手动切换版本，不要让安装步伐主动更新软链接
  
  
  安装乐成：
  
  1. $ sudo ./cuda_12.1.1_530.30.02_linux.run
  2. ===========
  3. = Summary =
  4. ===========
  6. Driver:   Not Selected
  7. Toolkit:  Installed in /usr/local/cuda-12.1/
  9. Please make sure that
  10. -   PATH includes /usr/local/cuda-12.1/bin
  11. -   LD_LIBRARY_PATH includes /usr/local/cuda-12.1/lib64, or, add /usr/local/cuda-12.1/lib64 to /etc/ld.so.conf and run ldconfig as root
  13. To uninstall the CUDA Toolkit, run cuda-uninstaller in /usr/local/cuda-12.1/bin
  14. ***WARNING: Incomplete installation! This installation did not install the CUDA Driver. A driver of version at least 530.00 is required for CUDA 12.1 functionality to work.
  15. To install the driver using this installer, run the following command, replacing <CudaInstaller> with the name of this run file:
  16.     sudo <CudaInstaller>.run --silent --driver
  18. Logfile is /var/log/cuda-installer.log

  复制代码
  从输出信息中也能看到对环境变量有要求：
  
  1. Please make sure that
  2. -   PATH includes /usr/local/cuda-12.1/bin
  3. -   LD_LIBRARY_PATH includes /usr/local/cuda-12.1/lib64, or, add /usr/local/cuda-12.1/lib64 to /etc/ld.so.conf and run ldconfig as root

  复制代码

方法二：.deb(local)安装

直接跟着官网的指令一行行走安装即可

1. wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
2. sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
3. wget https://developer.download.nvidia.com/compute/cuda/12.6.0/local_installers/cuda-repo-ubuntu2204-12-6-local_12.6.0-560.28.03-1_amd64.deb
4. sudo dpkg -i cuda-repo-ubuntu2204-12-6-local_12.6.0-560.28.03-1_amd64.deb
5. sudo cp /var/cuda-repo-ubuntu2204-12-6-local/cuda-*-keyring.gpg /usr/share/keyrings/
6. sudo apt-get update
7. sudo apt-get -y install cuda-toolkit-12-6

复制代码

• 报错没有安装libtinfo5：
  
  1. The following packages have unmet dependencies:
  2. E: nsight-systems-2023.4.4 : Depends: libtinfo5 but it is not installable

  复制代码
• 解决法一：从libtinfo5官网找到对应版本的下载地址并wget下载：Libtinfo5官网
  
  1. wget http://archive.ubuntu.com/ubuntu/pool/universe/n/ncurses/libtinfo5_6.4-2_amd64.deb
  2. dpkg -i libtinfo5_6.4-2_amd64.deb

  复制代码
  
  
  • 参考：Ubuntu 24.04 Preview 版安装 libtinfo5
    
  
  
• 解决法二（未测试）：
  修改/etc/apt/sources.list大概/etc/apt/sources.list.d/ubuntu.sources
  
  
  
  • 详见：Installing CUDA on Ubuntu 23.10 - libt5info not installable
    
  
  

修改环境变量以便使用nvcc下令

• 不修改的话大概率没法用
  
• 检查CUDA是否确实安装
  
  1. $ ls /usr/local
  2. bin  cuda  cuda-12  cuda-12.4  etc  games  include  lib  man  sbin  share  src

  复制代码
• 在系统可视化界面中，可以看出"cuda"是一个软链接（"cuda-12"也是），它将指向具体版本的一个cuda文件夹，这里我安装了第二个版本的CUDA，以是指向了新安装的cuda-12.1
  
  
  
  
• 修改环境变量
  注意，路径是通过软链接的文件夹来指向现实路径的
  
  1. $ vim ~/.bashrc
  3. # 末尾添加以下三行：
  4. # cuda
  5. export LD_LIBRARY_PATH=/usr/local/cuda/lib64
  6. export PATH=$PATH:/usr/local/cuda/bin
  8. # 刷新
  9. $ source ~/.bashrc
  11. # 测试
  12. $ nvcc -V
  13. nvcc: NVIDIA (R) Cuda compiler driver
  14. Copyright (c) 2005-2023 NVIDIA Corporation
  15. Built on Mon_Apr__3_17:16:06_PDT_2023
  16. Cuda compilation tools, release 12.1, V12.1.105
  17. Build cuda_12.1.r12.1/compiler.32688072_0

  复制代码

功能验证

最后表现PASS，验证乐成

1. # 找到验证demo的目录
2. $ cd /usr/local/cuda-12.1/extras/demo_suite
3. $ ls
4. bandwidthTest  busGrind  deviceQuery  nbody  nbody_data_files  oceanFFT  oceanFFT_data_files  randomFog  randomFog_data_files  vectorAdd
5. # 运行deviceQuery
6. $ ./deviceQuery
7. ……
8. ……
9. deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 12.4, CUDA Runtime Version = 12.1, NumDevs = 1, Device0 = NVIDIA GeForce RTX 3090
10. Result = PASS

复制代码

切换差别版本的CUDA

• 手动修改软链接以指向差别版本的CUDA
  
  1. # 删了旧的软链接，链接新的目录即可
  2. sudo rm -rf /usr/local/cuda
  3. sudo ln -s /usr/local/cuda-12.1 /usr/local/cuda

  复制代码
  参考：Linux下CUDA的多版本安装及切换
  
• 写个bash
  比方存为switch_cuda.sh，使用时直接调用./switch_cuda.sh即可
  
  1. #!/bin/bash
  3. # 设置 CUDA 的安装路径
  4. CUDA_BASE_PATH="/usr/local"
  6. # 读取用户输入的 CUDA 版本
  7. echo "Available CUDA versions: 12.1, 12.4"
  8. read -p "Enter the CUDA version you want to switch to (e.g., 12.1): " CUDA_VERSION
  10. # 检查 CUDA 版本目录是否存在
  11. CUDA_PATH="$CUDA_BASE_PATH/cuda-$CUDA_VERSION"
  12. if [ ! -d "$CUDA_PATH" ]; then
  13.     echo "Error: CUDA version $CUDA_VERSION not found in $CUDA_BASE_PATH."
  14.     exit 1
  15. fi
  17. # 删除旧的 CUDA 符号链接
  18. if [ -L "$CUDA_BASE_PATH/cuda" ]; then
  19.     sudo rm "$CUDA_BASE_PATH/cuda"
  20.     echo "Removed existing CUDA symbolic link."
  21. fi
  23. # 创建新的 CUDA 符号链接
  24. sudo ln -sf "$CUDA_PATH" "$CUDA_BASE_PATH/cuda"
  25. echo "Switched to CUDA $CUDA_VERSION."
  27. # 刷新库缓存
  28. sudo ldconfig
  30. echo "CUDA $CUDA_VERSION has been successfully switched."

  复制代码

CUDA卸载

卸载.run(local)安装的CUDA

很方便，强烈推荐，这也是为什么上面推荐使用.run的方式安装CUDA

1. cd/usr/local/cuda-11.2/bin
2. sudo ./cuda-uninstaller

复制代码

用空格键勾选以下几项

选择done，提示Successfully uninstalled完成卸载。
卸载.deb(local)安装的CUDA

很麻烦，这也是为什么上面推荐使用.run的方式安装CUDA

• 查察有什么包，以防止误删（针对已经安装多个版本的CUDA）
  
  
  
  • 通过.deb安装的CUDA版本可以使用以下下令查察：dpkg -l | grep cuda
    
  • 通过.run文件安装的CUDA版本通常可以通过查察/usr/local目录来检查：ls /usr/local | grep cuda
    
  
  
• 卸载CUDA工具包和相关组件：
  
  1. sudo apt-get remove --purge '^cuda-.*'
  2. sudo apt-get remove --purge '^libnvidia-.*'
  3. sudo apt-get remove --purge '^nvidia-.*'

  复制代码
  
  
  • '^cuda-.*'：匹配所有以cuda-开头的包，如cuda-toolkit-12-6、cuda-drivers等。
    
  • '^libnvidia-.*' 和 '^nvidia-.*'：匹配所有以libnvidia-或nvidia-开头的包，删除与NVIDIA相关的库和驱动步伐。一样平常删完第一个'^cuda-.*'，后面都没有了
    
  
  
• 移除本地的CUDA存储库和GPG密钥：
  
  1. sudo rm /etc/apt/sources.list.d/cuda*
  2. sudo rm /etc/apt/preferences.d/cuda-repository-pin-600
  3. sudo rm /usr/share/keyrings/cuda-*-keyring.gpg

  复制代码
  
  
  • sudo rm /etc/apt/sources.list.d/cuda*：删除CUDA存储库的源列表文件，以免APT继续实验从NVIDIA存储库中获取更新。
    
  • sudo rm /etc/apt/preferences.d/cuda-repository-pin-600：删除为CUDA存储库设置的APT优先级文件。
    
  • sudo rm /usr/share/keyrings/cuda-*-keyring.gpg： 删除CUDA存储库的GPG密钥。
    
  
  
• 清理APT缓存：
  
  1. sudo apt-get autoremove
  2. sudo apt-get autoclean

  复制代码
  
  
  • autoremove：删除系统中不再需要的依靠包。
    
  • autoclean：打扫APT缓存中的旧版本软件包文件。
    
  
  
• 删除CUDA安装目录（可选）：
  
  1. bash复制代码
  2. sudo rm -rf /usr/local/cuda*

  复制代码
  
  
  • 删除默认安装的CUDA目录（一样平常在/usr/local/cuda），包罗所有版本的CUDA。
    
  • 假如安装了多个CUDA版本，可以只删除特定版本的目录。
    
  
  
• 检查：dpkg -l | grep cuda，应该没有输出
  
• 卸载残留软件：Nsight system和Nsight compute
  
  1. $ sudo apt list --installed | grep 'nsight'
  2. nsight-compute-2024.1.1/now 2024.1.1.4-1 amd64 [installed,local]
  3. nsight-systems-2023.4.4/now 2023.4.4.54-234433681190v0 amd64 [installed,local]
  5. $ sudo apt purge nsight-compute-2024.1.1 nsight-systems-2023.4.4
  6. $ sudo apt autoremove

  复制代码

cuDNN for Linux

安装准备

• 下载页面：cuDNN Archive
  官方安装文档：
  
  
  
  • .tar压缩包安装方式：Tarball Installation
    
  • .deb安装方式：Package Manager Local Installation-Ubuntu/Debian Local Installation
    
  
  
• 安装方式选择：
  
  
  
  • .tar压缩包安装：没有使用系统的软件包管理（dpkg），需要对Linux有肯定的相识，但是可以同时安装多个版本并人为控制调用
    
  • .deb包安装：探索起来麻烦，但是去除弯路后安装方便，然而不方便进行多版本控制
    
  • 省流：有多版本需求思量.tar压缩包安装，否则用.deb包一键安装
    
  
  
• 下载对应CUDA版本的cuDNN（需要登录）
  
  
  
  • .tar压缩包安装方式
    我的下载版本为：
    cuDNN v8.9.7 (December 5th, 2023), for CUDA 12.x 的 Local Installer for Linux x86_64 (Tar)
    得到文件cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz
    
  • .deb包安装方式
    我的下载版本为：
    cuDNN v8.9.7 (December 5th, 2023), for CUDA 12.x 的 Local Installer for Ubuntu22.04 x86_64 (Deb)
    得到文件cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb
    
  
  

.tar.xz压缩包安装方式

安装

• 创建目录：sudo mkdir -p /opt/cudnn/cudnn-8.9.7
  
• 解压缩并移动文件夹并重定名：
  假如没有多版本需求，也可以不放在opt内，大概可以直接写在/usr/local/cudnn下，看个人需求
  
  1. # 解压、移动、strip-components=1将解压文件中的第一层目录去掉
  2. $ sudo tar -xJvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz -C /opt/cudnn/cudnn-8.9.7 --strip-components=1
  3. # 查看一下目录结构
  4. $ cd /opt/
  5. $ tree -L 2 cudnn
  6. cudnn
  7. └── cudnn-8.9.7
  8.     ├── include
  9.     ├── lib
  10.     └── LICENSE

  复制代码
• 链接文件夹：
  此处需要注意链接的是cuda软链接，需要注意到底链接到了哪个版本下的cuda（假如有多个版本）
  
  1. sudo ln -sf /opt/cudnn/cudnn-8.9.7/include/* /usr/local/cuda/include/
  2. sudo ln -sf /opt/cudnn/cudnn-8.9.7/lib/* /usr/local/cuda/lib64/

  复制代码

验证安装

• 查察已安装的 cuDNN 版本，只能证明能够文件索引，无法验证系统路径是否能正常索引：
  cat /opt/cudnn/cudnn-8.9.7/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
  
• Sample_demo验证
  
  
  
  • 假如是.deb安装，ibcudnn8-samples包将包含这些cudnn_samples，但由于没有这样安装，只能自己下载了。
    
  • 下载官方的测试样例：cuDNN-samples-v8，这是我从ibcudnn8-samples的.deb包中提取的官方样例
    
  • 下载后：
    1. $ cd ~/Downloads/cudnn_samples_v8/mnistCUDNN
    2. $ ~/Downloads/cudnn_samples_v8/mnistCUDNN$ sudo make clean && make
    3. # 运行文件
    4. $ ./mnistCUDNN
    5. ……
    6. ……
    7. Test passed！
    8. # 说明cuDNN正常运行

    复制代码
  
  

参考：
【Linux】安装CUDA 11.2 和 cuDNN 8.4.0并检查是否安装乐成
Linux下CUDA的多版本安装及切换
.deb包安装方式

省流版

以下面的安装探索过程总结出的安装方式

• 直接解压下载的.deb文件到文件夹./cudnn：
  
  1. $ dpkg -x cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb ./cudnn-deb
  2. # 看看文件结构
  3. $ tree -L 3 ./cudnn
  4. ./cudnn
  5. ├── etc
  6. │   └── apt
  7. │       └── sources.list.d
  8. ├── usr
  9. │   └── share
  10. │       └── doc
  11. └── var
  12. └── cudnn-local-repo-ubuntu2204-8.9.7.29
  13. ├── 08A7D361.pub
  14. ├── cudnn-local-08A7D361-keyring.gpg
  15. ├── InRelease
  16. ├── libcudnn8_8.9.7.29-1+cuda12.2_amd64.deb
  17. ├── libcudnn8-dev_8.9.7.29-1+cuda12.2_amd64.deb
  18. ├── libcudnn8-samples_8.9.7.29-1+cuda12.2_amd64.deb
  19. ├── Local.md5
  20. ├── Local.md5.gpg
  21. ├── Packages
  22. ├── Packages.gz
  23. ├── Release
  24. └── Release.gpg
  25. 8 directories, 12 files

  复制代码
• 安装./cudnn/var/cudnn-local-repo-ubuntu2204-8.9.7.29中的这三个.deb文件
  注意，有依靠需求，必须从上往下按顺序安装
  
  1. cd ./cudnn/var/cudnn-local-repo-ubuntu2204-8.9.7.29
  2. sudo dpkg -i libcudnn8_8.9.7.29-1+cuda12.2_amd64.deb
  3. sudo dpkg -i libcudnn8-dev_8.9.7.29-1+cuda12.2_amd64.deb
  4. sudo dpkg -i libcudnn8-samples_8.9.7.29-1+cuda12.2_amd64.deb

  复制代码

我的安装探索过程

不想看可以直接过，看下面的验证安装环节，主要目的是留个档，盼望后人不要趟我这些坑

• 先跟着官网的走：
  

1. # 安装deb包
2. cd ~/Downloads/
3. sudo dpkg -i cudnn-local-repo-ubuntu2204-8.9.7.29_1.0-1_amd64.deb
4. # 导入CUDA GPG key
5. sudo cp /var/cudnn-local-repo-*/cudnn-local-*-keyring.gpg /usr/share/keyrings/
6. # 刷新apt
7. sudo apt-get update

复制代码

• 到现在为止都是与官网一样的，但是接下来的步骤，官网写着：
         To install for CUDA 11, run：sudo apt-get -y install cudnn9-cuda-11
  To install for CUDA 12, run：sudo apt-get -y install cudnn9-cuda-12
      但现实上会找不到cudnn9-cuda-12这个包：
  
  1. $ sudo apt-get -y install cudnn9-cuda-12
  2. Reading package lists… Done
  3. Building dependency tree… Done
  4. Reading state information… Done
  5. E: Unable to locate package cudnn9-cuda-12

  复制代码
• 使用apt-cache search cudnn可以发现要装的文件有3个：3个libcudnn8文件
  
  1. $ apt-cache search cudnn
  2. nvidia-cudnn - NVIDIA CUDA Deep Neural Network library (install script)
  3. libcudnn8 - cuDNN runtime libraries
  4. libcudnn8-dev - cuDNN development libraries and headers
  5. libcudnn8-samples - cuDNN samples
  6. cudnn-local-repo-ubuntu2204-8.9.7.29 - cudnn-local repository configuration files

  复制代码
• 查察/var/cudnn-local-repo-ubuntu2204-8.9.7.29目录可以发现三个libcudnn8文件
  
  1. $ ls /var/cudnn-local-repo-ubuntu2204-8.9.7.29 -l
  2. total 865868
  3. -rw-r--r-- 1 root root      1660 12月  2  2023 08A7D361.pub
  4. -rw-r--r-- 1 root root      1166 12月  2  2023 cudnn-local-08A7D361-keyring.gpg
  5. -rw-r--r-- 1 root root      1572 12月  2  2023 InRelease
  6. -rw-r--r-- 1 root root 444477788 12月  2  2023 libcudnn8_8.9.7.29-1+cuda12.2_amd64.deb
  7. -rw-r--r-- 1 root root 440462722 12月  2  2023 libcudnn8-dev_8.9.7.29-1+cuda12.2_amd64.deb
  8. -rw-r--r-- 1 root root   1664468 12月  2  2023 libcudnn8-samples_8.9.7.29-1+cuda12.2_amd64.deb
  9. -rw-r--r-- 1 root root      1928 12月  2  2023 Local.md5
  10. -rw-r--r-- 1 root root       836 12月  2  2023 Local.md5.gpg
  11. -rw-r--r-- 1 root root      2121 12月  2  2023 Packages
  12. -rw-r--r-- 1 root root       949 12月  2  2023 Packages.gz
  13. -rw-r--r-- 1 root root       690 12月  2  2023 Release
  14. -rw-r--r-- 1 root root       833 12月  2  2023 Release.gpg

  复制代码
• 手动安装这三个包
  
  1. $ cd /var/cudnn-local-repo-ubuntu2204-8.9.7.29
  2. $ sudo dpkg -i libcudnn8_8.9.7.29-1+cuda12.2_amd64.deb
  3. $ sudo dpkg -i libcudnn8-dev_8.9.7.29-1+cuda12.2_amd64.deb
  4. $ sudo dpkg -i libcudnn8-samples_8.9.7.29-1+cuda12.2_amd64.deb

  复制代码
• 探索总结：
  
  
  
  • 安装cuDNN本地仓库没必要，由于反正都无法找到想要的包
    
  • 而且由于需要的包已经在deb文件包含，解压直接安装即可
    
  
  

验证安装

• 底子验证，仅验证可以访问并查询到对应版本信息
  
  1. # 先找到cudnn_version文件在哪
  2. $ whereis cudnn_version.h
  3. cudnn_version.h: /usr/include/cudnn_version.h
  5. # 打印cudnn_version.h中的信息（匹配到“CUDNN_MAJOR”后打印此行和后(After)2两行）
  6. # 我的版本号为CUDNN_MAJOR.CUDNN_MINOR.CUDNN_PATCHLEVEL=8.9.7
  7. $ cat /usr/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
  8. #define CUDNN_MAJOR 8
  9. #define CUDNN_MINOR 9
  10. #define CUDNN_PATCHLEVEL 7
  11. --
  12. #define CUDNN_VERSION (CUDNN_MAJOR * 1000 + CUDNN_MINOR * 100 + CUDNN_PATCHLEVEL)
  14. /* cannot use constexpr here since this is a C-only file */

  复制代码
• 底子验证，仅验证包被精确安装
  
  1. $ ldconfig -v | grep cudnn
  2.                 …………
  3.                 libcudnn_cnn_train.so.8 -> libcudnn_cnn_train.so.8.9.7
  4.                 libcudnn.so.8 -> libcudnn.so.8.9.7
  5.                 libcudnn_adv_infer.so.8 -> libcudnn_adv_infer.so.8.9.7
  6.                 libcudnn_ops_infer.so.8 -> libcudnn_ops_infer.so.8.9.7
  7.                 libcudnn_cnn_infer.so.8 -> libcudnn_cnn_infer.so.8.9.7
  8.                 libcudnn_ops_train.so.8 -> libcudnn_ops_train.so.8.9.7
  9.                 libcudnn_adv_train.so.8 -> libcudnn_adv_train.so.8.9.7
  10. /sbin/ldconfig.real: Can't create temporary cache file /etc/ld.so.cache~: Permission denied

  复制代码
• 官方的Sample_demo验证
  
  1. $ cd  /usr/src/cudnn_samples_v8/mnistCUDNN
  2. # 编译the mnistCUDNN sample，成功编译的文件为mnistCUDNN
  3. $ sudo make clean && make
  4. # 运行文件
  5. $ ./mnistCUDNN
  6. ……
  7. ……
  8. Test passed！
  9. # 说明cuDNN正常运行

  复制代码
  
  
  • sudo make可能会报编译错误：fatal error: FreeImage.h: No such file or directory
    
    1. $ sudo make
    2. CUDA_VERSION is 11010
    3. Linking agains cublasLt = true
    4. CUDA VERSION: 11010
    5. TARGET ARCH: x86_64
    6. HOST_ARCH: x86_64
    7. TARGET OS: linux
    8. SMS: 35 50 53 60 61 62 70 72 75 80 86
    9. test.c:1:10: fatal error: FreeImage.h: No such file or directory
    10.     1 | #include "FreeImage.h"
    11.       |          ^~~~~~~~~~~~~
    12. compilation terminated.

    复制代码
    解决：
    
    1. $ sudo apt install libfreeimage3 libfreeimage-dev
    2. # 重新编译，成功
    3. $ sudo make clean && make

    复制代码
    参考：
    ubuntu安装anaconda3+cuda11.2＋cuDNN+pytorch1.7
    编译mnistCUDNN时堕落：fatal error: FreeImage.h: No such file or directory
    
  
  

切换差别版本的cuDNN

• .deb包安装，大概只能重新安装？不知道直接安装差别版本会不会起冲突，没有试验过
  
• .tar.xz压缩包安装，我使用的是这个方式
  cuDNN的软链接比力多直接用脚本了，这个脚本为上面CUDA与这里cuDNN版本切换的复合脚本
  比方存为switch_cuda_cuDNN.sh，使用时直接调用./switch_cuda_cuDNN.sh即可
  
  1. #!/bin/bash
  3. # 设置 CUDA 和 cuDNN 的安装路径
  4. CUDA_BASE_PATH="/usr/local"
  5. CUDNN_BASE_PATH="/opt/cudnn"
  7. # 读取用户输入的 CUDA 和 cuDNN 版本
  8. echo "Available CUDA versions: 12.1, 12.4"
  9. read -p "Enter the CUDA version you want to switch to (e.g., 12.1): " CUDA_VERSION
  11. echo "Available cuDNN versions: 8.9.5, 8.9.7"
  12. read -p "Enter the cuDNN version you want to switch to (e.g., 8.9.7): " CUDNN_VERSION
  14. # 检查 CUDA 版本目录是否存在
  15. CUDA_PATH="$CUDA_BASE_PATH/cuda-$CUDA_VERSION"
  16. if [ ! -d "$CUDA_PATH" ]; then
  17.     echo "Error: CUDA version $CUDA_VERSION not found in $CUDA_BASE_PATH."
  18.     exit 1
  19. fi
  21. # 检查 cuDNN 版本目录是否存在
  22. CUDNN_PATH="$CUDNN_BASE_PATH/cudnn-$CUDNN_VERSION"
  23. if [ ! -d "$CUDNN_PATH" ]; then
  24.     echo "Error: cuDNN version $CUDNN_VERSION not found in $CUDNN_BASE_PATH."
  25.     exit 1
  26. fi
  28. # 删除旧的 CUDA 符号链接
  29. if [ -L "$CUDA_BASE_PATH/cuda" ]; then
  30.     sudo rm "$CUDA_BASE_PATH/cuda"
  31.     echo "Removed existing CUDA symbolic link."
  32. fi
  34. # 删除旧的 cuDNN 符号链接，只删除带有 "cudnn" 的链接
  35. if [ -d "$CUDA_BASE_PATH/cuda/include" ]; then
  36.     sudo find "$CUDA_BASE_PATH/cuda/include" -type l -name "*cudnn*" -exec rm {} \;
  37.     echo "Removed existing cuDNN include symbolic links."
  38. fi
  40. if [ -d "$CUDA_BASE_PATH/cuda/lib64" ]; then
  41.     sudo find "$CUDA_BASE_PATH/cuda/lib64" -type l -name "*libcudnn*" -exec rm {} \;
  42.     echo "Removed existing cuDNN lib symbolic links."
  43. fi
  45. # 创建新的 CUDA 符号链接
  46. sudo ln -sf "$CUDA_PATH" "$CUDA_BASE_PATH/cuda"
  47. echo "Switched to CUDA $CUDA_VERSION."
  49. # 创建新的 cuDNN 符号链接
  50. sudo ln -sf "$CUDNN_PATH/include/"* "$CUDA_BASE_PATH/cuda/include/"
  51. sudo ln -sf "$CUDNN_PATH/lib/"* "$CUDA_BASE_PATH/cuda/lib64/"
  52. echo "Switched to cuDNN $CUDNN_VERSION."
  54. # 刷新库缓存
  55. sudo ldconfig
  57. echo "CUDA $CUDA_VERSION and cuDNN $CUDNN_VERSION have been successfully switched."

  复制代码

卸载cuDNN

• 查察已经安装的包有什么
  
  1. $ sudo dpkg -l | grep cudnn
  2. ii  cudnn-local-repo-ubuntu2204-8.9.7.29 1.0-1               amd64 cudnn-local repository configuration files
  3. ii  libcudnn8                            8.9.7.29-1+cuda12.2 amd64 cuDNN runtime libraries
  4. ii  libcudnn8-dev                        8.9.7.29-1+cuda12.2 amd64 cuDNN development libraries and headers
  5. ii  libcudnn8-samples                    8.9.7.29-1+cuda12.2 amd64 cuDNN samples

  复制代码
• 卸载安装的libcudnn8相关包：
  
  1. # 卸载刚才手动安装的三个libcudnn8相关包，要按依赖顺序卸载
  2. sudo dpkg -P libcudnn8-samples
  3. sudo dpkg -P libcudnn8-dev
  4. sudo dpkg -P libcudnn8

  复制代码
• 还需要删除安装时使用的本地cuDNN仓库文件：
  
  1. sudo dpkg -r cudnn-local-repo-ubuntu2204-8.9.7.29
  2. sudo rm -rf /var/cudnn-local-repo-ubuntu2204-8.9.7.29

  复制代码
• 可以删除导入的GPG密钥：sudo rm /usr/share/keyrings/cudnn-local-*-keyring.gpg
  
• 清理APT缓存，确保系统不会再实验使用已删除的仓库：
  
  1. sudo apt-get clean
  2. sudo apt-get update

  复制代码
  仍旧报错，说明仍旧没有在apt仓库中清理干净：
  
  1. $ sudo apt-get update
  2. Get:1 file:/var/cuda-repo-ubuntu2204-12-4-local  InRelease [1,572 B]
  3. Get:2 file:/var/cudnn-local-repo-ubuntu2204-8.9.7.29  InRelease
  4. Ign:2 file:/var/cudnn-local-repo-ubuntu2204-8.9.7.29  InRelease
  5. Get:1 file:/var/cuda-repo-ubuntu2204-12-4-local  InRelease [1,572 B]
  6. Get:3 file:/var/cudnn-local-repo-ubuntu2204-8.9.7.29  Release
  7. Err:3 file:/var/cudnn-local-repo-ubuntu2204-8.9.7.29  Release
  8.   File not found - /var/cudnn-local-repo-ubuntu2204-8.9.7.29/Release (2: No such file or directory)
  9. Hit:4 https://mirrors.aliyun.com/docker-ce/linux/ubuntu jammy InRelease                                                                                               
  10. Hit:5 http://mirror.bizflycloud.vn/ubuntu jammy InRelease                                                                                                            
  11. Hit:6 http://mirror.bizflycloud.vn/ubuntu jammy-updates InRelease                                   
  12. Hit:7 http://security.ubuntu.com/ubuntu jammy-security InRelease                                    
  13. Hit:8 http://mirror.bizflycloud.vn/ubuntu jammy-security InRelease  
  14. Hit:9 https://packages.microsoft.com/repos/edge stable InRelease
  15. Reading package lists... Done
  16. E: The repository 'file:/var/cudnn-local-repo-ubuntu2204-8.9.7.29  Release' no longer has a Release file.
  17. N: Updating from such a repository can't be done securely, and is therefore disabled by default.
  18. N: See apt-secure(8) manpage for repository creation and user configuration details.

  复制代码
  解决：
  
  1. # 通过grep找到名为cudnn-local-repo-ubuntu2204-8.9.7.29的仓库在哪
  2. $ grep -r 'cudnn-local-repo-ubuntu2204-8.9.7.29' /etc/apt/sources.list /etc/apt/sources.list.d/
  3. /etc/apt/sources.list.d/cudnn-local-ubuntu2204-8.9.7.29.list:deb [signed-by=/usr/share/keyrings/cudnn-local-08A7D361-keyring.gpg] file:///var/cudnn-local-repo-ubuntu2204-8.9.7.29 /
  4. # 直接删掉
  5. $ sudo rm /etc/apt/sources.list.d/cudnn-local-ubuntu2204-8.9.7.29.list
  6. # 重试
  7. $ sudo apt-get update
  8. Get:1 file:/var/cuda-repo-ubuntu2204-12-4-local  InRelease [1,572 B]
  9. Get:1 file:/var/cuda-repo-ubuntu2204-12-4-local  InRelease [1,572 B]
  10. Hit:2 https://mirrors.aliyun.com/docker-ce/linux/ubuntu jammy InRelease                                                                                          
  11. Hit:3 http://security.ubuntu.com/ubuntu jammy-security InRelease                                                                                                  
  12. Hit:4 http://mirror.bizflycloud.vn/ubuntu jammy InRelease                                                      
  13. Hit:5 http://mirror.bizflycloud.vn/ubuntu jammy-updates InRelease                             
  14. Hit:6 http://mirror.bizflycloud.vn/ubuntu jammy-security InRelease
  15. Hit:7 https://packages.microsoft.com/repos/edge stable InRelease
  16. Reading package lists... Done

  复制代码
• 再次验证：
  
  1. $ sudo dpkg -l | grep cudnn
  2. rc  cudnn-local-repo-ubuntu2204-8.9.7.29  1.0-1 amd64  cudnn-local repository configuration files

  复制代码
  rc 状态表现该包的步伐文件已被删除，但配置文件仍旧存在
  要彻底打扫这个包及其残留的配置文件，可以用：sudo dpkg --purge cudnn-local-repo-ubuntu2204-8.9.7.29
  
• 彻底删除完成
  参考：Ubuntu18.04——私房整理安装NIVIDA驱动(11.4), CUDA11.2, cudnn8.2, TensorRT8.0, Pytorch1.9.0
  

免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。