【Ubuntu2404】Ubuntu24.04安装NVIDIA驱动/CUDA/cuDNN搭建神经网络训练环境
引言NVIDIA 驱动 、CUDA 和 cuDNN 是精密相干但各自具有独特功能的技术,它们共同为图形处理单位(GPU)加快的应用程序提供了强大的支持。本文重要先容怎样安装 NVIDIA 驱动、CUDA 及 cuDNN ,为后续神经网络训练提供支持。本文重要先容Ubuntu24.04安装NVIDIA驱动、CUDA和cuDNN的流程。
别的必要分析的是,仅 NVIDIA 系列显卡支持,如需查看本机显卡情况,可以使用如下命令:
lspci | grep -i nvidia
charleswyq@charleswyq-ThinkBook-16p-G5-IRX:~$ lspci | grep -i nvidia
01:00.0 VGA compatible controller: NVIDIA Corporation AD107M (rev a1)
01:00.1 Audio device: NVIDIA Corporation Device 22be (rev a1)
一、安装NVIDIA驱动
NVIDIA驱动使得操作体系和应用程序可以大概与 NVIDIA GPU 进行通信。驱动程序包含了GPU的硬件抽象层,通过它操作体系可以管理和分配GPU资源,如显存和计算核心。对于使用 NVIDIA 显卡的体系来说,安装正确的驱动是确保图形表现正常以及利用GPU加快计算本领的关键。
1.1 从体系工具中安装
由于Ubuntu24.04对 NVIDIA 有相干支持,可以从 软件和更新 - 附加驱动 中安装。
https://i-blog.csdnimg.cn/direct/5a3d2aea27ca425db7043ede203e1519.png
重要提示:不建议从官网上下载手动安装,否则可能会无法使用,导致 nvidia-smi
命令报错。变动回来会更加麻烦,可能导致根本无法使用最后重装体系(血的教训)。
1.2 检验是否按安装成功
在终端中输入如下命令检验安装情况:
nvidia-smi
https://i-blog.csdnimg.cn/direct/4726e82f31db4b74affba769cff5861f.png
如果出现上图内容分析已经安装成功,一般来说使用体系工具进行安装就不会堕落。
别的必要记下本机的 CUDA 版本,表格中右上角就是,后续安装cuDNN时必要使用。
Driver Version: 550.120
CUDA Version: 12.4
二、安装CUDA
CUDA是由 NVIDIA 开发的一个并行计算平台和应用编程接口(API),它允许开发者编写可以大概在 NVIDIA GPU 上执行的代码。CUDA 支持 C、C++ 和 Fortran 等多种编程语言,并提供了一套丰富的库来简化开发过程。通过 CUDA,开发者可以充实利用 GPU 中大量的并行处理单位来进行高性能计算使命,例如呆板学习、图像处理、科学模拟等。CUDA 还包罗了调试工具、性能分析器和其他辅助工具,资助开发者优化他们的应用程序。
重要提示:这里同样不建议手动下载安装,原因同上。 CUDA 安装失败比 NVIDIA Driver 更难处理。
2.1 通过apt-get安装CUDA
打开终端,直接通过 apt-get 进行安装。
sudo apt-get install nvidia-cuda-toolkit
2.2 检验是否按安装成功
在终端中输入如下命令检验安装情况:
nvcc -V
https://i-blog.csdnimg.cn/direct/3f510b5cf95740669d287774512753c1.png
如果出现上图内容分析已经安装成功,一般来说使用 apt-get 进行安装就不会堕落。
三、安装cuDNN
cuDNN 是一个专门针对深度神经网络(DNN)优化的库,它构建在 CUDA 之上。cuDNN 提供了高度优化的原语(primitives),用于实现常见的深度学习操作,如卷积、池化、激活函数等。这些原语经过经心设计,以最大限度地提高性能并减少内存占用,从而加快深度学习模子的训练和推理过程。cuDNN 支持盛行的深度学习框架,如 TensorFlow、PyTorch 和 MXNet,因此开发者可以直接集成 cuDNN 来提拔其模子的运行服从。
3.1 查看CUDA版本
在终端中输入如下命令查看 CUDA 版本,如果无法运行分析 NVIDIA 驱动安装错误,请完备卸载后重新安装。
nvidia-smi
https://i-blog.csdnimg.cn/direct/4726e82f31db4b74affba769cff5861f.png
如表中右上角所示, CUDA 版本为 12.4 。
CUDA Version: 12.4
3.2 下载并安装cuDNN
下载链接:cuDNN (官网)
这里保举从官网下载并安装 cuDNN 。进入官网后,根据自己的必要选择合适版本的 cuDNN 。
https://i-blog.csdnimg.cn/direct/47269ac11d7b4f8caf91f85eee3c26a1.png
根据官网中所示代码进行在线安装。
wget https://developer.download.nvidia.com/compute/cudnn/9.6.0/local_installers/cudnn-local-repo-ubuntu2404-9.6.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2404-9.6.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2404-9.6.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn
https://i-blog.csdnimg.cn/direct/6a434544fcff42ef942698edc7e6ae47.png
整个下载及安装过程还是比较迅速的。
https://i-blog.csdnimg.cn/direct/b111e822526243a19808c01262f4d93c.png
3.3 检验cuDNN是否安装成功
注:必要安装 PyTorch
打开终端,并启用 Python :
python
https://i-blog.csdnimg.cn/direct/e82e9770b86d4ae0b043baf8299415d8.png
在 Python 环境中输入如下程序:
from torch.backends import cudnn
cudnn.is_available()
如返回 True 则分析cuDNN可以大概使用。
https://i-blog.csdnimg.cn/direct/a6c75aef28984aaea53ec81bf6334265.png
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。
页:
[1]