Ubuntu 24.04 安装 NVIDIA Container Toolkit 全指南：让Docker拥抱GPU
前言在使用Docker运行必要GPU加速的AI应用时，大概会遇到报错：
docker: Error response from daemon: could not select device driver "" with capabilities: []
这是因为缺少 NVIDIA Container Toolkit —— 它是让容器访问宿主GPU的关键桥梁。
本文将以Ubuntu 24.04 (Noble Numbat)为例，手把手教你完成完整安装流程。
一、环境预备
1.1 验证驱动状态
nvidia-smi
成功时会显示类似以下输出（注意右上角的CUDA版本）
二、安装NVIDIA Container Toolkit
2.1 添加官方仓库
# 安装依赖
sudo apt-get update
sudo apt-get install -y curl
# 添加密钥和仓库
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
sed 's#deb https://#deb https://#g' | \
sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
2.2 执行安装
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
三、设置Docker运行时
3.1 更新Docker设置
# 生成配置文件
sudo nvidia-ctk runtime configure --runtime=docker
# 重启Docker服务
sudo systemctl restart docker
四、验证安装效果
4.1 运行测试容器
docker run --rm --gpus all nvidia/cuda:12.6.0-base-ubuntu24.04 nvidia-smi
成功时会看到与宿主机雷同的GPU信息输出。
五、实战应用
如今可以运行你的GPU容器应用了！例如：
docker run --gpus all -p 8880:8880 ghcr.io/remsky/kokoro-fastapi-gpu:latest
技术总结：本文介绍了在Ubuntu 24.04中设置GPU容器支持的全流程，涵盖了驱动安装、工具链设置和验证测试。假如您在操作中遇到题目，欢迎在评论区留言讨论！
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]