Ubuntu CUDA 环境安装

非常基础的装环境环节，供新入门的小伙伴参考。

安装驱动

卸载已有驱动

sudo apt remove --purge '^nvidia-.*'
sudo apt autoremove

使用 ubuntu-drivers 安装驱动时会禁用 nouveau，因此不需要手动处理。

安装驱动

sudo apt update
sudo apt install ubuntu-drivers-common dkms
sudo ubuntu-drivers autoinstall

！！！安装完成后重启系统！！！

安装 CUDA Toolkit

前往 https://developer.nvidia.com/cuda-downloads，选择对应操作系统拿到 keyring 并安装。

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update

查看可选择的 CUDA 版本

sudo apt search cuda-toolkit

安装 CUDA Toolkit，这里以 12.8 版本为例。

sudo apt install cuda-toolkit-12-8

安装 NVIDIA Container Toolkit

设置仓库

curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list

更新并安装

2025/09/16：目前最新版本是 1.17.8-1。可以在 https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html 查阅

sudo apt update
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

参考资料

https://documentation.ubuntu.com/server/how-to/graphics/install-nvidia-drivers/

https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html