CUDA Container (Docker)

文档地址： https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html

CUDA Docker 镜像网址： https://hub.docker.com/r/nvidia/cuda/tags

下载镜像

以CUDA12.1 镜像为例： 🖇 CUDA 12.1 CUDNN8

docker pull nvidia/cuda:12.1.0-cudnn8-runtime-ubi8

创建一个容器

docker run \
-d --gpus all \
--name cuda-c1 \ # 容器名字
cuda:12.1.0-cudnn8-runtime-ubi8 \ #使用上面下载的镜像
tail -f /dev/null # 运行在后台而不中断

进入容器命令行环境

docker exec -it cuda-c1 /bin/bash

CUDA 路径

/usr/local/cuda

环境变量

export PATH="/usr/local/cuda/bin:$PATH"
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"
export CUDA_HOME="/usr/local/cuda"