TensorRT在Ubuntu20.04上的极简安装5分钟搞定CUDA12.1和TensorRT8.6如果你正在寻找一种快速搭建深度学习推理环境的方法这篇指南将为你提供一条直达目标的捷径。不同于传统教程的冗长步骤我们将聚焦于最精简的安装路径帮助你在Ubuntu20.04系统上快速部署TensorRT8.6和CUDA12.1环境。1. 准备工作系统与硬件检查在开始安装前确保你的系统满足以下基本要求操作系统Ubuntu20.04 LTS64位硬件配置NVIDIA显卡支持CUDA计算至少10GB可用磁盘空间网络连接稳定的互联网连接用于下载安装包快速验证显卡型号lspci | grep -i nvidia提示如果命令没有输出可能意味着你的系统没有检测到NVIDIA显卡或者需要先安装基础驱动。2. 一键式NVIDIA驱动安装现代Ubuntu系统已经大幅简化了NVIDIA驱动的安装过程。我们推荐使用官方仓库的最新稳定版驱动sudo add-apt-repository ppa:graphics-drivers/ppa -y sudo apt update sudo ubuntu-drivers autoinstall sudo reboot驱动安装完成后使用以下命令验证nvidia-smi正常输出应显示类似以下内容----------------------------------------------------------------------------- | NVIDIA-SMI 535.86.10 Driver Version: 535.86.10 CUDA Version: 12.1 | |--------------------------------------------------------------------------- | GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | | | | MIG M. | || | 0 NVIDIA GeForce ... On | 00000000:01:00.0 On | N/A | | 30% 45C P8 15W / 180W | 987MiB / 8192MiB | 0% Default | | | | N/A | ---------------------------------------------------------------------------3. CUDA12.1极速安装方案跳过繁琐的图形界面安装我们采用命令行方式快速部署CUDA12.1wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda-repo-ubuntu2004-12-1-local_12.1.1-535.86.10-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu2004-12-1-local_12.1.1-535.86.10-1_amd64.deb sudo cp /var/cuda-repo-ubuntu2004-12-1-local/cuda-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cuda设置环境变量echo export PATH/usr/local/cuda/bin:$PATH ~/.bashrc echo export LD_LIBRARY_PATH/usr/local/cuda/lib64:$LD_LIBRARY_PATH ~/.bashrc source ~/.bashrc验证安装nvcc --version预期输出应包含release 12.1字样。4. TensorRT8.6闪电安装TensorRT的安装过程可以进一步简化。我们使用官方提供的.deb包进行快速安装wget https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/secure/8.6.1.6/tars/TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.1.cudnn8.8.tar.gz sudo tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.1.cudnn8.8.tar.gz -C /usr/local echo export LD_LIBRARY_PATH$LD_LIBRARY_PATH:/usr/local/TensorRT-8.6.1.6/lib ~/.bashrc source ~/.bashrc安装Python绑定可选pip install --upgrade pip pip install /usr/local/TensorRT-8.6.1.6/python/tensorrt-8.6.1.6-cp38-none-linux_x86_64.whl5. 验证与快速测试完成安装后让我们进行快速验证检查TensorRT版本trtexec --version运行一个简单的性能测试trtexec --onnx/usr/local/TensorRT-8.6.1.6/data/resnet50/ResNet50.onnx --shapesinput:32x3x224x224对于Python用户可以运行以下简单测试import tensorrt as trt print(trt.__version__) # 应输出8.6.1.66. 常见问题速查表问题现象可能原因解决方案nvidia-smi无输出驱动未正确安装重新执行驱动安装步骤并重启nvcc: command not foundPATH环境变量未设置检查~/.bashrc中的PATH设置libnvinfer.so.8缺失LD_LIBRARY_PATH未包含TensorRT路径确保环境变量包含/usr/local/TensorRT-8.6.1.6/lib7. 环境清理与维护技巧保持环境整洁的几个建议定期清理缓存sudo apt autoremove sudo apt clean版本锁定防止意外升级sudo apt-mark hold cuda tensorrt快速卸载方法sudo apt-get purge ^nvidia ^cuda ^tensorrt sudo rm -rf /usr/local/cuda* sudo rm -rf /usr/local/TensorRT*
TensorRT在Ubuntu20.04上的极简安装：5分钟搞定CUDA12.1和TensorRT8.6
TensorRT在Ubuntu20.04上的极简安装5分钟搞定CUDA12.1和TensorRT8.6如果你正在寻找一种快速搭建深度学习推理环境的方法这篇指南将为你提供一条直达目标的捷径。不同于传统教程的冗长步骤我们将聚焦于最精简的安装路径帮助你在Ubuntu20.04系统上快速部署TensorRT8.6和CUDA12.1环境。1. 准备工作系统与硬件检查在开始安装前确保你的系统满足以下基本要求操作系统Ubuntu20.04 LTS64位硬件配置NVIDIA显卡支持CUDA计算至少10GB可用磁盘空间网络连接稳定的互联网连接用于下载安装包快速验证显卡型号lspci | grep -i nvidia提示如果命令没有输出可能意味着你的系统没有检测到NVIDIA显卡或者需要先安装基础驱动。2. 一键式NVIDIA驱动安装现代Ubuntu系统已经大幅简化了NVIDIA驱动的安装过程。我们推荐使用官方仓库的最新稳定版驱动sudo add-apt-repository ppa:graphics-drivers/ppa -y sudo apt update sudo ubuntu-drivers autoinstall sudo reboot驱动安装完成后使用以下命令验证nvidia-smi正常输出应显示类似以下内容----------------------------------------------------------------------------- | NVIDIA-SMI 535.86.10 Driver Version: 535.86.10 CUDA Version: 12.1 | |--------------------------------------------------------------------------- | GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. | | | | MIG M. | || | 0 NVIDIA GeForce ... On | 00000000:01:00.0 On | N/A | | 30% 45C P8 15W / 180W | 987MiB / 8192MiB | 0% Default | | | | N/A | ---------------------------------------------------------------------------3. CUDA12.1极速安装方案跳过繁琐的图形界面安装我们采用命令行方式快速部署CUDA12.1wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda-repo-ubuntu2004-12-1-local_12.1.1-535.86.10-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu2004-12-1-local_12.1.1-535.86.10-1_amd64.deb sudo cp /var/cuda-repo-ubuntu2004-12-1-local/cuda-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cuda设置环境变量echo export PATH/usr/local/cuda/bin:$PATH ~/.bashrc echo export LD_LIBRARY_PATH/usr/local/cuda/lib64:$LD_LIBRARY_PATH ~/.bashrc source ~/.bashrc验证安装nvcc --version预期输出应包含release 12.1字样。4. TensorRT8.6闪电安装TensorRT的安装过程可以进一步简化。我们使用官方提供的.deb包进行快速安装wget https://developer.nvidia.com/downloads/compute/machine-learning/tensorrt/secure/8.6.1.6/tars/TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.1.cudnn8.8.tar.gz sudo tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-12.1.cudnn8.8.tar.gz -C /usr/local echo export LD_LIBRARY_PATH$LD_LIBRARY_PATH:/usr/local/TensorRT-8.6.1.6/lib ~/.bashrc source ~/.bashrc安装Python绑定可选pip install --upgrade pip pip install /usr/local/TensorRT-8.6.1.6/python/tensorrt-8.6.1.6-cp38-none-linux_x86_64.whl5. 验证与快速测试完成安装后让我们进行快速验证检查TensorRT版本trtexec --version运行一个简单的性能测试trtexec --onnx/usr/local/TensorRT-8.6.1.6/data/resnet50/ResNet50.onnx --shapesinput:32x3x224x224对于Python用户可以运行以下简单测试import tensorrt as trt print(trt.__version__) # 应输出8.6.1.66. 常见问题速查表问题现象可能原因解决方案nvidia-smi无输出驱动未正确安装重新执行驱动安装步骤并重启nvcc: command not foundPATH环境变量未设置检查~/.bashrc中的PATH设置libnvinfer.so.8缺失LD_LIBRARY_PATH未包含TensorRT路径确保环境变量包含/usr/local/TensorRT-8.6.1.6/lib7. 环境清理与维护技巧保持环境整洁的几个建议定期清理缓存sudo apt autoremove sudo apt clean版本锁定防止意外升级sudo apt-mark hold cuda tensorrt快速卸载方法sudo apt-get purge ^nvidia ^cuda ^tensorrt sudo rm -rf /usr/local/cuda* sudo rm -rf /usr/local/TensorRT*
