ubuntu安装tensorrt

等待破茧 等待破茧     2022-12-10     315

关键词:

ubuntu安装tensorrt_melicent114的博客-CSDN博客_ubuntu安装tensorrt

ubuntu安装tensorrt
前提:先安装好cuda和cudnn
步骤一:下载tensorrt压缩包。找到自己对应cuda版本的安装包
从nvidia的官网下载
https://developer.nvidia.com/nvidia-tensorrt-download
(由于我安装的是cuda11,所以我这里下载的是下面这个)
在这里插入图片描述

步骤二:下载下来的tensorrt压缩包为TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz,这里放置在服务器的一个路径下,(我是放在了/opt下面)。然后解压这个文件。

cd /opt
tar -zxvf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz

步骤三:添加环境变量

sudo vi ~/.bashrc
# 在最后添加一行
export LD_LIBRARY_PATH=/opt/TensorRT-8_0_1_6/lib:$LD_LIBRARY_PATH
source ~/.bashrc

 

步骤四:安装tensorrt的python包。进入tensorrt压缩之后的文件夹,然后进入里面的python文件夹

cd /opt/TensorRT-8_0_1_6/python

  

python文件夹里面有很多版本,使用pip安装自己对应的python版本
在这里插入图片描述

pip install tensorrt-8.0.1.6-cp35-none-linux_x86_64.whl

  

顺利的话,这时候tensorrt包应该已经安装好了
进入python,导入一下tensorrt包试试
在这里插入图片描述
这就安装成功了!!!

可以顺便安装其他两个包
1)安装 uff 包

cd ../uff    # 切换到 uff 文件夹
pip install uff-0.5.5-py2.py3-none-any.whl

   

测试是否安装成功:

which convert-to-uff  # 会输出安装路径

  

2)安装 graphsurgen 包

cd ../graphsurgeon     # 切换到 graphsurgeon 文件夹
pip install graphsurgeon-0.3.2-py2.py3-none-any.whl

参考链接:
https://developer.nvidia.com/nvidia-tensorrt-8x-download
https://blog.csdn.net/xulei_Tao/article/details/90339694


原文链接:https://blog.csdn.net/skyli114/article/details/123623858

一安装ubuntu+配置环境+安装tensorrt(代码片段)

最近研究推理加速,涉及到TensorRT,加上之前一直也想搞个Ubuntu系统,所以就打算一步到位,双系统安排。刻录U盘的前期步骤可以参考文章:windows10安装ubuntu双系统教程(绝对史上最详细)-不妨不妨&#x... 查看详情

tensorrt安装

 下面以TensorRT-8.0.1为例,基于ubuntu20.04安装,默认已经安装GPU驱动、CUDA、cuDNN;TensorRT依赖CUDA、cuDNN的版本,比如TensorRT软件包TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz,依赖于cuda11.3、cudnn8.2,因此操作系统中必须事先安... 查看详情

在 ubuntu 18.04 上使用 libnvinfer7 库(Cuda 10.2)安装 TensorRT 面临的问题

】在ubuntu18.04上使用libnvinfer7库(Cuda10.2)安装TensorRT面临的问题【英文标题】:InstallingTensorRT-facingissuewithlibnvinfer7library(Cuda10.2)onubuntu18.04【发布时间】:2020-09-1512:44:46【问题描述】:我试图在ubuntu18.4(nv-tensorrt-repo-ubuntu1804-cuda10.2-t 查看详情

ubuntu18.04/20.04cv环境配置(中):tensorrt+pytorch安装配置(代码片段)

...ofHaoWANG的博客-CSDN博客Ubuntu18.0420.04NVIDIACUDA环境配置与cudnnTensorrt等配置与使用https://blog.csdn.net/hhaowang/article/details/125803582?spm=1001.2014.3001.5501目录TensorRT的好处1.版本选择1.1安装CUDA和cudnn 1.2安装Tensorrt2.下载文件3.1Tensorrt编译3.2Pyto... 查看详情

ubuntu18.04/20.04cv环境配置(中):tensorrt+pytorch安装配置(代码片段)

...ofHaoWANG的博客-CSDN博客Ubuntu18.0420.04NVIDIACUDA环境配置与cudnnTensorrt等配置与使用https://blog.csdn.net/hhaowang/article/details/125803582?spm=1001.2014.3001.5501目录TensorRT的好处1.版本选择1.1安装CUDA和cudnn 1.2安装Tensorrt2.下载文件3.1Tensorrt编译3.2Pyto... 查看详情

安装tensorrt(代码片段)

下载对应的tar版本:https://developer.nvidia.com/nvidia-tensorrt-6x-download解压安装包version="6.0.1.8"os="Ubuntu-16.04"arch=$(uname-m)cuda="cuda-10.2"cudnn="cudnn7.6"tarxzvf 查看详情

ubuntu18.04/20.04cv环境配置(中):tensorrt+pytorch安装配置(代码片段)

Ubuntu18.04/20.04CV环境配置(上):CUDA11.1+cudnn安装配置_TechblogofHaoWANG的博客-CSDN博客Ubuntu18.0420.04NVIDIACUDA环境配置与cudnnTensorrt等配置与使用https://blog.csdn.net/hhaowang/article/details/12580 查看详情

ubuntu18.04/20.04cv环境配置(中):tensorrt+pytorch安装配置(代码片段)

Ubuntu18.04/20.04CV环境配置(上):CUDA11.1+cudnn安装配置_TechblogofHaoWANG的博客-CSDN博客Ubuntu18.0420.04NVIDIACUDA环境配置与cudnnTensorrt等配置与使用https://blog.csdn.net/hhaowang/article/details/12580 查看详情

tensorrt安装教程(代码片段)

简介本文介绍在Ubuntu系统下安装TensorRT的具体步骤,主要支持C++的调用,理论上适合各种Linux发行版。准备工作CUDA安装首先需要确保正确安装CUDA,可以参考我之前的博文,通过nvcc-V验证是否安装。下载TensorRT... 查看详情

ubuntu18.04安装cuda11.3和tensorrt8教程(碰到的坑及填坑方法,以及python和c++的tensorrt环境搭建)(代码片段)

1.卸载原环境原环境:显卡驱动--470.57.02 cuda--10.0 cudnn--7.6 TensorRT7.0.0.11卸载cuda10.0以及相应的cudnn:cd/usr/local/cuda/binsudo./uninstall_cuda_10.0.plcd..sudorm-rfcuda-10.02.安装cuda11.3及相应的cudn 查看详情

tensorrt安装(代码片段)

 下面以TensorRT-8.0.1为例,基于ubuntu20.04安装,默认已经安装GPU驱动、CUDA、cuDNN;TensorRT依赖CUDA、cuDNN的版本,比如TensorRT软件包TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz,依赖于cuda11.3、cudnn8.2,因此操... 查看详情

tensorrt安装教程(代码片段)

简介本文介绍在Ubuntu系统下安装TensorRT的具体步骤,主要支持C++的调用,理论上适合各种Linux发行版。准备工作CUDA安装首先需要确保正确安装CUDA,可以参考我之前的博文,通过nvcc-V验证是否安装。下载TensorRT... 查看详情

tensorrt安装记录(8.2.5)(代码片段)

官网链接:https://developer.nvidia.com/tensorrt文章目录0TensorRT简介1安装TensorRT1.1pip安装(trtexec无法使用)1.2TARPackage安装2将模型转换成TensorRT的流程3将Pytorch模型转成TensorRT案例3.1将Pytorch模型转成ONNX格式3.2将ONNX格式转成T 查看详情

通过 tensorrt 测试但无法导入 tensorrt

】通过tensorrt测试但无法导入tensorrt【英文标题】:Passtensorrttestbutcannotimporttensorrt【发布时间】:2021-03-2406:14:10【问题描述】:我尝试安装tensorrt7.2.3.4,我的系统是win10,cuda11.1,python3.8。按照安装说明,我进行了tensorrt测试:Tenso... 查看详情

使用自定义插件安装 tensorrt

】使用自定义插件安装tensorrt【英文标题】:Installtensorrtwithcustomplugins【发布时间】:2021-12-3015:51:36【问题描述】:我可以从官方nvidia指南(https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#maclearn-net-repo-install)安装所需版本的... 查看详情

ai性能优化之tensorrt(1tensorrt简介及安装)(代码片段)

文章目录正文1.NVIDIATensorRT介绍2.TensorRT的安装3.开发文档3-1开发流程3-2pythonapi1)工作流程2)核心元素3)...其他3-3PyTorchdemo3-4ONNXdemo正文1.NVIDIATensorRT介绍https://developer.nvidia.com/zh-cn/tensorrtNVIDIATens 查看详情

ai性能优化之tensorrt(1tensorrt简介及安装)(代码片段)

文章目录正文1.NVIDIATensorRT介绍2.TensorRT的安装3.开发文档3-1开发流程3-2pythonapi1)工作流程2)核心元素3)...其他3-3PyTorchdemo3-4ONNXdemo正文1.NVIDIATensorRT介绍https://developer.nvidia.com/zh-cn/tensorrtNVIDIATens 查看详情

[ubuntu][tenosrrt]ubuntu上tensorrt环境变量配置

vi~/.bashrcexportTR_PATH=yourpathexportPATH=$PATH:$TR_PATH/binexportCPLUS_INCLUDE_PATH=$CPLUS_INCLUDE_PATH:$TR_PATH/includeexportLD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TR_PATH/libexportLD_L 查看详情