参考文档 项目README /NVIDIA/TensorRT/blob/release/7.1/README.md 相关ISSUES /NVIDIA/TensorRT/issues/1168/NVIDIA/TensorRT/issues/942
下载SDKManager
选择相关设备和版本,具体如图所示
勾选协议,下下载后安装,下载过程中最好链接VPN否则,下载速度过慢。
等待下载完成
下载TensorRT
Clone code (目前测试该版本可以使用,目前的master无法编译通过(6月22日17点44分))git clone -b release/7.1 /nvidia/TensorRT TensorRT
其余过程与README.md 文件过程一致。
生成镜像
将SDKmanger下载文件,copy到 tensorrt/docker/jetpack_files 目录下
编译demo
按照README.md 启动相应的docker image. 进入启动的容器拷贝一些缺失的库文件到容器中 从nx 设备中拷贝cuda相关文件/usr/local/cuda/targets/aarch64-linux/usr/lib/aarch64-linux-gnu/libEGL.so.1/usr/lib/aarch64-linux-gnu/libGLdispatch.so.0以及/usr/lib/aarch64-linux-gnu/tegra目录下的库文件缺失的库,先在本地查找对应ISA的版本,当不存在时,从设备中拷贝。 执行对应的cmake 命令cmake .. -DTRT_LIB_DIR=$TRT_RELEASE/lib -DTRT_OUT_DIR=`pwd`/out -DCMAKE_TOOLCHAIN_FILE=$TRT_SOURCE/cmake/toolchains/cmake_aarch64.toolchain -DCMAKE_CUDA_SEPARABLE_COMPILATION=OFF -DCUDA_VERSION=10.2 -DCUBLASLT_LIB="/usr/lib/aarch64-linux-gnu/libcublasLt.so" -DCUBLAS_LIB="/usr/lib/aarch64-linux-gnu/libcublas.so" -DCUDNN_LIB="/pdk_files/cudnn/lib/libcudnn.so.8"
支持make
make -j$(nproc)