Jetson Orin AGX 上ONNX转换为engine时警告：[W] [TRT] Unknown embedded device detected. Using 59655Mi...

Jetson Orin AGX 上ONNX转换为engine时警告：[W] [TRT] Unknown embedded device detected. Using 59655Mi as the allocation cap for memory on embedded devices.

环境

• 设备：Jetson Orin AGX
• Model:Jetson AGX Orin - Jetpack 5.1.1 [L4T 35.3.1]
• Distribution: Ubuntu 20.04 focal
• Release: 5.10.104-tegra
• CUDA: 11.4.315
• cuDNN: 8.6.0.166
• TensorRT: 5.1.1
• VPI: 2.2.7
• Vulkan: 1.3.204
• OpenCV: 4.5.4 - with CUDA: NO

报错代码

我是在进行onnx文件转化为engine文件时疯狂print该警告

$ ./build/build ./weights/s4_best.onnx

解决办法

讨论1
讨论2
讨论3
讨论4
查了很久，到外网看了很多遇到同样问题的大佬之间的讨论，在一个开发者和官方的讨论中确定（见下图）这个警告是没有什么实际影响，不会影响你的模型的最终的精度和速度。