Jetson nano/NX 部署Yolo v5过程记录
jetson-stats是一个开源软件包,用于监测和控制Nvidia Jetson设备的运行状态。
Jetson-stats包含以下工具:
https://github.com/rbonghi/jetson_stats
sudo -H pip install -U jetson-stats
或者
sudo pip install -U jetson-stats
Jetson Xavier NX 烧写系统镜像
在Jetson Xavier NX安装中文输入法(googlepinyin中文输入法)
Jetson Xavier NX安装中文输入法
Jetson Xavier NX是arm架构,而sougoupinyin只支持amd架构,不支持arm架构,因此可以使用采用googlepinyin。
sudo apt-get install fcitx-googlepinyin
E: Unable to locate package fcitx-googlepinyin
先执行: sudo apt install fcitx,然后再执行安装googlepinyin的命令。
sudo apt install fcitx
sudo apt install googlepinyin
wget https://bootstrap.pypa.io/pip/3.6/get-pip.py
python3 get-pip.py
Jetson NX和Nano上使用TensorRT部署YOLOv4模型速度测试
Jetson CUDA 算力表
GPU | 浮点算力(FP16) | 整点算力(INT8) | Compute Capability |
---|---|---|---|
Jetson AGX Xavier | 11 TFLOPS | 32 TOPS | 7.2 |
Jetson Xavier NX | 6 TFLOPS | 21 TOPS | 7.2 |
Jetson TX2 | 1.3 TFLOPS | 不支持 | 6.2 |
Jetson Nano | 0.5 TFLOPS | 不支持 | 5.3 |
目标检测推荐的模型:yolov5s。
NX性能果然非常强,轻松实现近百fps的性能。从数据可以看到,使用INT8精度和使用DLA都能提升推理性能。
以小目标检测数据集测试,实测IN8相比于FP16,精度下降了15-25%,影响相当大。按照经验,做项目的时候,如果时间紧、效果要求高,一般使用FP16精度推理。如果做产品并且研发时间充足,会考虑用INT8提升推理性能。
经过测试,NX的DLA即支持FP16精度,也支持INT8精度。不过DLA只支持Conv,Mul,MaxPool,Concat,Sigmoid等少量算子,并且需符合特定顺序,其余算子会Fallback到GPU,这会拖累性能提升幅度。
Xavier NX的风扇在系统内核中有一套自动控制温度和转速的算法,经过观察,大约在40度左右的时候会自动开启风扇进行散热,在核心温度大约低于39度时候会自动关闭散热风扇。
设置功率
Jetson 系列——jetson xavier nx和nano设置工作模式设置功率
Jetson 系列——jetson nano制作SD卡备份镜像以及还原
经验:
英伟达Xavier NX工业AI应用实战
Jetson 系列——基于yolov5对是否吸烟的检测,部属于jetson xavier nx,使用tensorrt、c++和int8加速,可用于边缘计算
Jetson 系列——基于yolov5对反光衣和安全帽的检测,部属于jetson xavier nx,使用tensorrt、c++和int8加速,可用于边缘计算
Jetson 系列——基于yolov5对工地头盔的检测,部属于jetson xavier nx,使用tensorrt、c++和int8加速,可用于边缘计算
Jetson 系列——基于yolov5对是否带口罩的检测,部属于jetson xavier nx,使用tensorrt、c++和int8加速,可用于边缘计算
Jetson 系列——基于yolov5对火源或者烟雾的检测,使用tensorrt、c++和int8加速
Jetson 系列——基于deepsort的物体跟踪使用tensorrt和c++加速
Jetson 系列——基于yolov5和deepsort的多目标头部识别,跟踪,使用tensorrt和c++加速
Jetson 系列——nvidia jetson nano推流操作和 jetson xavier NX GStreamer 推流操作
WARNING: The scripts pip, pip3 and pip3.6 are installed in '/home/yoyo/.local/bin' which is not on PATH.
Consider adding this directory to PATH or, if you prefer to suppress this warning, use --no-warn-script-location.
yoyo@ubuntu:~/Downloads$ pip list
bash: pip: command not found
yoyo@ubuntu:~/Downloads$ pip3 list
bash: pip3: command not found
解决办法:
sudo gedit ~/.bashrc
export PATH=/home/yoyo/.local/bin:$PATH
source ~/.bashrc
【Linux】sudo pip 找不到命令解决方法
yoyo@ubuntu:~$ sudo -H pip install -U jetson-stats
sudo: pip:找不到命令
解决办法:
1. 编辑/etc/sudoers
sudo gedit /etc/sudoers
Defaults env_reset
修改为
Defaults !env_reset
2. 编辑配置文件~/.bashrc
sudo gedit ~/.bashrc
添加:
alias sudo='sudo env PATH=$PATH'
3. 使配置生效
source ~/.bashrc