【python】triton

0.介绍
triton是nvidia开发的基于tensorrt的推理服务器

1.安装

git clone https://github.com/JonathanSalwan/Triton
cd Triton
mkdir build 
cd build
cmake ..
make -j3
sudo make install

2.使用

123