pp-picodet从环境配置到部署全流程(6)——PaddleLite第三方模型部署

文章目录

  • 1. X2paddle简介
  • 2. X2paddle安装
  • 3. 推理模型转换
    • 3.1 API方式
    • 3.2 命令行方式


    Paddle Lite 提供了多种策略来自动优化原始的训练模型,其中包括量化、子图融合、混合调度、Kernel 优选等等方法。为了使优化过程更加方便易用,我们提供了opt 工具来自动完成优化步骤,输出一个轻量的、最优的可执行模型。

1. X2paddle简介

    X2Paddle是飞桨生态下的模型转换工具,致力于帮助其它深度学习框架用户快速迁移至飞桨框架。目前支持推理模型的框架转换与PyTorch训练代码迁移,还提供了详细的不同框架间API对比文档,降低开发者上手飞桨核心的学习成本。
    目前已经支持Caffe/TensorFlow/ONNX/PyTorch的模型一键转为飞桨的预测模型,并使用PaddleInference/PaddleLite进行CPU/GPU/Arm等设备的部署;此外还支持PyTorch项目Python代码(包括训练、预测)一键转为基于飞桨框架的项目代码,帮助开发者快速迁移项目。
    在主流的CV和NLP模型上均支持转换,涵盖了19+个Caffe预测模型转换、27+个TensorFlow预测模型转换、32+个ONNX预测模型转换、27+个PyTorch预测模型转换、2+个PyTorc

你可能感兴趣的:(深度学习,人工智能,python)