PaddlePaddle初使用

模型导出与预测

# -c 后面设置训练算法的yml配置文件
# -o 配置可选参数
# Global.pretrained_model 参数设置待转换的训练模型地址，不用添加文件后缀 .pdmodel，.pdopt或.pdparams。
# Global.save_inference_dir参数设置转换的模型将保存的地址。

python3 tools/export_model.py -c configs/rec/PP-OCRv3/en_PP-OCRv3_rec.yml -o Global.pretrained_model=./pretrain_models/en_PP-OCRv3_rec_train/best_accuracy  Global.save_inference_dir=./inference/en_PP-OCRv3_rec/

**注意：**如果是在自己的数据集上训练的模型，并且调整了中文字符的字典文件，请注意修改配置文件中的character_dict_path为自定义字典文件。

转换成功后，在目录下有三个文件：

inference/en_PP-OCRv3_rec/
    ├── inference.pdiparams         # 识别inference模型的参数文件
    ├── inference.pdiparams.info    # 识别inference模型的参数信息，可忽略
    └── inference.pdmodel           # 识别inference模型的program文件

如果训练时修改了文本的字典，在使用inference模型预测时，需要通过–rec_char_dict_path指定使用的字典路径

python3 tools/infer/predict_rec.py --image_dir="./doc/imgs_words_en/word_336.png" --rec_model_dir="./your inference model" --rec_image_shape="3, 48, 320" --rec_char_dict_path="your text dict path"

Paddle2ONNX

安装相关库

# 安装paddle2onnx
pip install paddle2onnx
# 安装 ONNXRuntime，建议安装 1.9.0 版本，可根据环境更换版本号
pip install onnxruntime==1.9.0

命令行转换

paddle2onnx --model_dir saved_inference_model \
            --model_filename model.pdmodel \
            --params_filename model.pdiparams \
            --save_file model.onnx \
            --enable_dev_version True

有ONNX模型优化的需求，推荐使用 onnx-simplifier，也可使用如下命令对模型进行优化

python -m paddle2onnx.optimize --input_model model.onnx --output_model new_model.onnx

如需要修改导出的模型输入形状，如改为静态 shape

python -m paddle2onnx.optimize --input_model model.onnx \
                               --output_model new_model.onnx \
                               --input_shape_dict "{'x':[1,3,224,224]}"

参数

参数	参数说明
–model_dir	配置包含 Paddle 模型的目录路径
–model_filename [可选]	配置位于 --model_dir 下存储网络结构的文件名
–params_filename [可选]	配置位于 --model_dir 下存储模型参数的文件名称
–save_file	指定转换后的模型保存目录路径
–opset_version [可选]	配置转换为 ONNX 的 OpSet 版本，目前支持 7~16 等多个版本，默认为 9
–enable_dev_version [可选]	是否使用新版本 Paddle2ONNX（推荐使用），默认为 True
–enable_onnx_checker [可选]	配置是否检查导出为 ONNX 模型的正确性, 建议打开此开关， 默认为 False
–enable_auto_update_opset [可选]	是否开启 opset version 自动升级功能，当低版本 opset 无法转换时，自动选择更高版本的 opset进行转换， 默认为 True
–input_shape_dict [可选]	配置输入的 shape, 默认为空; 此参数即将移除，如需要固定Paddle模型输入Shape，请使用此工具
处理
–deploy_backend [可选]	量化模型部署的推理引擎，支持 onnxruntime、tensorrt 或 others，当选择 others 时，所有的量化信息存储于 max_range.txt 文件中，默认为 onnxruntime
–version [可选]	查看 paddle2onnx 版本

• 使用 onnxruntime 验证转换模型, 请注意安装最新版本（最低要求 1.10.0）

推理预测

使用 ONNXRuntime 预测可执行如下命令：

python3.7 tools/infer/predict_system.py --use_gpu=False --use_onnx=True \
--det_model_dir=./inference/det_onnx/model.onnx  \
--rec_model_dir=./inference/rec_onnx/model.onnx  \
--cls_model_dir=./inference/cls_onnx/model.onnx  \
--image_dir=./deploy/lite/imgs/lite_demo.png

使用 Paddle Inference 预测可执行如下命令：

python3.7 tools/infer/predict_system.py --use_gpu=False \
--cls_model_dir=./inference/ch_ppocr_mobile_v2.0_cls_infer \
--rec_model_dir=./inference/ch_PP-OCRv2_rec_infer \
--det_model_dir=./inference/ch_PP-OCRv2_det_infer \
--image_dir=./deploy/lite/imgs/lite_demo.png