【CANN训练营三步入门独家绝技】AIPP与DVPP的介绍与使用

一、简介

CANN提供了AIPP和DVPP两种处理图像/视频数据的方式,AIPP和DVPP可以分开使用也可以组合使用,两者功能有部分重叠。

二、AIPP

AIPP(Artificial Intelligence Pre-Processing)人工智能预处理,在AI Core上完成数据预处理,主要功能包括改变图像尺寸(抠图、填充等)、色域转换(转换图像格式)、减均值/乘系数(改变图像像素)等。AIPP有静态和动态两种模式。

静态AIPP

**静态AIPP及在模型转换时就配置AIPP参数,后续不再修改。**我们创建一个配置文件来设置静态AIPP的功能。

配置文件aipp.cfg示例:

aipp_op {
       aipp_mode: static //设置为静态模式
       input_format:YUV420SP_U8 
       src_image_size_w: 320
       src_image_size_h: 240

       crop: true //抠图操作
       load_start_pos_w: 10
       load_start_pos_h: 20
       crop_size_w: 50
       crop_size_h: 60

       padding: true //填充操作
       left_padding_size: 20
       right_padding_sizeL: 15
       top_padding_size: 20
       bottom_padding_size: 15
       padding_value: 0

       csc_switch: true //色域转换
       matrix_r0c0:298
       matrix_r0c1:0
       matrix_r0c2:409
       matrix_r1c0:298
       matrix_r1c1:-100
       matrix_r1c2:-208
       matrix_r2c0:298
       matrix_r2c1:516
       matrix_r2c2:0
       input_bias_0:16
       input_bias_1:128
       input_bias_2:128

       //归一化配置
       mean_chn_0:104
       mean_chn_1:117
       mean_chn_2:123
}

上述配置文件的配置方法有模板可寻,具体参数设置可参考官方文档:

配置文件模板-AIPP使能-高级功能-ATC模型转换-推理应用开发-6.3.RC1.alpha002-CANN社区版-文档首页-昇腾社区 (hiascend.com)

使用方法:在使用ATC命令时,通过设置–insert_op_conf参数来加载AIPP配置文件

atc \
  --model=resnet50.onnx \
  --framework=5 \
  --output=resnet50 \
  --input_format=NCHW \
  --soc_version=Ascend310 \
  --input_op_conf=aipp.cfg //设置AIPP配置文件

动态AIPP

动态AIPP及开始不设置AIPP参数,而在推理代码中使用ACL接口来动态设置AIPP的参数。

在使用时,我们依旧需要在使用ATC命令时配置AIPP的配置文件。但动态AIPP的配置文件十分简单,如下:

aipp_op
{
    aipp_mode: dynamic //设置为动态模式
    max_src_image_size: 752640  # 输入图像最大的size,参数必填
}

我们使用ACL接口来设置AIPP参数,示例代码如下:

aclmdlAIPP *aippDynamicSet = aclmdlCreateAIPP(batchNumber);
ret = aclmdlSetAIPPSrcImageSize(aippDynamicSet, 256, 224);
ret = aclmdlSetAIPPInputFormat(aippDynamicSet, ACL_YUV420SP_U8);
ret = aclmdlSetAIPPCscParams(aippDynamicSet, 1, 256, 443, 0, 256, -86, -178, 256, 0, 350, 0, 0, 0, 0, 128, 128);
ret = aclmdlSetAIPPRbuvSwapSwitch(aippDynamicSet, 0);
ret = aclmdlSetAIPPDtcPixelMean(aippDynamicSet, 0, 0, 0, 0, 0);
ret = aclmdlSetAIPPDtcPixelMin(aippDynamicSet, 0, 0, 0, 0, 0);
ret = aclmdlSetAIPPPixelVarReci(aippDynamicSet, 1.0, 1.0, 1.0, 1.0, 0);
ret = aclmdlSetAIPPCropParams(aippDynamicSet, 1, 2, 2, 224, 224, 0);
ret = aclmdlSetInputAIPP(modelId_, input_, index, aippDynamicSet);
ret = aclmdlDestroyAIPP(aippDynamicSet);

我们可以看到各个函数的函数名与静态配置时的参数基本一致,具体功能与参数可查阅官方文档,这里不做赘述。

总结一下,AIPP的功能主要为抠图填充、色域转换、归一化。

三、DVPP

DVPP(Digital Vision Pre-Processing)是昇腾AI处理器内置的图像处理单元(硬件),通过AscendCL媒体数据处理接口提供强大的媒体处理硬加速能力。

主要提供的功能有视频编解码、JPEG编解码、PNG解码和预处理VPC(Digital Vision Pre-Processing)图片处理(抠图、缩放、格式转换)。

功能如下:

【CANN训练营三步入门独家绝技】AIPP与DVPP的介绍与使用_第1张图片

DVPP有V1和V2两个版本,V2接口支持更多的功能。使用方法为ACL接口调用,具体函数与参数请查阅官方文档:

接口调用流程-VPC图片处理典型功能-媒体数据处理V2-图像/视频/音频数据处理-应用开发(C&C++)-推理应用开发-6.3.RC1.alpha002-CANN社区版-文档首页-昇腾社区 (hiascend.com)

四、总结

AIPP和DVPP可以分开独立使用,也可以组合使用,组合使用情况下,一般先使用DVPP对图片或者视频进行解码、抠图、缩放等操作,然后再使用AIPP对DVPP处理后的图片进行格式、色域等转换,使输入符合模型的要求。

你可能感兴趣的:(python,人工智能,开发语言)