SNPE MaxPerGPUSize 注意事项

SNPE根据不同的硬件设备支持的GPU每层卷积运算的能力不同,具体如下:
A330平台:8192
A430,A530平台: 16384
H或者W乘以通道数不能大于上面的上限,如51251232 size的feature map 刚好是A430,A530设备的最大量级。

值得注意: 我们设计网络时,容易忽略padding带来的计算数据变大问题。比如,输入51251232数据,按说刚刚好可以计算,但是如果卷积有padding操作,则有可能变成51351332,数值超过计算上限了,导致结果和PC端的不一样,这一点很容易忽略。

建议: 尽量不要极限最大程度的使用SNPE,很容易忽略某个细节,导致数据越界计算不正确。此外,SNPE有时候会提醒你有可能越界,有时候不会提醒你,所以,尽量不要把网络设计的非常极限使用GPU。

你可能感兴趣的:(基础知识,SNPE)