利用C++ API读取tensorflow模型并进行测试与批量测试

配置

利用C++ API读取tensorflow模型并进行测试与批量测试_第1张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第2张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第3张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第4张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第5张图片

相关结构体及函数 

利用C++ API读取tensorflow模型并进行测试与批量测试_第6张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第7张图片利用C++ API读取tensorflow模型并进行测试与批量测试_第8张图片利用C++ API读取tensorflow模型并进行测试与批量测试_第9张图片利用C++ API读取tensorflow模型并进行测试与批量测试_第10张图片

测试单张图片循环

利用C++ API读取tensorflow模型并进行测试与批量测试_第11张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第12张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第13张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第14张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第15张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第16张图片

利用C++ API读取tensorflow模型并进行测试与批量测试_第17张图片

测试batch 

根据参考,以及前面对single图片进行测试,写了batch inference,但运行测试后发现,与python不同,转化到C++后,出现了问题。很奇怪,用同样的模型,在python中single就是(1*200*6),batch就自动会变成(batch*200*6),为啥转到C++api中就少了一维。着实让人费解。有其他加速方法的希望能告知一下,谢谢~

利用C++ API读取tensorflow模型并进行测试与批量测试_第18张图片

目前,不知如何解决,希望知道解决方法的不吝赐教~

 

利用C++ API读取tensorflow模型并进行测试与批量测试_第19张图片 利用C++ API读取tensorflow模型并进行测试与批量测试_第20张图片

你可能感兴趣的:(利用C++ API读取tensorflow模型并进行测试与批量测试)