移动端推理框架总结Android NNAPI, TFLite GPU, Hexagon NN, Samsung Eden and MediaTek Neuron delegates
近来做模型移植,接触到移动端推理框架,做一个总结:1.AndroidNNAPI:一个基于安卓系统的可在移动设备上运行与机器学习相关的计算密集型操作的C语言API,NNAPI降为更高层次的构建和训练神经网络的机器学习框架(TensorflowLite,Caffe2等等)提供底层支持。这些API将会集成到所有的Android8.1(以及更高版本)设备上。NNAPI高几层的系统架构如下图所示:相关参数连