深度学习模型移植的移动端框架

下面列出各大公司使用的CNN库：

 

各主流移动端深度学习框架诞生时间如下：

2017 年 3 月，XMART LABS 在 GitHub 上开源 Bender

2017 年 4 月 19 日，Facebook 在 F8 开发者大会上推出 Caffe2 (已并入 PyTorch)

2017 年 5 月 17 日，在 Google I/O 2017 大会上，移动端深度学习框架 TensorFlow Lite 诞生

2017 年 6 月 6 日，苹果在 WWDC 大会上推出 Core ML

2017 年 9 月 25 日，百度开源移动端深度学习框架 mobile-deep-learning（MDL）

 

支持移动端的 MXNet， Pytorch

......

 

MACE更加稳定和完善。编译过程和文档质量虽然相比Tencent的ncnn和FeatherCNN框架复杂，但是只要稍微有点android交叉编译基础的工程师，大约2-3小时就能完成demo部署。

由于MACE在编译过程中需要Android开发板或手机通过USB链接Host主机才能正常编译测试，然而友情借来的RK3399开发板只能通过网络调试，无法进行评测了，只好选择高通820开发板作为硬件测试平台，横向对比开源框架则选择圈内最流行的ncnn和性能优异的FeatherCNN，其中CPU端的测试均采用高通两个820的大核心。

用于测试的模型SqueezeNet_v1.1、MobileNet_v1、ResNet18、VGG16，mace编译VGG16需要内存太大了，暂时不测试。那就变成了小模型测试了……也算是有一定的指导意义吧，毕竟移动端也不会去部署VGG16……

 

作者：圈圈虫
链接：https://www.zhihu.com/question/283022477/answer/433534395

 

 

 

 

Reference

1 https://www.cnblogs.com/ivyharding/p/11097017.html

2 https://baijiahao.baidu.com/s?id=1600039959342259966&wfr=spider&for=pc

3 如何看待小米开源移动端 AI 框架 MACE？