47.现有移动端开源框架及其特点—Prestissimo

基础功能

• 支持卷积神经网络，支持多输入和多分支结构
• 精炼简洁的API设计，使用方便
• 提供调试接口，支持打印各个层的数据以及耗时
• 不依赖任何第三方计算框架，整体库体积 500K 左右（32位 约400k，64位 约600k）
• 纯 C++ 实现，跨平台，支持 android 和 ios
• 模型为纯二进制文件，不暴露开发者设计的网络结构

极快的速度

• 大到框架设计，小到汇编书写上全方位的优化，iphone7 上跑 SqueezeNet 仅需 26ms（单线程）
• 支持浮点(float)和整型(int)两种运算模式，float模式精度与caffe相同，int模式运算速度快，大部分网络用int的精度便已经足够
• 以巧妙的内存布局提升cpu的cache命中率，在中低端机型上性能依然强劲
• 针对 float-arm32, float-arm64, int-arm32, int-arm64 四个分支均做了细致的优化，保证arm32位和arm64位版本都有非常好的性能

SqueezeNet-v1.1 测试结果

Note: 手机测试性能存在一定的抖动，连续多次运算取平均时间

Note: 像华为mate8, mate9，Google nexus 6 虽然是64位的CPU，但测试用的是 32位的库，因此cpu架构依然写 arm-v7a

CPU架构