Tengine 一个注重性能和兼容性AI框架


11月出Tensorflow官方提供的本地编译的方式在arm嵌入式设备运行Tensorflow Lite,我在11月中旬使用本地编译的方式编译二进制的Label_image, 对RK3288 以及树莓派上做了性能的测试。

Tengine 一个注重性能和兼容性AI框架_第1张图片
从图标上看物美价廉的树莓派其实其实性能并不弱。

但是今天我想介绍一下我新发现让我眼前一亮的框架Tengine.

Tengine 显著的优点是性能和兼容性。使用Tengine框架后运行性能可以得到大的提升。下表为MobileNet V1_1.0_224 浮点型模型单张图片分类在单核A53的性能对比。我们可以看到Tengine 有相当大的优势。

Tengine 一个注重性能和兼容性AI框架_第2张图片

Tengine 框架有着非常好的模型兼容性,支持直接加载caffe/mxnet/tensorflow
模型文件,而不需要事先转换,而且用户仅需编译就可以利用Tengine的加速Caffe和Tensorflow性能。

Tengine 不仅可以让分类网络的性能大大提升,连大家众所周知的MobileNet-SSD 网络也能提升它的性能。很多人都觉得树莓派的性能不足以hold住检测网络,但是如果用Tengine框架就可以做到。

在树莓派使用Tengine Explore 版后,每一帧的检测都只耗时286.136ms,足以可以看出Tengine的强大的性能。

Tengine 一个注重性能和兼容性AI框架_第3张图片

Tengine 一个注重性能和兼容性AI框架_第4张图片

Tengine Explore 版是OPEN AI LAB 为方便开发者更好的体验Tengine而推出。就在最近OPEN AI LAB 为了更好的开发者保持良好的互动,推出Tengine AloT 树莓派应用征集大赛活动,每个开发者可以体验性能飞凡的Tengine EXplore版,优秀的案例还可以获得“OPEN AI LAB注册开发者“称号,并且授 予开发者每人3个树莓派3B+ Tengine Explore版授权。每月月评选并公布3个最佳案例,授予相应开发者“OPEN AI LAB发明家”称 号与 1000 元现金奖励。注册发明家有特权可以激活未来所有其他硬件的 Tengine 开发版。
活动二维码Tengine 一个注重性能和兼容性AI框架_第5张图片

其他兴趣的朋友可以看一下Tengine GitHub的主页,最近还推出了跑MobileNet分类网络的Android App。 手机端就可以使用AI 程序。

https://github.com/OAID/Tengine/

https://github.com/OAID/Tengine-app

你可能感兴趣的:(Tengine 一个注重性能和兼容性AI框架)