2018年是AIoT元年,2018年初,开放智能机器 OPEN AI LAB Tengine发布0.1版本,一路引领嵌入式AI推理框架设计。Tengine经过一年打磨,在2019年初正式发布1.0版本。Tengine的愿景是成为AIoT时代的安卓,以开放的方式赋能整个产业链,让AIoT应用开发不再难。
Tengine 1.0版本包含以下重大更新:
1. API升级到2.0版本,适配Arm中国周易 AIPU,推理性能与能效比大幅度提升;
2. 更好的TensorFlow模型支持,支持LSTM算子,赋能语音场景;
3. 适配Armv8.2-A CPU构架与Cortex-A55 CPU,支持FP16与INT8点积计算,CPU推理性能飙升;
4. 发布Tengine-APP,帮助新人快速掌握Tengine开发。
Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理性能对比:
至此Tengine依次解决了AIoT应用平台亟需的多数特性:
1. 基于Arm CPU的多线程快速计算与量化计算
2. 全面支持嵌入式的多计算单元的异构计算
3. 开放兼容Caffe/ TensorFlow/ONNX等多种训练模型格式
4. 支持Linux/Android操作系统,和树莓派,Firefly等开源硬件平台
后续Tengine会继续针对AIoT应用场景需求开发新的特性:
1. 增加对TensorFlow-Lite模型的支持,适配AndroidNN;
2. 发布Tengine-M适配Arm Cortex-M CPU;
3. 适配更多NPU和芯片平台。
了解更多Tengine开放平台:
Tengine开源项目 https://github.com/OAID/Tengine
Tengine-APP项目 https://github.com/OAID/Tengine-app
教程分享:
Firefly-3399 https://blog.csdn.net/bassersai/article/details/81563409
树莓派 http://shumeipai.nxez.com/2018/12/07/tengine-inference-engine-raspberry-pi-deep-learning.html
EAIDK主页:即将上线
开发者交流群:QQ 829565581 Question:Tengine Answer:openailab
关于OPEN AI LAB
OPEN AI LAB(开放智能实验室)于2016年12月成立,由Arm中国联合产业伙伴发起,致力于推动芯片、硬件、算法软件整个产业链的深度合作,加速人工智能产业化应用部署和应用场景边界拓展,为最终实现万物智能贡献力量。
业务合作:[email protected]
了解更多:http://www.openailab.com/?csdn010402