OPEN AI LAB丨AIoT時代的開放應用平臺—Tengine 1.0正式釋出
2018年是AIoT元年,2018年初,開放智慧機器 OPEN AI LAB Tengine釋出0.1版本,一路引領嵌入式AI推理框架設計。Tengine經過一年打磨,在2019年初正式釋出1.0版本。Tengine的願景是成為AIoT時代的安卓,以開放的方式賦能整個產業鏈,讓AIoT應用開發不再難。
Tengine 1.0版本包含以下重大更新:
1. API升級到2.0版本,適配Arm中國周易 AIPU,推理效能與能效比大幅度提升;
2. 更好的TensorFlow模型支援,支援LSTM運算元,賦能語音場景;
3. 適配Armv8.2-A CPU構架與Cortex-A55 CPU,支援FP16與INT8點積計算,CPU推理效能飆升;
4. 釋出Tengine-APP,幫助新人快速掌握Tengine開發。
Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理效能對比:
至此Tengine依次解決了AIoT應用平臺亟需的多數特性:
1. 基於Arm CPU的多執行緒快速計算與量化計算
2. 全面支援嵌入式的多計算單元的異構計算
3. 開放相容Caffe/ TensorFlow/ONNX等多種訓練模型格式
4. 支援Linux/Android作業系統,和樹莓派,Firefly等開源硬體平臺
後續Tengine會繼續針對AIoT應用場景需求開發新的特性:
1. 增加對TensorFlow-Lite模型的支援,適配AndroidNN;
2. 釋出Tengine-M適配Arm Cortex-M CPU;
3. 適配更多NPU和晶片平臺。
瞭解更多Tengine開放平臺:
Tengine開源專案 https://github.com/OAID/Tengine
Tengine-APP專案 https://github.com/OAID/Tengine-app
教程分享:
Firefly-3399 https://blog.csdn.net/bassersai/article/details/81563409
樹莓派 http://shumeipai.nxez.com/2018/12/07/tengine-inference-engine-raspberry-pi-deep-learning.html
EAIDK主頁:即將上線
開發者交流群:QQ 829565581 Question:Tengine Answer:openailab
關於OPEN AI LAB
OPEN AI LAB(開放智慧實驗室)於2016年12月成立,由Arm中國聯合產業夥伴發起,致力於推動晶片、硬體、演算法軟體整個產業鏈的深度合作,加速人工智慧產業化應用部署和應用場景邊界拓展,為最終實現萬物智慧貢獻力量。
業務合作:[email protected]