AI编译器与TPU-MLIP

---

前言

b站学习视频

---

一、AI编译器

传统编译器与AI编译器

传统编译器的作用是降低编程难度；
AI编译器的作用主要是为了提高网络的性能；

部署深度模型

二、TPU-MLIP

TPU-MLIP整体架构

在模型转换的过程中会进行推理保证模型转换的正确性。

以YOLOV5s的转换为例

三、MLIR上

什么是MLIR

IR中间表达

Dialect

Dialect主要包括以下几个方面：

MLIR中

location用于表示operation对应源代码中的位置；operation是MLIR中的一个基本执行单元，它的作用是可以对于特定dialect下可以对源码或上一层IR进行表达，并通过operation对其进行各种变换以达到编译优化的效果，一个完整那个的operation组成如下：

---

总结

首先关于传统编译器与AI编译器的区别，我觉得很直接，传统编译器主要是将我们使用的c++、java、python语言编译成机器可以理解的二进制码，而AI编译器主要是用于对模型进行加速。