Mlir

利用tpu-mlir工具将深度学习算法模型转成算能科技平台.bmodel模型的方法步骤

目录1TPU-MLIR简介2开发环境搭建2.1下载镜像2.2下载SDK2.3创建容器2.4加载tpu-mlir3准备工作目录4onnx转mlir文件5mlir转INT8模型5.1生成校准表5.2便以为INT8

陈洪伟·2024-01-25 14:10

MOJO语言的诞生

如今，专用机器学习加速器的标准技术是MLIR。MLIR是一个相对较新的开源编译器基础架构，最初由Google（其主要负责人转到Modular）启动，已在机器学习加速器社区广泛应用。

是乔乔啊·2024-01-18 11:50

TPU-MLIR

把不同框架下的搭建起来的模型，转换为统一形式的中间表达IR，然后通过IR转换成可以在特定芯片平台上运行的二进制模型Top，芯片无关层：图优化、量化、推理Tpu，芯片相关层，权重重排、算子切分、地址分配、推理2、TPU-MLIR

哦豁灬·2023-12-26 13:37

Zirgen MLIR：RISC-Zero的ZK-circuits形式化验证

1.引言前序博客有：ZK*FM：RISCZerozkVM的形式化验证参考资料[1]2022年12月视频OpenZLTalk8:Multi-levelIRanditsutilityinZK,BrianRetford[2]2022年11月视频cirgen:MLIRbasedcompilerforzk-STARKcircuitgeneration-FrankLaub(RISCZero)对应slide[3

mutourend·2023-12-18 03:03

利用指向数据成员的指针实现容器对象数据成员的筛选

//TFv2.11.1//tensorflow\compiler\xla\mlir_hlo\lib\Dialect\mhlo\IR\hlo_ops.cc//tensorflow\compiler\xla

liuzongze1992·2023-12-04 11:14

Load mlir(mhlo/lmhlo) and execute on GPU

main.cc#include"mlir/Dialect/Func/IR/FuncOps.h"//from@llvm-project#include"mlir/Dialect/Arith/IR/Arith.h

liuzongze1992·2023-12-04 11:12

MLIR笔记（5）

4.3.4.图区域在MLIR中，区域里类似图的语义由RegionKind::Graph来表示。对没有控制流的并发语义，以及通用有向图数据结构的建模，图区域是合适的。

wuhui_gdnt·2023-12-02 22:01

编译器和 IR：LLVM IR、SPIR-V 和 MLIR

到目前为止，我很幸运能与三个IR有直接或简介的开发经验——分别是LLVMIR、SPIR-V、MLIR，尤其是最近两个工作，

空谷-幽兰·2023-12-02 22:01

LLaMA 2端到端推理打通！来自中国团队

允中发自凹非寺量子位|公众号QbitAIBuddyCompiler端到端LLaMA2-7B推理示例已经合并到buddy-mlir仓库[1]主线。

QbitAl·2023-11-27 09:11

MLIR笔记（4）

4.3.3.控制流与SSACFG区域在MLIR里，区域的控制流语义由RegionKind::SSACFG表示。非正式地，这些区域支持这样的语义：区域里的操作“顺序执行”。

wuhui_gdnt·2023-11-24 14:51

MLIR笔记（3）

4.一些ODS定义4.1.特性（trait）MLIR支持一个完全开放的生态系统，因为任意方言都可以定义适合特定抽象层次的属性（attribute）、操作（operation）以及类型（type）。

wuhui_gdnt·2023-11-23 04:01

MLIR笔记（1）

1.简介MLIR是Multi-layerIR的缩写，它是基于LLVMIR发展的一个中间语言形式，是Clang/LLVM的发明者ChrisLattner在加盟谷歌后又一个重要的发明。

wuhui_gdnt·2023-11-13 15:39

TPU-MLIR——实现Chatglm2-6B大模型移植部署

TPU-MLIR——实现Chatglm2-6B大模型移植部署本项目实现BM1684X部署语言大模型ChatGLM2-6B。

算能开发者社区·2023-11-13 15:07

RISC0：Towards a Unified Compilation Framework for Zero Knowledge

3.密集型计算加速策略4.MLIR参考资料[1]CompilerandComposabilityinZKP

mutourend·2023-11-12 09:23

Tutorial - 如何在MacOS 上安装MLIR以及MLIR Python Binding

Tutorial-如何在MacOS上安装Mlir以及MLIRPythonBinding前言在习惯了在IDE中利用成熟的编译工具链运行代码和享受舒适的代码编写环境之后，我逐渐依赖于具有GUI界面的软件工具

anniezfy·2023-11-09 01:23

docker打包container成image，然后将image上传到docker hub

第一步：停止正在运行的容器dockerstopeg:dockerstopxuanjie_mlir第二步：将对应的container打包成imagedockercommiteg：dockercommit005672e6d97axuanjie_pp

我是硝酸钾·2023-11-02 19:36

Hello, Mojo——首次体验Mojo语言

六、MLIR语法如何用于在Mojo中执行操作

-北天-·2023-10-26 19:18

MLIR入门系列系列学习笔记

目录1名字解释这一定义包含3个关键元素：2代码演示2.1环境准备2.2编译llvm-project2.3测试解析2.3.1源程序2.3.2将源程序生成抽象语法树(AST)3MLIR三要素3.1MLIRGen

俗世苍鹰·2023-10-24 11:47

llvm toy 语言分析

llvm-DLLVM_ENABLE_PROJECTS="bolt;clang;clang-tools-extra;compiler-rt;cross-project-tests;libclc;lld;mlir

Eloudy·2023-09-28 22:31

Mojo编程语言是AI人工智能的新的编程语言

Mojo基于MLIR，可以支持多种硬件加速器，包括CPU、GPU和其他xPU。Mojo编程语言的目的是成为人工智能（AI）开发的首选语言，它结合了Python的可用性和C的功

软件架构师-叶秋·2023-09-16 17:55

源码编译llvm Error 记录

llvm-DLLVM_ENABLE_PROJECTS="bolt;clang;clang-tools-extra;compiler-rt;cross-project-tests;libclc;lld;lldb;mlir

Eloudy·2023-09-10 09:28

circt firtool man page

$:firtool--helpOVERVIEW:MLIR-basedFIRRTLcompilerUSAGE:firtool[options]OPTIONS:Generaloptions:--mlir-disable-threading-Disablemulti-threadingwithinMLIR

前滩西岸·2023-09-10 05:15

Mac M1 运行tensorflow2.x报错model: “0“ num_cores: 8 environment { key: “cpu_instruction_set“ value:

报错信息如下：2022-04-1222:17:09.670204:Itensorflow/compiler/mlir/mlir_graph_optimization_pass.cc:116]NoneoftheMLIRoptimizationpassesareenabled

番茄Salad·2023-09-09 10:22

论文讲解——TPU-MLIR: A Compiler For TPU Using MLIR

论文讲解——TPU-MLIR:ACompilerForTPUUsingMLIRhttps://arxiv.org/pdf/2210.15016.pdf概览模型转换TranslationCanonicalizeLoweringLayerGroup

算能开发者社区·2023-08-31 07:37

Milk-V Duo开发板实战——基于MobileNetV2的的图像分类

Milk-VDuo开发板实战——基于MobileNetV2的的图像分类本教程介绍使用TPU-MLIR工具链对MobileNet-Caffe模型进行转换，生成MLIR以及MLIR量化成INT8模型，并在Milk-VDuo

算能开发者社区·2023-08-31 07:03

【M malloc送书第一期】同构：编程中的数学

编译器方面则有了更多领域应用方面的发展，比如MLIR、TVM等

M malloc·2023-08-11 19:24

AI编译器之MLIR的定位

MLIR：理解机器学习的新视角在当今的机器学习领域，MLIR（机器学习中间表示）是一个令人瞩目的项目。

早睡的叶子·2023-08-02 03:49

TPU-MLIR实战——ResNet18部署

1.编译ONNX模型本章以resnet18.onnx为例,介绍如何编译迁移一个onnx模型至BM1684XTPU平台运行。该模型来自onnx的官网:models/vision/classification/resnet/model/resnet18-v1-7.onnxatmain·onnx/models·GitHub本例模型和代码在http://219.142.246.77:65000//shar

算能开发者社区·2023-07-27 14:37

TPU-MLIR编译部署算法

注意：由于SOPHGOSE5微服务器的CPU是基于ARM架构，以下步骤将在基于x86架构CPU的开发环境中完成初始化开发环境(基于x86架构CPU的开发环境中完成)模型转换(基于x86架构CPU的开发环境中完成)处理后的PP-OCR项目文件将被拷贝至SE5微服务器上进行推理测试开发环境配置【x86架构CPU的开发环境】Linux开发环境一台安装了Ubuntu16.04/18.04/20.04的x8

算能开发者社区·2023-07-27 13:34

MLIR （Multi-Level Intermediate Representation）

MLIR（Multi-LevelIntermediateRepresentation）是一种多级中间表示的编译器基础架构，旨在提供通用的、可扩展的编译器基础设施。

Ye-Maolin·2023-07-20 05:18

onnx build笔记

onnx来总结一下今天buildonnx-mlir的坑首先是，那些前置环境版本要到位python>=3.8gcc>=6.4protobuf>=3.20.3cmake>=3.13.4make>=4.2.1orninja

离开那天·2023-07-19 02:51

【赠书活动】同构：编程中的数学

小尘要自信·2023-07-13 16:55

基于TPU-MLIR实现UNet模型部署-决赛答辩02

导出归一化1.3导出模型后处理1.3.1导出Resize与1.3.2导出ArgMaxout1.3.3导出特征转RGB复赛一、确定baseline二、优化模型复赛结果总结三、遇到的问题总结1.ONNX转MLIR2

算能开发者社区·2023-06-18 01:56

基于TPU-MLIR实现UNet模型部署-决赛答辩01

可复现的结果二、解决问题的过程2.1列举在适配过程中遇到的困难，以及解决方法a．低分辨率下，分割误差大工2.2低分辨率下，输出仍然不够准确2.3最优分辨率选择2.4其他还没来得及做的优化三、提出TPU-MLIR

算能开发者社区·2023-06-18 01:55

TPU Memory (1)

SOPHGOTPU-MLIR：https://tpumlir.orgFirstly,let'stakealookatthebriefarchitectureoftheSOPHGO’sTPU.WecanlearnfromtheslidethattherearemultipleNPU

算能开发者社区·2023-06-18 01:54

“算丰AI视界”人工智能技术内容征集活动正式开启！

本次活动主要征集AI、CV、TPU-MLIR、RISC-V等方向的代表性视频和文章，面向国内外的企业、高校和科研院所的优秀开发者。

算能开发者社区·2023-06-18 01:53

TPU-MLIR的环境搭建和使用

1、开发环境配置Linux开发环境一台安装了Ubuntu16.04/18.04/20.04的x86主机，运行内存建议12GB以上下载SophonSDK开发包(v23.03.01)（1）解压缩SDK包sudoapt-getinstallp7zipsudoapt-getinstallp7zip-full7zxRelease_-public.zipcdRelease_-public（2）Docker安装

算能开发者社区·2023-06-18 01:23

深度学习编译器之公共子表达式消除和死代码消除实现

just_sort·2023-06-16 07:36

MegEngine 使用小技巧：如何解读 MegCC 编译模型几个阶段 Pass 的作用

用户可在MLIR上进行计算图优化，内存规划，最后通过预先写好的code模版进行代码生成。

·2023-06-14 18:20

MLIR面试题

1、请简要解释MLIR的概念和用途，并说明MLIR在编译器领域中的重要性。

不哭的超人·2023-06-11 18:09

LLVM高级架构介绍

不过基本的传统编译器还是绕不过去啊，所以开始学习LLVM，后面开始学习TVM，MLIR。LLVMGitHub地址LLVM官网LLVM项目是模块化和可重用的编译器和工具链技术的集合。

早睡的叶子·2023-06-09 02:29

ChatGPT和Claude 对比测试（以Review MLIR Codegen代码为例）

Claude在MLIR代码分析上完全超越了ChatGPT并表现十分惊艳，请阅读全文或者自己注册感受它的强大。

just_sort·2023-04-18 23:41

【架构分析】Torch-MLIR 技术详解

目录概述架构举个栗子IR转换详解OpConversion代码分析核心时序LinalgGenericOp说明CodeGenVSLibCall概述Torch-MLIR作为一个编译器支持将pytorch生态转换到

HaoBBNuanMM·2023-04-16 08:19

【架构分析】BladeDISC 源码分析

目录概述架构源码分析TensorRT对比概述BladeDISC是Alibaba推出的端到端AICompiler，由于它基于MLIR的实现，所以它能够支持模型的动态shape，这也是为什么它的缩写DISC