2023 Meet TVM · 深圳站于 2023 年 9 月 16 日在腾讯大厦成功举办,百余名参与者亲临现场,聆听讲师们的精彩分享。
作者 | xixi
编辑 | 三羊
本文首发于 HyperAI 超神经微信公众平台~
**由 MLC.AI 社区和 HyperAI超神经主办,Openbayes贝式计算和腾讯 AI Lab 协办的 2023 Meet TVM · 深圳站已圆满落幕。**连续一周的大雨也抵挡不住社区伙伴们的热情,百余位来自高校、大厂、芯片厂商、研究院的参与者从各地赶来,加入这场属于 AI 编译器的线下聚会。
本次活动我们邀请到了来自上海交通大学、腾讯、MachineTime、燧原科技的 5 位资深讲师,结合自身业务中的应用,分享关于 TVM & MLIR 的最佳实践。
以下是活动内容简介以及现场的视频回顾。
关注微信公众号「HyperAI超神经」,后台回复关键字「TVM 深圳」,获取嘉宾完整 PPT。
分享主题: 基于 TVM 的 CPU 端动态形状优化
内容简介: 传统的深度学习编译器(包括 TVM)缺少动态形状支持,在处理语言模型(动态序列长度)和检测模型(动态宽/高)等情况时比较乏力。基于此现状,我们设计实现了一套基于 TVM 的 CPU 端动态形状算子优化方案,性能超过现有的静态形状方案,且几乎不需要搜索时间。
分享视频:【2023 Meet TVM · 深圳】朱文熙-基于 TVM 的动态形状编译优化
分享主题: Automatically Design an AI Processor: Compiler is Dominant
内容简介: 随着以大语言模型为代表的 AIGC 的发展和普及,算力需求呈指数式增长。因此,AI 处理器芯片的设计以及相应的编程变得更加复杂。
如何让两者变得更加简单高效,自动化的编译器-计算架构联合设计了一个潜在解决方案。
分享视频: 【2023 Meet TVM · 深圳】解磊-Design an AI processor: Compiler is Dominant
内容简介: 随着 AI 芯片和 AI 框架的蓬勃发展,AI 编译器也随之发展起来,如 XLA、TVM 等。MLIR 作为通用和可复用的编译器框架,由于能够帮助各硬件厂商快速构建 DS AI 编译器,目前在 AI 编译系统中得到了广泛的利用。
本次分享主要介绍 MLIR 的一些基本知识要素、MLIR 的 Codegen 流程以及构建 AI 编译器的实践步骤,另外也将和大家讨论一下 MLIR 解决 AI 编译器关键问题的思路。
分享视频: 【2023 Meet TVM · 深圳】苏刚-MLIR 及其 AI 图编译实践
内容简介: AI 和机器学习领域有许多不同的软件框架(如 TensorFlow、PyTorch 等),硬件设备也日益多样化(CPU、GPU、TPU 等),AI 编译器作为连接二者的桥梁,存在着诸多挑战。
MLIR 作为一套编译器基础设施,它提供一系列可复用的易扩展的基础组件,用来搭建领域专用编译器。腾讯在 MLIR 的基础上搭建了一套端到端的 AI 编译器,为用户的 AI 模型提供编译优化,从而简化模型在多种 AI 芯片上的部署,发挥极致性能。
分享视频:【2023 Meet TVM · 深圳】张峰-基于 MLIR 的 AI 编译器的设计与实现
内容简介: 生成式人工智能和大型语言模型 (LLM) 领域取得了重大进展,它们具有卓越的能力和从根本上改变许多领域的潜力。与此同时,它对于机器学习系统带来了全新的机遇和挑战。一方面,巨大的算力需求导致对于系统优化的需求提升;另一方面,单一的模型结构和高性能硬件需求,使得原本开放的机器学习生态开始收敛。
分享视频:【2023 Meet TVM · 深圳】冯思远-大模型时代机器学习系统的机遇与挑战
北京站视频: 北京站回顾视频可在「HyperAI超神经」视频号中观看
今年 Q1-Q3,我们成功举办了 3 场线下 meetup,吸引了众多关注 AI 编译器领域的朋友们,在不同的城市汇聚一堂,一同进行学习和讨论。
Q4 即将到来,我们将举办 2023 Meet TVM 年终聚会,以此为今年的 2023 Meet TVM 系列活动画上完美的句号,诚挚邀请各位企业及社区伙伴们以各种形式参与共创,无论是推荐讲师还是赞助场地、茶歇,我们都十分欢迎。
让我们一起努力共建国内最活跃的 AI 编译器社区!最后分享一张现场的大合影❤️
获取 PPT: 关注微信公众号「HyperAI超神经」,后台回复关键字「TVM 深圳」,获取嘉宾完整 PPT。
作为本次活动的主办方,MLC.AI 社区成立于 2022 年 6 月,并由 Apache TVM 主要发明者、机器学习领域著名的青年学者陈天奇,带领团队上线了 MLC 线上课程,系统介绍了机器学习编译的关键元素以及核心概念。
2022 年 11 月,在 MLC.AI 社区志愿者的共同努力下,首个完整的 TVM 中文文档上线,并成功托管至 HyperAI超神经官网,进一步为对机器学习编译感兴趣的国内开发者,提供了接触并学习一门新技术的基础设施——文档。
2023 年第四季度,我们将举办 2023 Meet TVM · 年终聚会,届时欢迎企业及社区伙伴参与共创。
MLC 线上课程:https://mlc.ai/
TVM 中文文档:https://tvm.hyper.ai/
国内领先的人工智能及高性能计算社区,致力于为广大国内开发者提供数据科学领域的优质公共资源,截至目前已为 1200+ 公开数据集提供国内下载节点,支持 300+ 人工智能及高性能计算相关的词条查询,托管了完整的 TVM 中文文档,并即将上线多个基础及流行教程。
访问官网:https://hyper.ai/
OpenBayes贝式计算是国内领先的高性能计算服务提供商,通过为新一代异构芯片嫁接经典软件生态及机器学习模型,进而为工业企业及高校科研提供更加快速、易用的数据科学计算产品,其产品已被数十家大型工业场景或头部科研院所所采用。
访问官网:https://openbayes.com/
腾讯 AI Lab 是腾讯的企业级 AI 实验室,于 2016 年 4 月在深圳成立,目前有100 多位顶尖研究科学家及 300 多位应用工程师。借助腾讯丰富应用场景、大数据、计算力及一流人才方面的长期积累,AI Lab 立足未来,开放合作,致力于不断提升 AI 的认知、决策与创造力,向“Make AI Everywhere”的愿景迈步。
腾讯 AI Lab 强调研究与应用并重发展。基础研究关注机器学习、计算机视觉、语音技术及自然语言处理等四大方向;技术应用聚焦在游戏、数字人、内容、社交四大领域,并初探 AI 在工业、农业、医疗、医药、生命科学等领域的研究应用。
本文首发于 HyperAI 超神经微信公众平台~