本篇整理自3.19日“LargeKernelMakesCNNGreatAgain”专题Meetup中《MegEngine大Kernel卷积工程优化实践》分享。

MegEngine参考了阿里巴巴工程师陈元凯提出的GPU推理中的数据格式全局优化算法，并进一步扩展到CPU，提供了一种从整体上优化TensorFormat选择，提升模型

本篇为文字实录，enjoy~\视频回顾见01:42:40LargeKernelMakesCNNGreatAgain嘉宾介绍主持：许欣然|旷视天元MegEngine负责人嘉宾：刘壮|UCBerkeley博士生

作者：张浩龙|旷视科技MegEngine架构师写在之前本文的目的通过讲述在支持MegEngineWindowsPythonwheel过程中遇到的问题以及解决问题的流程，此文最后的解决方法可能不是最优，欢迎留言指正

作者：张浩龙|旷视科技MegEngine架构师写在之前本文的目的通过讲述在支持MegEngineWindowsPythonwheel过程中遇到的问题以及解决问题的流程，此文最后的解决方法可能不是最优，欢迎留言指正

作者：Lenny|旷视科技MegEngineintern刷购物App频频被“种草”、指纹识别一次比一次稳准快、美颜相机get你的喜好一键P图……在智能手机上，利用AI算法进行个性化推荐能大幅度提升用户的体验。然而，想让AI更懂你，很多应用都需要将用户数据进行模型训练，饭馆推荐背后是推荐系统、指纹识别是利用过往数据自动优化模型、聪明的美颜相机背后是对用户行为的分析。在这种情况下，如何让AI算法更精准

作者：褚超群|旷视科技MegEngine架构师背景介绍在算法研究的过程中，算法同学们可能经常会尝试定义各种新的神经网络层（neuralnetworklayer），比如LayerNorm，DeformableConv

作者：马骏|旷视MegEngine架构师前言单精度矩阵乘法（SGEMM）几乎是每一位学习CUDA的同学绕不开的案例，这个经典的计算密集型案例可以很好地展示GPU编程中常用的优化技巧，而能否写出高效率的SGEMMKernel

作者：周瑞亮|旷视科技MegEngine架构师在正式进入本文前，先通过一组简单的对比来直观地感受一下，静态内存优化带来的内存占用上的提升。

MegFlow是旷视开源的推理框架，致力于提供快速视觉应用落地流程，MegFlow对内结合MegEngine完成训推一体化落地部署，对外完成MegEngine/Brain++的生态闭环。

作者：马骏|旷视MegEngine架构师前言单精度矩阵乘法（SGEMM）几乎是每一位学习CUDA的同学绕不开的案例，这个经典的计算密集型案例可以很好地展示GPU编程中常用的优化技巧，而能否写出高效率的SGEMMKernel

用户实践系列，将收录MegEngine用户在框架实践过程中的心得体会文章，希望能够帮助有同样使用场景的小伙伴，更好地了解和使用MegEngine~作者：王雷|旷视科技研发工程师背景随着人工智能技术的发展及应用领域的不断扩大

作者：曹彬|旷视MegEngine架构师简介从2080Ti这一代显卡开始，所有的民用游戏卡都取消了P2Pcopy，导致训练速度显著的变慢。

|作者：邓哲也|旷视MegEngine基础架构组工程师在近年来的深度学习领域，许多研究机构和研究者通过增大模型的参数量来提升模型的表现，取得了非常显著的成果，一次次令业界称奇。

在3.25日的MegEngineMeetup中，旷视研究院周亦庄讲师分享了《利用MegEngine分布式通信算子实现复杂的并行训练》。

作者：章晓|旷视MegEngine架构师一、前言2020年5月Nvidia发布了新一代的GPU架构安培（Ampere）。

作者：王璐璐|旷视MegEngine架构师一、背景在MegEngineimperativeruntime的早期开发中，我们面临着一些的性能优化问题。

作者：章晓|旷视MegEngine架构师一、前言2020年5月Nvidia发布了新一代的GPU架构安培（Ampere）。

3月25日下午，旷视科技举办线上发布会，正式宣布开源新一代AI生产力平台Brain++的核心深度学习框架旷视天元（MegEngine），成为全球首个将底层框架开源的人工智能企业。

AI浪潮一波又一波，仿佛不会算法就落后于时代。深度学习框架处理了各种设备的计算细节、求导、计算优化序列的工作，而在动态、静态两套截然不同的世界中，这些步骤又各自有他们不同的优化点和瓶颈。如何在中间获取一个高效的平衡呢？以及如何克服训练完的模型在推理部署中无数的坑（闻者落泪），那个堪称对此进行降维打击的“训练推理一体化”到为何物？受清华大学学生网络与开源软件协会（TUNA）邀请，8月22日，旷视研究

8月4日，旷视联合机器之心开设的公开课《零基础入门旷视天元MegEngine》第二讲完成，旷视研究院深度学习框架研究员刘清一主要讲解了数据的加载和预处理、神经网络的基本算子、使用梯度下降法优化神经网络的参数

天元（MegEngine）深度学习框架凭借「训练与推理一体化」的独特范式，能够极大程度上（90%）节省模型从研发到部署的整体成本，降低转换难度，真正实现小时级转化；同时，天元（MegEngine）在CPU

7月11日，旷视研究院在2020WAIC·开发者日「深度学习框架与技术生态论坛」上围绕6月底发布的天元深度学习框架（MegEngine）Beta版本核心技术升级与开源生态建设进行了首次深度解读。

旷视科技的深度学习框架MegEngine（天元）近期开源，其在线深度学习平台MegStudio同时发布。

3月25日，旷视宣布将耗费众多资源打造，优化6年，迭代到8.0版本的工业级深度学习框架“天元（MegEngine）”正式开源。“天元”开源后，全球开发者们又多了一个强大的生产力工具。

今年3月，旷视开源了在内部工程实践超过6年的深度学习框架天元（MegEngine），并于6月底发布Beta版。

动静合一瞄准痛点：静态图好部署，动态图易调试，但两者难以兼得同时适配科研实验和生产部署环境内置动静转换动静态混合编程importmegengine.functionalasFfrommegengine.jitimporttrace#importtrace之后设置enabled属性切换动静态图trace.enabled=True#开启trace，使用静态图模式#使用trace类装饰网络forward

天元MegEngine深度学习框架正式开源官网：https://megengine.org.cn/人工智能深度学习开源框架旷视自主研发的深度学习框架，具备训练推理一体化，动静合一，兼容并包和灵活高效四个特点

天元支持的环境我的电脑环境是Ubuntu18.04cuda10.0目前MegEngine安装包集成了使用GPU运

中终端运行MegEngineModels综述安装和环境配置使用预训练模型检测标注结果使用ModelhubAPI加载预训练模型APIfrommegengineimporthubmodel=hub.load("megengine

此前，我们刚刚报道了旷视科技在3月25日开源深度学习框架MegEngine，3月28日，华为的全栈全场景AI计算框架MindSpore也终于正式开源了。

天元（MegEngine）深度学习框架凭借「训练与推理一体化」的独特范式，能够极大程度上（90%）节省模型从研发到部署的整体成本，降低转换难度，真正实现小时级转化；同时，天元（MegEngine）在CPU

福利满满|天元MegEngine贡献者计划全面启动！

7月11日，旷视研究院在2020WAIC·开发者日「深度学习框架与技术生态论坛」上围绕6月底发布的天元深度学习框架（MegEngine）Beta版本核心技术升级与开源生态建设进行了首次深度解读。

天元MegEngine的全面发展离不开生态内广大开发者的大力支持。

今年3月，旷视科技开源了在内部工程实践超过6年的深度学习框架天元（MegEngine），其「训练推理一体」、「动静合一

概况天元（英文名：MegEngine）是旷视科技3月25日开源的深度学习框架，这一名字取自围棋棋盘中心点的名称，也有向AlphaGo致敬之意。

知识雷锋网AI科技评论按：昨天在华为开发者大会上，华为首席科学家陈雷发布的全场景AI计算框架MindSpore开源框架，引起业界广泛关注，毕竟在短短一周之内，国内相继涌现出计图（Jittor，清华）、天元（MegEngine

【导读】2020年3月25日，人工智能企业旷视科技举办线上发布会，旷视联合创始人兼CTO唐文斌宣布正式开源其AI生产力平台Brain++的核心组件——天元(MegEngine)。

https://github.com/thu-ml/tianshou深度强化学习（deepRL）近年来取得了令人瞩目的进步，就说2020年至今，就有多个深度学习框架相继开源，清华的Jittor、旷视的MegEngine

刚刚，深度学习驱动之下最早创业的中国AI独角兽旷视，宣布开源自研深度学习框架MegEngine（Brain++核心组件之一），中文名天元——取自围棋棋盘中心点的名称。

2020无疑是特殊的一年，而AI在开年的这场”战疫“中表现出了惊人的力量。站在“新十年”的起点上，CSDN【百万人学AI】评选活动正式启动。本届评选活动在前两届的基础上再度升级，设立了「AI优秀案例奖Top30」、「AI新锐公司奖Top10」、「AI开源贡献奖Top5」三大奖项。我们相信，榜样的力量将成为促进AI行业不断发展的重要基石，而CSDN将与这些榜样一起，助力AI时代的”新基建“。活动官网

在百度狂推PaddlePaddle框架，以及旷视计划本月25日发布自研深度学习训练框架MegEngine之际，清华大学突然发布首个中国高校自研深度学习框架Jittor，中文名为计图。

MegEngine「训练推理一体化」的独特范式，通过静态图优化保证模型精度与训练时一致，无缝导入推理侧，再借助工业验证的高效卷积优化技术，打造深度学习推理侧极致加速方案，实现当前业界最快运行速度。

MegEngine经过工程扩展和优化，发展出一套行之有效的加强版亚线性显存优化技术，既可在计算存储资源受限的条件下，轻松训练更深的模型，又可使用更大batchsize，进一步提升模型性能，稳定batchwise

在本次活动中，旷视研究院基于旷视开源的天元（MegEngine）深度学习框架，设计

大家好，我是田忠博，非常荣幸有机会向大家介绍天元（MegEngine）深度学习框架。天元（MegEngine）是旷视完全自主研发的深度学习框架，它的研发始于201

「天元」（MegEngine）始于2014年，是一个旷视自主研发的工业级深度学习框架，帮助旷视拿下27项全球AI竞赛冠军和MSCOCO三连冠。旷视1400名研发人员使用它，开发公司的所有AI产品。

据悉，Brain++具备大规模算法研发能力，包括深度学习框架MegEngine（天元）、深度学习云计算平台MegCompute、以及数据管理平台MegData，分别对应框架、算力和数据三大要素。

3月25日，旷视宣布正式开源工业级深度学习框架“天元（MegEngine）”，成为国内第一家开源AI框架的AI企业。