【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优

这一节涉及一些实操的内容,但我的电脑还没有配置好,所以先看知识性的内容,以后弄好了填坑


Ascend-PyTorch

  • 课程目标
  • PyTorch
  • 达芬奇架构
  • 软件架构
  • Ascend-PyTorch安装
  • PyTorch模型迁移

课程目标

  • 了解PyTorch与昇腾平台的适配
  • 了解Davinci硬件架构
  • 了解什么样的模型在昇腾上更亲和
  • 了解软件术语
  • 了解Ascend-PyTorch的安装步骤
  • 了解如何将原生的PyTorch模型代码适配至Ascend-PyTorch

PyTorch

【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优_第1张图片

  • 在线对接适配方案
    • 最大限度继承pytorch框架动态图的特性
    • 最大限度继承原生pytorch上的使用方式:最小的开发方式和代码的重用
    • 最大限度继承pytorch原生的体系结构
    • 扩展性好,对于新的网络类型或结构,只涉及相关计算类算子的开发和实现,对于框架类的算子可以复用

达芬奇架构

【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优_第2张图片

  • 计算单元
    • Cube:
      • 矩阵运算
      • fp16的16×16与16×16的矩阵乘
      • 相关操作:matmul、conv2d、linear
    • Vextor:
      • 向量运算
      • 算力低于Cube,但灵活性高
      • 计算类型:fp16、fp32、int8
    • Scalar:
    • 各类型的标量数据运算&程序的流程控制
    • 功能上类似于小的CPU

软件架构

【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优_第3张图片【CANN训练营第三季】【昇腾AI入门课】2PyTorch模型迁移与调优_第4张图片

Ascend-PyTorch安装

挖坑

PyTorch模型迁移

  1. 手工迁移
  2. 脚本转换工具(msFmkTransplt)
  3. 自动迁移(推荐)
    挖坑

你可能感兴趣的:(CANN训练营第三季AI入门课,人工智能,pytorch,深度学习)