【CANN训练营第三季】【昇腾AI入门课】1.1-1.2 昇腾AI全栈架构

课程链接： https://www.hiascend.com/zh/developer/courses/detail/1579657120536670210

1.1 学习目标

1.了解CANN在昇腾AI全栈架构中的位置和作用。
2.了解基于CANN的应用开发编程框架、基本概念。

1.2 昇腾AI全栈框架

人工智能领域全栈全场景的解决方案
全栈：芯片层、芯片使能层、AI框架层、应用使能层

• ①芯片层：算力基础 （硬件基础）
  • nano/tiny/lite/mini：小芯片，不独立使用，集成在其他芯片中，提供AI部分的算力
    • e.g.集成至麒麟、high系列芯片等
    • e.g.麒麟970、980、9000包含CPU、GPU、NPU，NPU即为昇腾内核
  • 可独立使用的芯片
    • 昇腾310：用于AI推理场景
    • 昇腾910：用于AI训练场景
• ②芯片使能层（在硬件之上的软件层，用于释放硬件的算力）
  • 昇腾AI计算平台CANNcompute architecture for neural network
    • 专门用于神经网络NN的框架
    • 芯片驱动、调度、运行环境、算子库、加速库、算子开发工具
• ③AI框架层（构建深度神经网络模型）
  • 设计原因：
    • 直接通过芯片使能层调用芯片的算力，对于开发者而言存在一定难度，并且具有一定不合理性
    • 如何通过算法实现神经网络模型，利用框架实现
      • e.g. TensorFlow、pytorch、caffe框架
  • 华为自研框架：MindSpore
    • 端、边、云独立协同的统一训练和推理框架
• ④应用使能层（构建应用）
  • 基于模型构建应用
  • 包含：API、SDK、ModelArts
  • ModelArts：华为云上的训练资源平台https://www.huaweicloud.com/product/modelarts.html