Pytorch的层次结构

PyTorch层次结构

硬件层

内核层

低阶API

中阶API

高阶API

• 硬件层：PyTorch支持CPU、GPU等不同硬件加入计算资源池。

• 内核层：C++或者CUDA实现的内核。

• 低阶API为Python实现的操作符，提供了封装C++内核的低级API指令，主要包括：

  • 张量结构操作：张量创建，索引切片，维度变换，合并分割
  • 张量数学运算：标量运算，向量运算，矩阵运算，广播机制
  • 动态计算图：Function, forward, backward

• 中阶API：Python实现的模型组件，对低级API进行了函数封装，主要包括：

  • 模型层
  • 损失函数
  • 优化器
  • 数据管道
  • TensorBoard可视化

• 高阶API：Python实现的模型接口。

  • 构建模型的3种方法

    • 继承nn.Module基类
    • 使用nn.Sequential
    • 辅助应用模型容器

  • 训练模型的3种方法

    • 脚本风格
    • 函数风格
    • torchkeras.Model风格