模型量化的原理与实践 —基于YOLOv5实践目标检测的PTQ与QAT量化

这里写自定义目录标题

  • 一、量化基础知识
    • 1.1 Tops是什么意思?
    • 1.2 什么是定点数?
    • 1.3 定点数转换
    • 1.4 什么是量化?
    • 1.5 定点计算
      • 1.5.1 定点计算——误差计算
      • 1.5.2 定点计算——内存对比
      • 1.5.3 定点计算——速度对比
    • 1.6 量化有什么优缺点?
    • 2、线性映射
    • 非对称量化:
    • 3、逐层量化、逐组量化和逐通道量化
    • 4、在线量化和离线量化
    • 5、权重量化和权重激活量化
    • 6、量化的一般步骤
  • 三、模型校准
    • 1、什么是校准?
    • 2、Max校准
    • 3、Histogram校准

你可能感兴趣的:(TensorRT-部署-加速,深度学习,目标检测,YOLO,人工智能)