模型部署简述

一、模型使用流程

模型部署简述_第1张图片

二、模型部署平台

  • 在线服务器部署,精度优先
    模型部署简述_第2张图片
  • 离线嵌入式端部署,兼顾精度与速度,资源消耗
    模型部署简述_第3张图片

三、模型部署的方式

模型部署简述_第4张图片

  • 训练框架部署
    模型部署简述_第5张图片

  • 训练框架部署引擎
    模型部署简述_第6张图片

  • 手动模型重构
    模型部署简述_第7张图片

  • 专用推理引擎(我们常用的方式)
    模型部署简述_第8张图片

  • 主流的移动端推理框架对比
    模型部署简述_第9张图片

文章来源:https://www.bilibili.com/video/BV1TY4y1q7XE?spm_id_from=333.337.search-card.all.click

你可能感兴趣的:(深度学习笔记篇,人工智能)