TensorRT笔记(一)TensorRT简介

目录

  • 摘要
  • 1.什么是TensorRT?
    • 1.1 TensorRT的好处
      • 1.1.1 谁可以从TensorRT中受益
    • 1.2 TensorRT适合哪里?
    • 1.3 TensorRT如何工作?
    • 1.4 TensorRT提供哪些功能?
    • 1.5 我如何获得TensorRT?
    • 1.6 TensorRT弃用政策
    • 1.7 TensorRT API文档(核心代码后续学习用)

摘要

本TensorRT 7.2.2开发人员指南演示了如何使用C ++和Python API来实现最常见的深度学习层。它显示了如何采用深度学习框架构建的现有模型,并使用该模型通过提供的解析器构建TensorRT引擎。开发人员指南还提供了针对常见用户任务的分步说明,例如创建TensorRT网络定义,调用TensorRT构建器,序列化和反序列化以及如何向引擎提供数据和执行推理;同时使用C ++或Python API。

你可能感兴趣的:(TensorRT-部署-加速)