openppl

从 0 到 1，使用 OpenPPL 实现一个 AI 推理应用

深度学习推理框架OpenPPL已经开源了，本文以一个图像分类实例，从0到1讲解如何部署一个深度学习模型，完成一个AI推理应用。
·2023-06-19 15:57

PPQ量化框架

来源于：https://github.com/openppl-public/ppqPPQ基础用法及示例脚本Description介绍Link链接01模型量化onnx,caffe,pytorch02执行器
@BangBang·2023-04-14 16:09

OpenPPL PPQ量化(2)：离线静态量化源码剖析

目录模型支持量化onnx原生模型：quantize_onnx_model输入输出执行流程ONNX格式解析后记模型支持openppl支持了三种模型：onnx、caffe、pytorch，其中pytorch
沉迷单车的追风少年·2023-02-03 07:36

OpenPPL PPQ量化(1)：原理介绍与实践尝鲜

目录量化原理为什么需要量化？量化粒度框架综述算子划分量化中的图融合操作量化实践：以pytorchmobilenetv2模型为例源码阅读torch模型和onnx量化过程中的区别后记量化原理为什么需要量化？1、减少内存带宽和存储空间深度学习模型主要是记录每个layer（比如卷积层/全连接层）的weights和bias,FP32模型中，每个weight数值原本需要32-bit的存储空间，量化之后只需要8
沉迷单车的追风少年·2023-02-02 17:56

极智AI | T4 上商汤 OpenPPL vs TensorRT7 vs TensorRT8 测评

 本文对商汤OpenPPL和英伟达TensorRT7、TensorRT8在T4平台上对一些经典网络进行了性能测试对比。
极智视界·2022-12-16 18:15

开发者嘉年华｜博客马拉松挑战，记录学习进程，分享你的知识！

在10月，JinaAI联合太极图形、OpenMLDB、OpenPPL、电鸭社区、LadiesWhoTech、云启资本等合作伙伴，举办围绕开发者文化的1024嘉年华活动，一起做有意思的活动，发现有意思的开发者
·2022-10-12 12:27

开发者 J 有意思｜1024 开发者嘉年华活动正式启幕

在10月，JinaAI联合太极图形、OpenMLDB、OpenPPL、电鸭社区、LadiesWhoTech、云启资本等合作伙伴，举办围绕开发者文化的1024嘉年华活动，一起做有意思的活动，发现有意思的开发者
·2022-10-10 11:31

【AI系统内容推荐第26期】更新一下我对深度学习编译器和框架的认识；OpenPPL 中的卷积优化技巧；机器学习访存密集计算编译优化框架AStitch

1、更新一下我对深度学习编译器和框架的认识深度学习基础软件里最hardcore的问题有两个，一个是微观层次的autocodegen，即用领域特定语言DSL描述一个算法的逻辑，自动生成在各种后端上最高效的代码；另一个是宏观层次的自动分布式并行，也就是用户面向单卡写一个神经网络模型，框架自动生成在特定拓扑结构连接的多机多卡上运行的分布式代码。OneFlow团队和世界上其它同行最近做的一些工作，给我越来
OneFlow深度学习框架·2022-03-18 15:39

从 0 到 1，使用 OpenPPL 实现一个 AI 推理应用

深度学习推理框架OpenPPL已经开源了，本文以一个图像分类实例，从0到1讲解如何部署一个深度学习模型，完成一个AI推理应用。
·2021-08-06 15:26

高性能深度学习推理平台 OpenPPL 正式开源！

OpenPPL是商汤基于自研高性能算子库的开源深度学习推理平台，能够让人工智能应用高效可靠地运行在现有的CPU、GPU等计算平台上，为云端场景提供人工智能推理服务。
·2021-07-27 19:20
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他