CANN

深入解析框架适配开发：基于CANN平台的自定义算子开发与第三方框架适配全流程详解

深入解析框架适配开发：基于CANN平台的自定义算子开发与第三方框架适配全流程详解随着深度学习的发展，不同的深度学习框架如TensorFlow、PyTorch、ONNX等在AI开发者社区中占据了重要地位。

快撑死的鱼·2025-01-21 20:10

深入解析CANN算子开发：TBE与AI CPU算子类型及其开发方法全指南

深入解析CANN算子开发：TBE与AICPU算子类型及其开发方法全指南在现代AI计算领域中，高效的算子开发对于优化深度学习模型的推理与训练至关重要。

快撑死的鱼·2025-01-21 20:09

解锁辅助驾驶新境界：基于昇腾 AI 异构计算架构 CANN 的应用探秘

博客主页：倔强的石头的CSDN主页Gitee主页：倔强的石头的gitee主页⏩文章专栏：《AI大模型》期待您的关注目录一、引言二、CANN是什么1.异构计算与人工智能的关系2.CANN的定义和作用3.CANN

倔强的石头_·2025-01-21 19:25

AscendC从入门到精通系列（一）初步感知AscendC

1什么是AscendCAscendC是CANN针对算子开发场景推出的编程语言，原生支持C和C++标准规范，兼具开发效率和运行性能。

·2025-01-20 17:20

从零开始的 AI Infra 学习之路

算法应用2.1机器学习2.2深度学习2.3LLM三、AI开发体系3.1编程语言四、AI训练框架&推理引擎4.1PyTorch4.2llama.cpp4.3vLLM五、AI编译&计算架构5.1CUDA5.2CANN

SSS不知-道·2025-01-19 15:15

华为CANN架构与Ascend C算子开发

CANN架构CANN（ComputeArchitectureforNeuralNetworks）是华为专为应对人工智能场景而推出的一种新型异构计算架构。

z1931195·2025-01-18 10:28

昇腾NPU推理YOLOV10目标检测（C++）

1.准备工作基础环境：需要安装NPU固件驱动，CANN的包在昇腾官网下载，安装最新版就可以了。

weixin_51923349·2025-01-18 10:23

小北的技术博客：探索华为昇腾CANN训练营与AI技术创新——Ascend C算子开发能力认证考试（初级）

前言哈喽哈喽友友们，这里是zyll~（小北）智慧龙阁的创始人及核心技术开发者。在技术的广阔天地里，我专注于大数据与全栈开发，并致力于成为这一领域的新锐力量。通过智慧龙阁这个平台，我期望能与大家分享我的技术心得，共同探索技术的无限可能。AscendC编程：小北的技术之旅近期，我深入研究了AscendC编程，并整理了一系列关于AscendC算子开发能力认证考试（初级）的题目及其答案。我希望这些内容能为

Stitch .·2025-01-18 08:12

MindIE+MindFormers推理方案指导

组件介绍CANNCANN是什么异构计算架构CANN（ComputeArchitectureforNeuralNetworks）是昇腾针对AI场景推出的异构计算架构，向上支持多种AI框架，包括MindSpore

·2025-01-17 20:50

华为昇腾AI处理器，atc模型转换和推理过程，华为的CANN库对标的是NVIDIA的cuda，所以在华为昇腾AI处理器上安装了CANN后，就可以直接使用pytorch了，以及推理框架(参考学习)

1，模型转换atc模型转换模型转换如图参考链接如下：https://toscode.mulanos.cn/ascend/samples/tree/master/inference/modelInference/sampleResnetQuickStart/cpp2，推理运行，这里需要注意用到了infer，有点类似的pytorch对模型的加载使用model=InferSession(0,model_

鼾声鼾语·2025-01-17 12:53

Ascend C算子学习笔记

fid=0163125572293226003提交笔记链接：昇腾论坛香橙派实验手册：昇腾论坛AscendC算子中级认证考试链接：微认证异构计算架构CANN背景AI创新在加速：从“预测推断”向“内容生成”

张栗瑞-22373425·2024-09-06 05:50

【2024第一期CANN训练营】3、AscendCL运行时管理

文章目录【2024第一期CANN训练营】3、AscendCL运行时管理1.初始化与去初始化2.资源申请与释放2.1申请流程2.2释放流程2.3运行模式（可选）3.数据传输3.1接口调用流程3.2主要数据传输场景

一条大蟒蛇6666·2024-03-19 14:56

Ubuntu WSL Docker 踩坑记录：Cannot connect to the Docker daemon at unix:///var/run/docker.sock

最终解决方案:如果之前好好的,从来没有出过问题,也没有更新过什么东西,那么重启试试是一个非常可行的方法,记得重启的是DockerDesktop,直到踩坑过程：1.错误信息Cann

SoulOH·2024-02-03 19:52

【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）之模型迁移

昇腾AI入门课（PyTorch）之模型迁移将基于PyTorch的训练脚本迁移到昇腾AI处理器上进行训练，目前有以下3种方式：自动迁移（推荐）、工具迁移、手工迁移，且迁移前要保证该脚本能在GPU、CPU上运行。自动迁移：训练时，在训练脚本中导入脚本转换库，导入后执行训练。训练脚本在运行的同时，会自动将脚本中的CUDA接口替换为昇腾AI处理器支持的NPU接口。整体过程为：边训练边转换。工具迁移：训练前

A-Little-Boy·2024-01-24 04:47

Ubuntu20.04降低linux版本到5.4.0-26-generic

前言试用ubuntu20.04安装昇腾的驱动和cann的时，出现如下问题：(base)root@ubuntu:/home/work#.

大海里的猴儿·2024-01-17 15:13

910b上跑Chatglm3-6b进行流式输出【pytorch框架】

文章目录准备阶段避坑阶段添加代码结果展示准备阶段配套软件包Ascend-cann-toolkit和Ascend-cann-nnae适配昇腾的Pytorch适配昇腾的TorchvisionAdapter下载

内卷焦虑人士·2024-01-09 20:39

帝国cms问题

问题1登录后台遇到Cann'tconnecttoDB!解决方法：有可能是mysql服务意外关闭，去控制面板-管理工具-服务找mysql服务启动。

yjm2017·2024-01-08 19:19

Resolved [org.springframework.http.converter.HttpMessageNotReadableException: JSON parse error: Cann

使用POST请求@RequestBody传参，出错，这个错简单解释:不能反序列化类型为'java.lang.value'的值。Long'from对象值我们把Long改成Objec,看一下到底传的什么过来我们得到是{id=2}，其实我们只需要2，解决办法：办法1写一个request，专门来接收（建议用这个办法）测试结果解决办法2把object类型重新转换为JSON，再去获取元素解决办法3这个本身就是

Royalreairman·2024-01-02 16:26

昇腾910平台安装驱动、固件、CANN toolkit、pytorch

本文使用的昇腾910平台操作系统是openEuler，之前没了解过，不过暂时感觉用起来和centOS差不多。系统架构是ARM，安装包基本都是带aarch64字样，注意和x86_64区别开，别下错了。安装依赖cmake通过yum安装的cmake版本较老，需要源代码安装wgethttps://cmake.org/files/v3.21/cmake-3.21.3.tar.gztar-zxvfcmake-

weixin_36049506·2023-12-30 06:45

微服务注册与发现——Eureka

eureka实例为EurekaServer添加用户认证引入spring-security配置关闭security的csrf，否则client无法注册client注册Eureka自我保护模式常见问题1、Cann

star-1331·2023-12-27 07:00

【2023CANN训练营第二季】——Ascend C代码实操分享

1.实操题目：使用AscendC实现Addcdiv算子参考pytorch的Addcdiv算子，实现AscendC算子Addcdiv,算子命名为AddcdivCustom相关算法:out=x+y/z*value要求:1、完成Kernel侧实现代码和host侧调用算子代码，支持fp16类型输入2、完成AcInn方式调用编写好的算子3、根据提供的测试用例，使用aclnn方式调用验证通过，精度偏差小于1e

STRUGGLE_xlf·2023-12-26 06:25

【2023CANN训练营第二季】——Ascend C算子开发（进阶）微认证

1.微认证题目：参考tensorflow的Sinh算子，实现AscendC算子Sinh,算子命名为SinhCustom，并完成aclnn算子调用相关算法:sinh(x)=(exp(x)-exp(-x))/2.0要求:1、完成host侧和kernel侧代码实现。2、实现sinh功能，支持float16类型输入，使用内核调试符方式调用算子测试通过。3、使用单算子API调用方式调用SinhCustom算

STRUGGLE_xlf·2023-12-26 05:53

思腾云计算

在这AI的时代，数据几何式增长，高性能计算硬件呼之欲出，要服务各种场景下的计算需求，就得在高性能计算硬件和AI应用之间架起一座桥梁，CANN异步计算架构就是这座桥梁。

STGPU·2023-12-22 07:24

GAN （Generative Adversarial Network，GAN）生成式对抗网络

importwarningswarnings.filterwarnings("ignore")克隆仓库gitclonehttps://gitee.com/mindspore/models.gitcp-r~/CANN

irrationality·2023-12-04 10:42

Ascend C 算子开发遇到的问题及解决方法

首先如果在启智社区CANN版本为6.3，要进行AscendC算子开发，需要更新CANN版本。

STRUGGLE_xlf·2023-12-01 14:22

【2023CANN训练营第二季】——Ascend C自定义算子工程介绍及实验

CANN软件包中提供了工程创建工具msopgen，开发者可以输入算子原型定义文件生成AscendC算子开发工程。

STRUGGLE_xlf·2023-12-01 14:21

【2023CANN训练营第二季】——Ascend C算子调用及实验演示

自定义算子调用方式完成自定义算子的开发部署后，可以通过单算子调用的方式来验证单算子的功能。单算子调用有API执行和模型执行两种方式：单算子API执行：基于C语言的API执行算子，无需提供单算子描述文件进行离线模型的转换，直接调用单算子API接口。单算子模型执行：基于图IR执行算子，先编译算子（例如，使用ATC工具将AscendIR定义的单算子描述文件编译成算子om模型文件），再调用AscendCL

STRUGGLE_xlf·2023-12-01 14:19

MindStudio学习一整体介绍

采用无昇腾硬件采用linux分部署2.WINDOWS3.linux下安装整体步骤3.1安装依赖3.2安装步骤1.gcccmake等依赖2.python3.7.53.pip安装依赖4.安装JDK5.安装Ascend-cann-toolkit6

深耕半夜·2023-11-25 00:05

华为云AI加速型(昇腾Ascend310)Ubuntu18.04系统下使用msame模型推理工具

文章目录弹性云服务器ECS信息更新Ascend310驱动更新CANN开发环境下载并编译msame模型推理工具下载googlenet模型进行空数据推理参考来源弹性云服务器ECS信息规格：AI加速型|ai1s.large

Alderaan·2023-11-17 09:44

cnpm下载、cnpm不存在处理、yarn安装

cnpm安装问题1.Error:Cann

sir.山·2023-11-16 12:40

基于昇腾CANN的推理应用开发快速体验（Python)

0.前情提要这是关于一次Ascend在线实验的记录，主要内容是通过网络模型加载、推理、结果输出的部署全流程展示，从而快速熟悉并掌握ACL（AscendComputingLanguage）基本开发流程。注意，为了保证学习和体验效果，用户应该具有以下知识储备：1.熟练的Python语言编程能力2.深度学习基础知识，理解神经网络模型输入输出数据结构1.目录2.最终目标1.了解ACL的基本概念，清楚ACL

Tianyi Li 1997·2023-11-14 08:32

华为云Ascend310服务器使用

使用华为云服务器cpu:16vCPUsKunpeng920内存：16GiBgpu：'4*HUAWEIAscend310cann:20.1.rc1操作系统：Ubuntuaarch64目的使用该服务器进行docker

廖泽松·2023-11-11 08:18

【2023 · CANN训练营第一季】应用开发深入讲解之DVPP

应用开发深入讲解之DVPP1.基本概念昇腾Al处理器内置图像处理单元DVPP(DigitalVideoPre-Processor)，提供强大的媒体处理硬加速能力。主要功能模块有：2.常见接口a.内存申请与释放b.通道创建与释放c.图片描述信息创建与销毁d.图片描述参数设置3.JPEGD图片解码4.VPC视觉预处理

A-Little-Boy·2023-11-08 22:30

昇腾CANN 7.0 黑科技：大模型推理部署技术解密

CANN作为最接近昇腾AI系列硬件产品的一层，通过软硬件联合设计，打造出适合昇腾AI处理器的软件架构，充分使能和释放昇腾硬件的澎湃算力。

昇腾CANN·2023-11-08 22:18

昇腾CANN 7.0 黑科技：DVPP硬件加速训练数据预处理，友好解决Host CPU预处理瓶颈

在NPU/GPU上进行模型训练计算，为了充分使用计算资源，一般采用批量数据处理方式，因此一般情况下为提升整体吞吐率，batch值会设置的比较大，常见的batch数为256/512，这样一来，对数据预处理处理速度要求就会比较高。对于AI框架来说，常见的应对方式是采用多个CPU进程并发处理，比如PyTorch框架的torchvision就支持多进程并发，使用多个CPU进程来进行数据预处理，以满足与NP

昇腾CANN·2023-11-08 22:12

基于CANN的辅助驾驶AI实战案例，轻松搞定车辆检测和车距计算！

引言科幻片中光怪陆离的飞行器，寄托着人类对未来出行的无限遐想。随着科技的进步，能够自动驾驶的汽车，已经离我们越来越近。自动驾驶带给人类的惊喜不止是酷炫的自动超车变道，还有它在缓解交通阻塞、减少空气污染、提高道路安全性方面的种种可能性。因此也引得无数汽车企业、科技企业竞相加入这条行业赛道，力求不断突破。然而，自动驾驶并不是一蹴而就的，由于技术瓶颈和相关法律法规的限制并未真正意义落地，当下的智能汽车正

昇腾CANN·2023-11-08 15:37

【2023 - CANN训练营第二季】 -- Ascend C(1)

CANN训练营第二季--AscendC(1)入门1.基本概念1.1AscendC什么是AscendC？

不是白喵·2023-10-27 16:35

【2023 · CANN训练营第一季】——Ascend C算子沙箱实验

前言：CANN训练营的AscendC算子课程，以在线课程的方式提供了一个沙箱实验环境。

大姚_54022960·2023-10-27 16:05

【2023 · CANN训练营第一季】——学习优化-01跟着视频学CANN

2023年，CANN训练营已经进入第三个年头，2021年和2022年共举办了七期训练营，留下了丰富的学习视频。这些往期的视频回放存在B站的“昇腾Ascend”，更早期的视频在B站“起飞的老谭”上。

大姚_54022960·2023-10-27 16:05

【2023 · CANN训练营第一季】昇腾AI入门课（TensorFlow）微认证考试

1、下面哪个AI框架开发模型可以不用适配，直接在昇腾AI处理器上进行训练？A.PyTorchB.CaffeC.MindsporeD.TensorflowC2、使用Estimator进行脚本训练开发的一般步骤为（A）A.数据预处理-->模型构建-->运行配置-->执行训练B.运行配置-->模型构建-->数据预处理-->执行训练C.模型构建-->数据预处理-->运行配置-->执行训练D.数据预处理--

STRUGGLE_xlf·2023-10-27 15:57

【2023 · CANN训练营第一季】应用开发深入讲解① AscendCL概述

体系化学习AscendCL应用开发流程，目标为对昇腾CANN有初步了解并且可以基于昇腾CANN独立开发一个CV类图片应用。

梦中の象牙塔·2023-10-27 15:57

【2023 · CANN训练营第一季】应用开发深入讲解④ 模型转换（ATC工具）

体系化学习AscendCL应用，目标为对昇腾CANN有初步了解并且可以基于昇腾CANN独立开发一个CV类图片应用。

梦中の象牙塔·2023-10-27 15:57

【MindStudio训练营第一季】新手入门-MindStudio使用的第一步——开发环境配置

文章目录前言一、MindStudio的下载二、CANN的配置前准备1.弹性云服务器的配置2.下载MobaXterm3.在MobaXterm创建SSH三、CANN的配置四、配置完成总结前言最近了解到了MindStudio

Cyan2077·2023-10-27 15:13

【2023 · CANN训练营第一季】昇腾AI入门课（TensorFlow）学习笔记

什么是TensorflowTensorFlow是由GoogleBrain团队开发的开源机器学习框架，它在短时间内成为了广泛使用的深度学习框架之一。TensorFlow的核心是用于搭建图形计算模型的计算图，它提供了许多高级方法和工具用于优化和调试神经网络模型。TensorFlow可以部署在不同的平台和设备上，支持CPU和GPU等不同的计算硬件，并提供了为分布式计算而设计的分布式训练方法。由于其易于使

AICSDNU·2023-10-27 15:09

【2023CANN训练营第二季】——通过一份入门级算子开发代码了解Ascend C算子开发流程

本次博客讲解的代码是Gitee代码仓的AscendC加法算子开发代码，代码地址为：quick-start打开Add文件，可以看到文件结构如下：其中add_custom.cpp是算子开发的核心文件，包括了核函数的实现，展示了如何在Ascend平台上使用AscendC编写算子以及如何在CPU和NPU上运行算子。main.cpp的作用是用于调用名为add_custom的算子进行向量相加操作，根据定义的宏

STRUGGLE_xlf·2023-10-27 15:07

JSON parse error: Cannot deserialize instance of `com.xxx.controller.BatchReq` out of START_ARRAY

Cannotdeserializeinstanceofcom.hierway.ims.employee.controller.req.newReq.BatchReqoutofSTART_ARRAYtoken;nestedexceptioniscom.fasterxml.jackson.databind.exc.MismatchedInputException:Cann

hhtSeeTheWorld·2023-10-27 12:25

vue3.0运行npm run dev 报错Cannot find module node:url

的时候报错如下：failedtoloadconfigfromF:\code\testVue\vue-demo\vite.config.jserrorwhenstartingdevserver:Error:Cann

baorant在写代码·2023-10-26 00:46

华为昇腾NPU卡大模型LLM ChatGLM2模型推理使用

gitee.com/mindspore/mindformers/blob/dev/docs/model_cards/glm2.md#chatglm2-6b1、安装环境：昇腾NPU卡对应英伟达GPU卡，CANN

loong_XL·2023-10-25 07:37

【2023 · CANN训练营第一季】——Ascend C算子开发入门——第三次课

为了帮助开发者快速掌握这一新的技术，2023CANN训练营第一季同步开设了相关

大姚_54022960·2023-10-22 18:42

3天上手Ascend C编程 | Day3 Ascend C算子调试调优方法

本文分享自《【2023·CANN训练营第一季】——AscendC算子开发入门——第三次课》，作者：weixin_54022960。

昇腾CANN·2023-10-22 18:35

推荐频道