CANN

Ascend C算子学习笔记

fid=0163125572293226003提交笔记链接：昇腾论坛香橙派实验手册：昇腾论坛AscendC算子中级认证考试链接：微认证异构计算架构CANN背景AI创新在加速：从“预测推断”向“内容生成”

张栗瑞-22373425·2024-09-06 05:50

【2024第一期CANN训练营】3、AscendCL运行时管理

文章目录【2024第一期CANN训练营】3、AscendCL运行时管理1.初始化与去初始化2.资源申请与释放2.1申请流程2.2释放流程2.3运行模式（可选）3.数据传输3.1接口调用流程3.2主要数据传输场景

一条大蟒蛇6666·2024-03-19 14:56

Ubuntu WSL Docker 踩坑记录：Cannot connect to the Docker daemon at unix:///var/run/docker.sock

最终解决方案:如果之前好好的,从来没有出过问题,也没有更新过什么东西,那么重启试试是一个非常可行的方法,记得重启的是DockerDesktop,直到踩坑过程：1.错误信息Cann

SoulOH·2024-02-03 19:52

【2023 · CANN训练营第一季】昇腾AI入门课（PyTorch）之模型迁移

昇腾AI入门课（PyTorch）之模型迁移将基于PyTorch的训练脚本迁移到昇腾AI处理器上进行训练，目前有以下3种方式：自动迁移（推荐）、工具迁移、手工迁移，且迁移前要保证该脚本能在GPU、CPU上运行。自动迁移：训练时，在训练脚本中导入脚本转换库，导入后执行训练。训练脚本在运行的同时，会自动将脚本中的CUDA接口替换为昇腾AI处理器支持的NPU接口。整体过程为：边训练边转换。工具迁移：训练前

A-Little-Boy·2024-01-24 04:47

Ubuntu20.04降低linux版本到5.4.0-26-generic

前言试用ubuntu20.04安装昇腾的驱动和cann的时，出现如下问题：(base)root@ubuntu:/home/work#.

大海里的猴儿·2024-01-17 15:13

910b上跑Chatglm3-6b进行流式输出【pytorch框架】

文章目录准备阶段避坑阶段添加代码结果展示准备阶段配套软件包Ascend-cann-toolkit和Ascend-cann-nnae适配昇腾的Pytorch适配昇腾的TorchvisionAdapter下载

内卷焦虑人士·2024-01-09 20:39

帝国cms问题

问题1登录后台遇到Cann'tconnecttoDB!解决方法：有可能是mysql服务意外关闭，去控制面板-管理工具-服务找mysql服务启动。

yjm2017·2024-01-08 19:19

Resolved [org.springframework.http.converter.HttpMessageNotReadableException: JSON parse error: Cann

使用POST请求@RequestBody传参，出错，这个错简单解释:不能反序列化类型为'java.lang.value'的值。Long'from对象值我们把Long改成Objec,看一下到底传的什么过来我们得到是{id=2}，其实我们只需要2，解决办法：办法1写一个request，专门来接收（建议用这个办法）测试结果解决办法2把object类型重新转换为JSON，再去获取元素解决办法3这个本身就是

Royalreairman·2024-01-02 16:26

昇腾910平台安装驱动、固件、CANN toolkit、pytorch

本文使用的昇腾910平台操作系统是openEuler，之前没了解过，不过暂时感觉用起来和centOS差不多。系统架构是ARM，安装包基本都是带aarch64字样，注意和x86_64区别开，别下错了。安装依赖cmake通过yum安装的cmake版本较老，需要源代码安装wgethttps://cmake.org/files/v3.21/cmake-3.21.3.tar.gztar-zxvfcmake-

weixin_36049506·2023-12-30 06:45

微服务注册与发现——Eureka

eureka实例为EurekaServer添加用户认证引入spring-security配置关闭security的csrf，否则client无法注册client注册Eureka自我保护模式常见问题1、Cann

star-1331·2023-12-27 07:00

【2023CANN训练营第二季】——Ascend C代码实操分享

1.实操题目：使用AscendC实现Addcdiv算子参考pytorch的Addcdiv算子，实现AscendC算子Addcdiv,算子命名为AddcdivCustom相关算法:out=x+y/z*value要求:1、完成Kernel侧实现代码和host侧调用算子代码，支持fp16类型输入2、完成AcInn方式调用编写好的算子3、根据提供的测试用例，使用aclnn方式调用验证通过，精度偏差小于1e

STRUGGLE_xlf·2023-12-26 06:25

【2023CANN训练营第二季】——Ascend C算子开发（进阶）微认证

1.微认证题目：参考tensorflow的Sinh算子，实现AscendC算子Sinh,算子命名为SinhCustom，并完成aclnn算子调用相关算法:sinh(x)=(exp(x)-exp(-x))/2.0要求:1、完成host侧和kernel侧代码实现。2、实现sinh功能，支持float16类型输入，使用内核调试符方式调用算子测试通过。3、使用单算子API调用方式调用SinhCustom算

STRUGGLE_xlf·2023-12-26 05:53

思腾云计算

在这AI的时代，数据几何式增长，高性能计算硬件呼之欲出，要服务各种场景下的计算需求，就得在高性能计算硬件和AI应用之间架起一座桥梁，CANN异步计算架构就是这座桥梁。

STGPU·2023-12-22 07:24

GAN （Generative Adversarial Network，GAN）生成式对抗网络

importwarningswarnings.filterwarnings("ignore")克隆仓库gitclonehttps://gitee.com/mindspore/models.gitcp-r~/CANN

irrationality·2023-12-04 10:42

Ascend C 算子开发遇到的问题及解决方法

首先如果在启智社区CANN版本为6.3，要进行AscendC算子开发，需要更新CANN版本。

STRUGGLE_xlf·2023-12-01 14:22

【2023CANN训练营第二季】——Ascend C自定义算子工程介绍及实验

CANN软件包中提供了工程创建工具msopgen，开发者可以输入算子原型定义文件生成AscendC算子开发工程。

STRUGGLE_xlf·2023-12-01 14:21

【2023CANN训练营第二季】——Ascend C算子调用及实验演示

自定义算子调用方式完成自定义算子的开发部署后，可以通过单算子调用的方式来验证单算子的功能。单算子调用有API执行和模型执行两种方式：单算子API执行：基于C语言的API执行算子，无需提供单算子描述文件进行离线模型的转换，直接调用单算子API接口。单算子模型执行：基于图IR执行算子，先编译算子（例如，使用ATC工具将AscendIR定义的单算子描述文件编译成算子om模型文件），再调用AscendCL

STRUGGLE_xlf·2023-12-01 14:19

MindStudio学习一整体介绍

采用无昇腾硬件采用linux分部署2.WINDOWS3.linux下安装整体步骤3.1安装依赖3.2安装步骤1.gcccmake等依赖2.python3.7.53.pip安装依赖4.安装JDK5.安装Ascend-cann-toolkit6

深耕半夜·2023-11-25 00:05

华为云AI加速型(昇腾Ascend310)Ubuntu18.04系统下使用msame模型推理工具

文章目录弹性云服务器ECS信息更新Ascend310驱动更新CANN开发环境下载并编译msame模型推理工具下载googlenet模型进行空数据推理参考来源弹性云服务器ECS信息规格：AI加速型|ai1s.large

Alderaan·2023-11-17 09:44

cnpm下载、cnpm不存在处理、yarn安装

cnpm安装问题1.Error:Cann

sir.山·2023-11-16 12:40

基于昇腾CANN的推理应用开发快速体验（Python)

0.前情提要这是关于一次Ascend在线实验的记录，主要内容是通过网络模型加载、推理、结果输出的部署全流程展示，从而快速熟悉并掌握ACL（AscendComputingLanguage）基本开发流程。注意，为了保证学习和体验效果，用户应该具有以下知识储备：1.熟练的Python语言编程能力2.深度学习基础知识，理解神经网络模型输入输出数据结构1.目录2.最终目标1.了解ACL的基本概念，清楚ACL

Tianyi Li 1997·2023-11-14 08:32

华为云Ascend310服务器使用

使用华为云服务器cpu:16vCPUsKunpeng920内存：16GiBgpu：'4*HUAWEIAscend310cann:20.1.rc1操作系统：Ubuntuaarch64目的使用该服务器进行docker

廖泽松·2023-11-11 08:18

【2023 · CANN训练营第一季】应用开发深入讲解之DVPP

应用开发深入讲解之DVPP1.基本概念昇腾Al处理器内置图像处理单元DVPP(DigitalVideoPre-Processor)，提供强大的媒体处理硬加速能力。主要功能模块有：2.常见接口a.内存申请与释放b.通道创建与释放c.图片描述信息创建与销毁d.图片描述参数设置3.JPEGD图片解码4.VPC视觉预处理

A-Little-Boy·2023-11-08 22:30

昇腾CANN 7.0 黑科技：大模型推理部署技术解密

CANN作为最接近昇腾AI系列硬件产品的一层，通过软硬件联合设计，打造出适合昇腾AI处理器的软件架构，充分使能和释放昇腾硬件的澎湃算力。

昇腾CANN·2023-11-08 22:18

昇腾CANN 7.0 黑科技：DVPP硬件加速训练数据预处理，友好解决Host CPU预处理瓶颈

在NPU/GPU上进行模型训练计算，为了充分使用计算资源，一般采用批量数据处理方式，因此一般情况下为提升整体吞吐率，batch值会设置的比较大，常见的batch数为256/512，这样一来，对数据预处理处理速度要求就会比较高。对于AI框架来说，常见的应对方式是采用多个CPU进程并发处理，比如PyTorch框架的torchvision就支持多进程并发，使用多个CPU进程来进行数据预处理，以满足与NP

昇腾CANN·2023-11-08 22:12

基于CANN的辅助驾驶AI实战案例，轻松搞定车辆检测和车距计算！

引言科幻片中光怪陆离的飞行器，寄托着人类对未来出行的无限遐想。随着科技的进步，能够自动驾驶的汽车，已经离我们越来越近。自动驾驶带给人类的惊喜不止是酷炫的自动超车变道，还有它在缓解交通阻塞、减少空气污染、提高道路安全性方面的种种可能性。因此也引得无数汽车企业、科技企业竞相加入这条行业赛道，力求不断突破。然而，自动驾驶并不是一蹴而就的，由于技术瓶颈和相关法律法规的限制并未真正意义落地，当下的智能汽车正

昇腾CANN·2023-11-08 15:37

【2023 - CANN训练营第二季】 -- Ascend C(1)

CANN训练营第二季--AscendC(1)入门1.基本概念1.1AscendC什么是AscendC？

不是白喵·2023-10-27 16:35

【2023 · CANN训练营第一季】——Ascend C算子沙箱实验

前言：CANN训练营的AscendC算子课程，以在线课程的方式提供了一个沙箱实验环境。

大姚_54022960·2023-10-27 16:05

【2023 · CANN训练营第一季】——学习优化-01跟着视频学CANN

2023年，CANN训练营已经进入第三个年头，2021年和2022年共举办了七期训练营，留下了丰富的学习视频。这些往期的视频回放存在B站的“昇腾Ascend”，更早期的视频在B站“起飞的老谭”上。

大姚_54022960·2023-10-27 16:05

【2023 · CANN训练营第一季】昇腾AI入门课（TensorFlow）微认证考试

1、下面哪个AI框架开发模型可以不用适配，直接在昇腾AI处理器上进行训练？A.PyTorchB.CaffeC.MindsporeD.TensorflowC2、使用Estimator进行脚本训练开发的一般步骤为（A）A.数据预处理-->模型构建-->运行配置-->执行训练B.运行配置-->模型构建-->数据预处理-->执行训练C.模型构建-->数据预处理-->运行配置-->执行训练D.数据预处理--

STRUGGLE_xlf·2023-10-27 15:57

【2023 · CANN训练营第一季】应用开发深入讲解① AscendCL概述

体系化学习AscendCL应用开发流程，目标为对昇腾CANN有初步了解并且可以基于昇腾CANN独立开发一个CV类图片应用。

梦中の象牙塔·2023-10-27 15:57

【2023 · CANN训练营第一季】应用开发深入讲解④ 模型转换（ATC工具）

体系化学习AscendCL应用，目标为对昇腾CANN有初步了解并且可以基于昇腾CANN独立开发一个CV类图片应用。

梦中の象牙塔·2023-10-27 15:57

【MindStudio训练营第一季】新手入门-MindStudio使用的第一步——开发环境配置

文章目录前言一、MindStudio的下载二、CANN的配置前准备1.弹性云服务器的配置2.下载MobaXterm3.在MobaXterm创建SSH三、CANN的配置四、配置完成总结前言最近了解到了MindStudio

Cyan2077·2023-10-27 15:13

【2023 · CANN训练营第一季】昇腾AI入门课（TensorFlow）学习笔记

什么是TensorflowTensorFlow是由GoogleBrain团队开发的开源机器学习框架，它在短时间内成为了广泛使用的深度学习框架之一。TensorFlow的核心是用于搭建图形计算模型的计算图，它提供了许多高级方法和工具用于优化和调试神经网络模型。TensorFlow可以部署在不同的平台和设备上，支持CPU和GPU等不同的计算硬件，并提供了为分布式计算而设计的分布式训练方法。由于其易于使

AICSDNU·2023-10-27 15:09

【2023CANN训练营第二季】——通过一份入门级算子开发代码了解Ascend C算子开发流程

本次博客讲解的代码是Gitee代码仓的AscendC加法算子开发代码，代码地址为：quick-start打开Add文件，可以看到文件结构如下：其中add_custom.cpp是算子开发的核心文件，包括了核函数的实现，展示了如何在Ascend平台上使用AscendC编写算子以及如何在CPU和NPU上运行算子。main.cpp的作用是用于调用名为add_custom的算子进行向量相加操作，根据定义的宏

STRUGGLE_xlf·2023-10-27 15:07

JSON parse error: Cannot deserialize instance of `com.xxx.controller.BatchReq` out of START_ARRAY

Cannotdeserializeinstanceofcom.hierway.ims.employee.controller.req.newReq.BatchReqoutofSTART_ARRAYtoken;nestedexceptioniscom.fasterxml.jackson.databind.exc.MismatchedInputException:Cann

hhtSeeTheWorld·2023-10-27 12:25

vue3.0运行npm run dev 报错Cannot find module node:url

的时候报错如下：failedtoloadconfigfromF:\code\testVue\vue-demo\vite.config.jserrorwhenstartingdevserver:Error:Cann

baorant在写代码·2023-10-26 00:46

华为昇腾NPU卡大模型LLM ChatGLM2模型推理使用

gitee.com/mindspore/mindformers/blob/dev/docs/model_cards/glm2.md#chatglm2-6b1、安装环境：昇腾NPU卡对应英伟达GPU卡，CANN

loong_XL·2023-10-25 07:37

【2023 · CANN训练营第一季】——Ascend C算子开发入门——第三次课

为了帮助开发者快速掌握这一新的技术，2023CANN训练营第一季同步开设了相关

大姚_54022960·2023-10-22 18:42

3天上手Ascend C编程 | Day3 Ascend C算子调试调优方法

本文分享自《【2023·CANN训练营第一季】——AscendC算子开发入门——第三次课》，作者：weixin_54022960。

昇腾CANN·2023-10-22 18:35

昇腾Ascend TIK自定义算子开发教程（概念版）

一、参考资料【2023·CANN训练营第一季】AscendC算子开发入门（中）二、重要说明TIK2编程范式把算子核内的处理程序，分成多个流水任务，任务之间通过队列（Queue）进行通信和同步，并通过统一的内存管理模块

花花少年·2023-10-22 18:04

【2023 · CANN训练营第一季】Ascend C算子开发入门（下）

1.课程简介第三章AscendC(旧名TIKC++)算子开发及验证课程地址https://www.hiascend.com/zh/developer/courses/detail/1627494761683783682课程视频https://space.bilibili.com/1190614918/channel/collectiondetail?sid=1201995TIK2文档https:/

cftang9999·2023-10-22 18:33

【2023 · CANN训练营第一季】- Ascend C 新算子入门专项讲解

本课程以矢量编程Add算子为例，对AscendC(旧名TIKC++)的使用进行详细讲解，并讲解sqrt单目算子的改写步骤视频地址https://www.bilibili.com/video/BV1Lh4y1b7Fz/?spm_id_from=333.999.0.0&vd_source=fab7ab33e37b07e028e35048a6ab7634pdf文档下载：TIK2算子开发https://w

cftang9999·2023-10-22 18:33

【2023 · CANN训练营第一季】Ascend C算子开发入门（中）

1.课程简介课程地址第二章AscendC(旧名TIKC++)算子编程范式及算子实现https://www.hiascend.com/zh/developer/courses/detail/1627494761683783682课程视频https://space.bilibili.com/1190614918/channel/collectiondetail?sid=1201995TIK2文档htt

cftang9999·2023-10-22 18:32

【2023 · CANN训练营第一季】Ascend C算子开发入门（上）

1.课程简介课程地址第一章AscendC(旧名TIKC++)算子开发入门https://www.hiascend.com/zh/developer/courses/detail/1627494761683783682课程视频https://space.bilibili.com/1190614918/channel/collectiondetail?sid=1201995TIK2文档https://