GPU程序设计第2页

LLM大模型学习：LLM大模型推理加速

文Mia/叶娇娇推理优化部署、推理加速技术是现在，尤其在大模型时代背景之下，消费级GPU和边端设备仍为主流的状况下。

七七Seven～·2024-09-12 17:45

鸿蒙（API 12 Beta6版）GPU加速引擎服务【自适应VRS】

XEngineKit提供自适应VRS功能，其通过合理分配画面的计算资源，视觉无损降低渲染频次，使不同的渲染图像使用不同的渲染速率，能够有效提高渲染性能。接口说明以下接口为自适应VRS设置接口，如要使用更丰富的设置和查询接口。接口名描述constGLubyte*HMS_XEG_GetString(GLenumname)XEngineGLES扩展特性查询接口。GL_APICALLvoidGL_APIE

移动开发技术栈·2024-09-12 16:38

大语言模型应用指南：长期记忆

大语言模型应用指南：长期记忆作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来随着人工智能领域的快速发展，大语言模型因其强大的语言生成和理解能力而受到广泛关注

AI大模型应用之禅·2024-09-12 16:05

c++ 单例模式

文章目录什么是单例模式实际案例单例模式实现步骤懒汉式饿汉式单例模式优缺点什么是单例模式单例模式（SingletonPattern）是一种常用的程序设计模式，属于创建型设计模式的一种。

吃个糖糖·2024-09-12 10:58

python程序中缩进有利于程序代码的可读性_大学计算机D（重修课堂）-中国大学mooc-题库零氪...

第1章Python程序设计概述单元测验11、下列选项中，不属于Python语言特点的是A、面向对象B、运行效率高C、可读性好D、开源2、以下叙述正确的是A、Python3.x和Python2.x兼容B、

weixin_39789094·2024-09-12 08:47

安装tensorflow2.5.0 发现 tensorflow 和 numba 两者对应Numpy版本冲突

问题：python3.8安装tensorflow2.5.0发现tensorflow和numba两者对应Numpy版本冲突tensorflow-gpu2.5.0requiresnumpy~=1.19.2numba0.58.1requiresnumpy

GJK_·2024-09-12 08:16

实验七基于Arduino的超声波传感器测距和LCD显示数据实验

目录7.1实验题目7.2实验目的7.3实验原理7.4实验步骤7.5实验仪器7.6电路设计7.7程序设计7.8实验总结B站搜索：Wm锰7.1实验题目本次实验题目为：基于Arduino的超声波传感器测距和LCD

B站_Wm锰·2024-09-12 06:08

本地部署大语言模型详细讲解

前言：本地部署大语言模型（LLM，LargeLanguageModel）需要相应的硬件资源和技术栈支持，如GPU计算能力、大量内存、存储空间，以及模型部署框架。

程序员小羊！·2024-09-12 04:25

信号和槽介绍、使用方式

GUI程序设计的主要工作就是对界面上各组件的信号进行响应，只需要知道什么时候发射哪些信号，合理的去响应和处理这些信号就可以了。槽(slot)是对信号进行响应的函数。槽就是函数，所

无_欲·2024-09-12 00:19

c语言注册回调函数主要用途,C语言回调函数的概念及其应用

笔者能力有限，如果文中有错误的地方，欢迎各位朋友给我及时地指出来，我将不甚感激，谢谢~概念引用维基百科上的关于回调函数的概念:在计算机程序设计中，回调函数，或简称回调(Callback即callthenback

网络先驱·2024-09-11 21:30

验证resneXt，densenet，mobilenet和SENet的特色结构

实验结果GPU：gtx107

dfj77477·2024-09-11 20:55

Yolo-v3利用GPU训练make时发生错误：/usr/bin/ld: cannot find -lcuda

一.利用GPU训练Yolov3时，首先要修改MakeFile文件，修改格式如下：GPU=1(原来为0)CUDNN=1(原来为0)NVCC=/usr/local/cuda/bin/nvcc(新建,注意自己本机的地址

徐小妞66666·2024-09-11 20:58

从零开始学习黑客技术，看这一篇就够了

黑客源自英文hacker一词，最初曾指热心于计算机技术、水平高超的电脑高手，尤其是程序设计人员，逐渐区分为白帽、灰帽、黑帽等。其中，白帽黑客被称为道德黑客。

网络安全-旭师兄·2024-09-11 16:25

【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)

cuda==10.2cudnn==8.0.3onnxruntime-gpu==1.5.0or1.6.0pipinstallonnxruntime-gpu==1.6.0###2.2方法二：onnxruntime-gpu

2401_83703835·2024-09-11 13:36

linux查看jupyter运行,在Linux服务器上运行Jupyter notebook server教程

但只在本地运行没有GPU环境，虽然googlecolab是个好办法，但发现保存模型后在云端找不到模型文件，且需要合理上网才能访问。

天启大烁哥·2024-09-11 10:15

2021-04-13

对程序设计可能没什莫智慧，但是这些修修补补，添加零件，知道他的结构后，让设计

等我攒够六便士_就去找月亮·2024-09-11 08:21

智能指针的原理、使用和实现

1，智能指针的作用C++程序设计中使用堆内存是非常频繁的操作，堆内存的申请和释放都由程序员自己管理。

哎呦，帅小伙哦·2024-09-11 07:53

【笔试题汇总】华为春招笔试题题解 2024-3-20

这里是paoxiaomo，一个现役ACMer，之后将会持续更新算法笔记系列以及笔试题题解系列本文章面向想打ICPC/蓝桥杯/天梯赛等程序设计竞赛，以及各个大厂笔试的选手感谢大家的订阅➕和喜欢有什么想看的算法专题可以私信博主

PXM的算法星球·2024-09-11 03:51

ONNX Runtime、CUDA、cuDNN、TensorRT版本对应

、cuDNN的版本对应ONNXRuntime与ONNX的版本对应ONNXRuntime、TensorRT、CUDA版本对应ONNXRuntime的安装官方文档注意，到目前为止，onnxruntime-gpu

可keke·2024-09-10 22:45

ONNXRuntime与CUDA版本对应

onnxruntime-gpu版本可以说是一个非常简单易用的框架，因为通常用pytorch训练的模型，在部署时，会首先转换成onnx，而onnxruntime和onnx又是有着同一个爸爸，无疑，在op的支持上肯定是最好的

zy_destiny·2024-09-10 22:15

算法设计与分析第一堂课笔记复习

算法与程序的区别：程序是算法用某种程序设计语言额具体实现的，可以不满足有限性。1.2算法的复杂性分析算法的复杂性分为**时间复杂性**和空间复杂性三种情况下的时间复杂性，可操作性最好最有实际价值的是

海海不掉头发·2024-09-10 17:09

Deepspeed 结合huggingface Trainer实现多机分布式训练

一、环境准备本试验使用两台机器（manager，worker），操作系统ubuntu22.4，每台机器有4个GPU为了使安装配置统一，使用docker容器，docker的安装这里不做介绍。

ningzhao·2024-09-10 17:38

大模型多机多卡脚本实例 - 增量预训练 -accelerate和deepspeed命令多机多卡训练有什么不同

第一步，同步权重ls-l/data/xxx/gpu008/MoeRemake/train/etuning/LLaMA-Factory2/models/xxx-Base-10B-200k-Llama第二步

AI生成曾小健·2024-09-10 16:33

python3ide_Python IDE Windows下载3.4.2 安装版

Python是一种面向对象、直译式计算机程序设计语言，也是一种功能强大而完善的通用型语言，已经具有十多年的发展历史，成熟且稳定。

weixin_39636099·2024-09-10 15:27

ray.tune文档总结

ray.tune文档总结tune.runconfig指定超参数的搜索方法ConcurrencyLimiter搜索算法scheduler试验调度程序分析资源（并行、GPU、分布式）原文档请看这里https

AI大司马·2024-09-10 14:48

从零开始设计一款全新GPU

（提纲：：）设计一款全新的GPU（图形处理单元）是一项复杂且多方面的工程工作，涉及到硬件架构、软件编程模型、性能优化、功耗管理等多个领域。以下是从零到一设计一款全新GPU的基本步骤和关键考虑因素。

jack_201316888·2024-09-10 13:15

AMD GCN GPU微架构简介

AMDGCN(GraphicsCoreNext)微架构介绍AMDGCN(GraphicsCoreNext)是AMD公司推出的一种用于图形处理单元（GPU）的微架构。

jack_201316888·2024-09-10 12:09

微机原理第七周笔记

5.7汇编语言程序设计举例汇编源程序的设计步骤分析问题，建立数学模型确定最佳算法合理分配存储单元和寄存器绘制流程图编写程序调试程序程序基本结构模块化设计方法✓“自顶向下，逐步细化”结构化编码方法✓顺序、

遥控老爷·2024-09-10 08:16

一些项目架构设计

本文章目录面向对象程序设计的主要原则1、单一职责原则(Single-ResponsibilityPrinciple)2、里氏代换原则(LiskovSubstitutionPrinciple)3、依赖倒置原则

想要追着光·2024-09-10 04:46

Visual Studio（VS）中使用OpenMP

一、OpenMP简介OpenMP是由OpenMPArchitectureReviewBoard牵头提出的，并已被广泛接受，用于共享内存并行系统的多处理器程序设计的一套指导性编译处理方案。

我叫柳云烟·2024-09-10 04:12

python视频课程打卡_从0到1！305万人学习！这个“神仙课程”你打卡了吗？

在北理工，有这样一门“神仙课程”一改你对编程的固有看法即便你是毫无基础的编程“小白”都能快速体会到编程带来的成就感《Python语言程序设计》课程由北京理工大学计算机学院嵩天教授团队研发是首批国家精品在线开放课程首批国家一流课程首届全国最美慕课一等奖唯一入选工科课程是国内慕课平台上所有慕课中选课人数最多的专业课程累计选课人数达

muyyyi·2024-09-10 00:08

Python语言程序设计入门-0.2

0.2.1课程内容概述课程内容设计-符合认知规律、快速入门、全体系内容-三部分：第一部分：快速入门（2）2个实例，基本语法元素第二部分：基础语法（5）五个方面基础语法全体系，10个实例第三部分：编程思维（2）方法学0.2.2渐进式体验1.快速入门week1.观察一段代码，学会编写和运行-感受风格-了解逻辑-理解每个词week2.python基本图形绘制，学会绘图进一步观察一段代码-感受风格-了解逻

孟德尔的小豌豆007·2024-09-09 22:48

AI 证件照制作工具：HivisionIDPhotos，CPU可运行！

而且最棒的是，它在普通的CPU上也能运行，完全不需要高性能的GPU支持！HivisionIDPhotosHivisionIDPhotos是什么？Hivis

学术Fun·2024-09-09 22:26

第九届中国大学生程序设计竞赛（秦皇岛）-（CCPC2023-Qinhuangdao F - 质数之谜(DP)

题意给定一个序列,修改最少数量的元素使得任意i属于[1,n-1],q[i]+q[i+1]都为质数,输出最小修改次数思路首先手玩的过程中可以发现,如果因为前面一个数字和自己相加不是质数然后我把自己变成了奇数,那么如果我后面一个数字是偶数可以发现自己肯定能找到另一个奇数使得和前面相加互质并且和后面相加也互质举个例子:假设为2810,我此时是8,我发现2+8不是质数把自己改为5,但是5+10不是质数,但

szy10010·2024-09-09 18:28

OSError: libnccl.so.2: cannot open shared object file: No such file or directory

linux安装完torch或者tensorflow的gpu版本，安装没问题，但是import就有问题，报错OSError:libnccl.so.2:cannotopensharedobjectfile:

王小葱鸭·2024-09-09 17:16

数据结构与c语言程序设计考研,2017年东北大学软件学院858C语言程序设计与数据结构考研题库...

一、填空题1．设有一个空找，栈顶指针为1000H(十六进制)，现有输入序列为1，2，3,4,5，经过PUSH，PUSH,POP,PUSH,POP，PUSH，PUSH之后，输出序列是_____，而栈顶指针值是_____。设栈为顺序栈，每个元素占4个字节。【答案】23;100CH2．在n个顶点的非空无向图中，最多有_____个连通分量。【答案】n【解析】当n个顶点之间没有边，都是孤立的顶点时，有n个连

weixin_39885803·2024-09-09 11:07

cpu运行gpu上的pytorch 报错:AssertionError:torch not compiled with cuda enabled——已解决

感觉今天介绍的这种方法可以解决所有这种报错出现的问题事件发生：报错：AssertionError:torchnotcompiledwithcudaenabled解决方法：后来看到这个代码parser.add_argument('--test_device',default="cuda:0",type=str,

霍格沃茨电气魔法师·2024-09-09 11:35

python语言和c语言c++的区别_c语言和c++区别大吗

一、主体不同1、C语言：是一门面向过程的、抽象化的通用程序设计语言，广泛应用于底层开发。

weixin_39844481·2024-09-09 06:04

Infiniband网络架构的技术与性能分析

集群算力优化的关键在于GPU利用率和线性加速比。其中，GPU利用率受限于

科技互联人生·2024-09-09 04:51

微服务架构

SOA（Service-OrientedArchitecture）即面向服务的架构，是一种软件架构风格，它通过将应用程序设计为一组相互独立的服务来实现

kang1919·2024-09-09 01:03

【车载智能座舱域控制器】-【测试】

目录一、座舱SOC芯片历程介绍1、注解：1.CPU（中央处理器）2.GPU（图形处理器）3.NPU（神经处理单元）2、具体应用示例3、性能指标的重要性二、智能座舱包含哪些功能三、智能座舱测试包括：四、智能座舱

@逝水流年轻染尘@·2024-09-09 01:56

【已解决】Halcon错误代码4104

结果如下图所示，正常在使用GPU训练。搞定，手工~

聪明不喝牛奶·2024-09-08 23:12

Rust：Restful API 服务程序开发详述

0.关于异步程序设计0.1对异步机制的理解运行效率对于后端程序来讲很重要。我曾经以为，多线程机制是后端设计的终极方法，后来才发现，异步机制才是榨干CPU运行效率资源的关键所在。

许野平·2024-09-08 22:35

10 自研rgbd相机基于rk3566之OPENCL加速库测试与开发

3opencl移植与调用：opencl加速库核函数编写1开发流程：2核函数编写接口函数定义如下：示例代码如下：opencl加速库示例代码opencl加速库介绍1OpenCL概念opencl是可以直接调用gpu

三十度角阳光的问候·2024-09-08 21:03

人工智能时代的程序设计教学与课程设计

声明：本文已经投稿至“2024年中国高校计算机教育大会”，并发表于微信公众号“于仕琪”，可以转载，但不可修改。作者：于仕琪，郑锋，廖琪梅，田蕾单位：南方科技大学计算机科学与工程系摘要：随着人工智能的兴起，学生对编程的热情逐渐从C/C++向Python迁移，对于计算机硬件体系结构的理解也呈现逐年下降的趋势。当前许多人工智能从业者做的是人工智能算法设计，但参与基础人工智能软件开发的相对较少。我们认为本

于仕琪（南科大）·2024-09-08 21:01

java高并发程序设计-锁的优化

如何提高锁的性能减少锁持有时间即对类似如下的方法publicsynchronizedvoidsync(){a();//其实只有b需要同步处理b();c();}改进为publicvoidsync(){a();synchronized(this){b();}c();}从而减少锁的持有时间减少锁粒度如ConcurrentHashMap内部分成若干个小的HashMap，每个HashMap加不同的锁读写分离

fantasyYan2·2024-09-08 18:11

【DeepSpeed 教程翻译】三，在 DeepSpeed 中使用 PyTorch Profiler做性能调试和Flops Profiler教程翻译

文章目录0x0.前言0x1.在DeepSpeed中使用PyTorchProfiler做性能调试Profile模型训练的循环标记任意代码范围ProfileCPU/GPU的活动Profile内存消耗0x2.

just_sort·2024-09-08 17:39

【Java程序设计竞赛常用知识点总结】

文章目录1数据类型2控制台的输入与输出2.1Scanner类2.2格式化输出2.3快读快写类3Math类4Calendar类5split()函数7switch语句8进制转换1数据类型Java是一门强类型语言，这就意味着我们在编程时，每一个变量都需要声明指定的类型。在Java中，有8种原始的数据类型，分为4类，分别是整型、浮点型、字符型以及布尔型。具体来说：整型（4种）：byte、int、short

-LightChaser-·2024-09-08 17:07

Vortex GPGPU的硬件代码分析（Cache篇3）

文章目录前言一、VX_cache.sv代码部分解读3——bank1.1bankrequestdispatch1.1.1解释VX_stream_xbar模块1.1.2解释VX_stream_arb模块1.1.3解释VX_generic_arbiter模块1.1.4解释VX_priority_arbiter模块1.1.5解释VX_rr_arbiter模块1.1.6解释VX_fair_arbiter模块

DentionY·2024-09-08 13:09

关于隐语架构概览的知识

包括但不限于CPU、GPU、内存以

m0_67966665·2024-09-08 11:25

推荐频道

GPU程序设计