GPU并行

【JS】执行时长(100分) |思路参考+代码解析（C++）

题目为了充分发挥GPU算力，需要尽可能多的将任务交给GPU执行，现在有一个任务数组，数组元素表示在这1秒内新增的任务个数且每秒都有新增任务。
l939035548·2024-09-16 09:48

Faiss Tips：高效向量搜索与聚类的利器

它支持多种硬件平台，包括CPU和GPU，能够在海量数据集上实现快速的近似最近邻搜索（AN
焦习娜Samantha·2024-09-16 09:47

Python多线程实现大规模数据集高效转移

因此，通过多线程并行处理可以大幅提升数据传输效率。本文将分享一个基于Python多线程实现的高效数据传输工具，通过遍历源文件夹中的所有文件，将它们移动到目标文件夹。
sand&wich·2024-09-16 06:23

三者兼顾的一天

上午和宝贝做了一个寒假作息表，差点完美主义爆发，忍住没说，期待明天起6:45起床下午和冬青，达妈，陶苏一块讨论合作到7点，赶到荷花园大厦参加美乐家茶话会很接地气的分享，要好好珍惜每一天，正面管教传播和美乐家的推广并行
荣灿100·2024-09-16 03:16

2021-06-07 Do What You Are Meant To Do

smostimportanttoyouanddoeverythingyoucantoputyourselfinapositionwhereyoucanfocusonthosepriorities,ratherthanbeingpulledbyt
春生阁·2024-09-16 02:37

2021.10.25-2021.10.31一周计划

三、成长1、趁早学习：3个主题并行。
从21年9月11日起·2024-09-16 00:51

【前端】vue 报错:The template root requires exactly one element

这个错误通常出现在以下几种情况：模板中有多个并行
程序员-张师傅·2024-09-15 22:33

Go编程语言前景怎么样？参加培训好就业吗

Go语言专门针对多处理器系统应用程序的编程进行了优化，使用Go编译的程序可以媲美C或C++代码的速度，而且更加安全、支持并行进程。不仅可以开发web,可以开发底层，目前知乎就是用golang开发。
QFdongdong·2024-09-15 22:47

Fork/Join框架与ForkJoinPool

太大的子问题不利于通过并行方式来提高性能，而太小的子问题则会带来较大的额外开销。每个子问题计算完成后，可以得到关于整个问题的部分解。join操作的作用是把这些分解手机组织起来，得到完整解。
浪白条·2024-09-15 19:39

Python(PyTorch)和MATLAB及Rust和C++结构相似度指数测量导图

要点量化检查图像压缩质量低分辨率多光谱和高分辨率图像实现超分辨率分析图像质量图像索引/多尺度结构相似度指数和光谱角映射器及视觉信息保真度多种指标峰值信噪比和结构相似度指数测量结构相似性图像分类PNG和JPEG图像相似性近似算法图像压缩，视频压缩、端到端优化图像压缩、神经图像压缩、GPU
亚图跨际·2024-09-15 18:20

SQLite的入门级项目学习记录（二）

再补充一些基础知识：并行操作的问题1、可以多游标同时运行SQLite，对于同一个连接sqlite3.connect(db_file)，可以同时创建多个游标，每个游标都是独立的，可以执行各自的SQL命令序列
深蓝海拓·2024-09-15 16:38

Spark 组件 GraphX、Streaming

SparkStreaming2.1SparkStreaming的主要概念2.2示例代码2.3SparkStreaming的集成2.4SparkStreaming的应用场景SparkGraphX用于处理图和图并行计算
叶域·2024-09-15 14:54

深度学习-13-小语言模型之SmolLM的使用

文章附录1SmolLM概述1.1SmolLM简介1.2下载模型2运行2.1在CPU/GPU/多GPU上运行模型2.2使用torch.bfloat162.3通过位和字节的量化版本3应用示例4问题及解决4.1attention_mask
皮皮冰燃·2024-09-15 10:48

PIPE接口

的数据位宽2’b00：8bits（10bits）2’b01：16bits(20bits)2’b11:32bits(40bits)2’b11:保留(80bits)8/10b编码（128/130b编码）data并行数据
奥特曼升级打怪兽·2024-09-15 06:52

多线程相关面试题（2024大厂高频面试题系列）

1、聊一下并行和并发有什么区别？并发是同一时间应对多件事情的能力，多个线程轮流使用一个或多个CPU并行是同一时间动手做多件事情的能力，4核CPU同时执行4个线程2、说一下线程和进程的区别？
小橘子831·2024-09-15 06:51

Java多线程相关面试题整理

2.并行和并发的区别？3.创建线程的几种方式？Runnable接口和Callable接口的区别？run()方法和start()有什么区别？4.Java线程状态和方法？描述线程的生命周期？
长河落日袁同学·2024-09-15 06:21

【大模型】triton inference server

前言：tritoninferenceserver常用于大模型部署，可以采用http或GRPC调用，支持大部分的backend，单GPU、多GPU都可以支持，CPU也支持。
idiotyi·2024-09-15 05:47

windows C++-并行编程-PPL任务并行(二)

延续任务在异步编程中，一个异步操作在完成时调用另一个操作并将数据传递到其中的情况非常常见。传统上，这使用回调方法来完成。在并发运行时中，延续任务提供了同样的功能。延续任务(也简称为“延续”)是一个异步任务，由另一个任务(称为先行)在完成时调用。使用延续可以：将数据从前面的任务传递到延续；指定调用或不调用延续所依据的精确条件；在延续启动之前取消延续，或在延续正在运行时以协作方式取消延续；提供有关应如
sului·2024-09-14 23:33

windows C++-并行编程-并行算法(五) -选择排序算法

并行模式库(PPL)提供了对数据集合并行地执行工作的算法。这些算法类似于C++标准库提供的算法。并行算法由并发运行时中的现有功能组成。
sului·2024-09-14 21:17

windows C++ 并行编程-编写parallel_for 循环

示例：计算两个矩阵的乘积以下示例显示了matrix_multiply函数，可计算两个方阵的乘积。//Computestheproductoftwosquarematrices.voidmatrix_multiply(double**m1,double**m2,double**result,size_tsize){for(size_ti=0;i#include#include#includeusin
sului·2024-09-14 21:17

windows C++-并行编程-PPL任务并行(一)

在并发运行时中，任务是执行特定作业并通常与其他任务并行运行的工作单元。任务可以分解为组织成任务组的其他更细化的任务。编写异步代码，并希望在异步操作完成之后进行某种操作时，可使用任务。
sului·2024-09-14 21:17

从零开始学PostgreSQL (十三)：并行查询

目录概述1.并行查询的工作原理2.什么时候可以使用并行查询？
DBA实战·2024-09-14 20:36

Upstage 将发布新一代 LLM “Solar Pro “预览版

SolarPro是最智能的LLM，经过优化可在单GPU上运行，性能超过微软、Meta和谷歌等科技巨头的模型。
吴脑的键客·2024-09-14 14:31

使用vllIm部署大语言模型

-GPU支持：NVIDIAGPU并安装了适当的驱动程序。-足够的内存和存储空间。2.安装依赖-Python3.8及以上版本。-CUDA工具包（根据GPU型号选择合适的版本）。
添砖JAVA的小墨·2024-09-14 12:18

Java并发复习

面对复杂业务模型，并行程序串行会比程序更适应业务需求，而并发编程更能吻合这种业务拆分。->充分利用多核C
vd_vd·2024-09-14 11:12

大模型框架：vLLM

目录一、vLLM介绍二、安装vLLM2.1使用GPU进行安装2.2使用CPU进行安装2.3相关配置三、使用vLLM3.1离线推理3.2适配OpenAI-API的API服务一、vLLM介绍vLLM是伯克利大学
m0_37559973·2024-09-14 11:41

go 语言常见问题（4）

在语言层级支持并行操作。有垃圾处理器。内置字符串和maps。函数是go语言的最基本编程单位。
jzpfbpx·2024-09-14 07:47

天下苦英伟达久矣！PyTorch官方免CUDA加速推理，Triton时代要来？

在做大语言模型（LLM）的训练、微调和推理时，使用英伟达的GPU和CUDA是常见的做法。在更大的机器学习编程与计算范畴，同样严重依赖CUDA，使用它加速的机器学习模型可以实现更大的性能提升。
诗者才子酒中仙·2024-09-14 04:56

Unity3D GPUDriven渲染详解

前言Unity3D中的GPUDriven渲染技术是一种通过最大化GPU的利用，减少CPU负担，从而提高渲染效率和帧率的方法。
Thomas_YXQ·2024-09-14 03:17

1. 下载安装RKNN的docker镜像

下载镜像文件：网盘链接：https://console.zbox.filez.com/l/I00fc3密码：rknn下载最新的版本，当前最新版本2.1.0，（[[2024-09-01]]）：下载路径：GPU-Group01
jcfszxc·2024-09-13 18:55

【ShuQiHere】小白也能懂的 TensorFlow 和 PyTorch GPU 配置教程

【ShuQiHere】在深度学习中，GPU的使用对于加速模型训练至关重要。然而，对于许多刚刚入门的小白来说，如何在TensorFlow和PyTorch中指定使用GPU进行训练可能会感到困惑。
ShuQiHere·2024-09-13 15:08

项目实战 ---- 商用落地视频搜索系统（10）---后台搜索Cache优化

目录背景技术实现策略视频预处理阶段的cache技术视频搜索阶段的cache技术技术实现预处理阶段cache策略实现逻辑代码运行结果问题及注意点搜索阶段cache策略实现系统配置层面逻辑低版本GPUCPU
PhoenixAI8·2024-09-13 15:07

TensorFlow的基本概念以及使用场景

TensorFlow的主要特点包括：1.多平台支持：TensorFlow可以运行在多种硬件和操作系统上，包括CPU、GPU和移动设备。
张柏慈·2024-09-13 15:03

RTX 4090深度学习性能实测奉上！模型训练可提升60~80%

测试硬件配置简单介绍一下本次使用的平台为超微SYS-420GP-TNR，这款GPU系统针对AI和图形密集型工作负载的灵活设计，4U双处理器（第三代英特尔®至强®），双根GPU系统，最多10个P
赋创小助手·2024-09-13 14:26

深度学习的零碎知识点

显卡内存什么是显卡内存简单来说就是，Windows会在物理显存/「专用GPU内存」不够用或只有集成显卡的情况下，将物理内存RAM当作GPU的虚拟显存/「共享GPU内存」来使用。
csdn_now·2024-09-13 13:50

分布式离线计算—Spark—基础介绍

各种概念之间的关系Executor的优点Spark运行基本流程Spark运行架构的特点Spark的部署模式Spark三种部署方式Hadoop和Spark的统一部署摘要：Spark是基于内存计算的大数据并行计算框架
测试开发abbey·2024-09-13 11:11

15-HDMI TVS管SPICE仿真及性能分析

串行连接分电压，并行连接分电流。3)TVS的最大筘位电压咋应小于被保护电路的损坏电压。4)在规定的脉冲持续时间内，TvS的最大峰值脉冲功耗R必须大于被保护电路内可能出现
芯片SIPI设计·2024-09-13 09:59

HarmonyOS NEXT应用开发性能优化篇(一)

文章将性能优化分为四篇按照顺序(1.并行化、预加载和缓存2.布局嵌套层数3.管理状态变量4.系统接口)来介绍介绍应用开发过程中常见的一些性能问题，配合相关参考示例。
周星0927·2024-09-13 08:56

Kafka 实战 - Kafka分区和副本机制理解

目的：分区的主要目的是为了水平扩展和并行处
用心去追梦·2024-09-13 07:15

PCI/CPCI/PXI/PCIE/PXIE的区别

PCIPeripheralComponentInterconnect(外设部件互联标准)，是由外围部件互联专业组PCISIG推出的一种局部并行总线标准。
小腓腓·2024-09-13 04:50

python并发与并行（十一） ———— 让asyncio的事件循环保持畅通，以便进一步提升程序的响应能力

前一篇blog说明了怎样把采用线程所实现的项目逐步迁移到asyncio方案上面。迁移后的run_tasks协程，可以将多份输入文件通过tail_async协程正确地合并成一份输出文件。importasyncio#OnWindows,aProactorEventLoopcan'tbecreatedwithin#threadsbecauseittriestoregistersignalhandlers
bug404_·2024-09-13 03:17

GPU版pytorch安装

由于经常重装系统，导致电脑的环境需要经常重新配置，其中尤其是cudatorch比较难以安装，因此记录一下安装GPU版本torch的过程。
普通攻击往后拉·2024-09-13 03:13

人工智能-GPU版本机器学习、深度学习模型安装

背景1、在有Nvidia-GPU的情况下模型使用cuda加速计算，但是很有多模型的GPU和CPU版本安装方式不同，如何安装lgb\cat\xgb.2、为了让代码有普适性，如何自适应环境当中的设备进行CPU
bw876720687·2024-09-13 02:06

入门篇，带你了解CPU, GPU, TPU, NPU, DPU

目录CPU(中央处理器)GPU(图形处理器)TPU(张量处理单元)NPU(神经网络处理器)DPU(数据处理器)CPU(中央处理器)专业介绍：CPU是计算机系统的核心，负责执行操作系统和应用程序的指令。
今夕是何年，·2024-09-13 00:55

多道程序设计和分时

2.概念：在内存中同时存在多道作业，在管理程序的控制下“相互穿插运行”（交替运行）3.目的：提高cpu的利用率，充分发挥并行性。
yanlingyun0210·2024-09-12 20:03

学习node.js十三，文件的上传于下载

同时，分片上传还可以利用多个网络连接并行上传多个分片，提高上传速度断点续传：在上传过程中，如果网络中断或上传被中止，断点续传技术可以记录已成功上传的分片信息，以便在恢复上传时继续上传未完成的部分
涛涛酱10086·2024-09-12 20:31

LLM大模型学习：LLM大模型推理加速

文Mia/叶娇娇推理优化部署、推理加速技术是现在，尤其在大模型时代背景之下，消费级GPU和边端设备仍为主流的状况下。
七七Seven～·2024-09-12 17:45

鸿蒙（API 12 Beta6版）GPU加速引擎服务【自适应VRS】

XEngineKit提供自适应VRS功能，其通过合理分配画面的计算资源，视觉无损降低渲染频次，使不同的渲染图像使用不同的渲染速率，能够有效提高渲染性能。接口说明以下接口为自适应VRS设置接口，如要使用更丰富的设置和查询接口。接口名描述constGLubyte*HMS_XEG_GetString(GLenumname)XEngineGLES扩展特性查询接口。GL_APICALLvoidGL_APIE
移动开发技术栈·2024-09-12 16:38

ColumnParallelLinear 和 RowParallelLinear

ColumnParallelLinear和RowParallelLinear是两种并行线性层，它们的主要区别在于权重矩阵的分割方式和计算过程。
道真人·2024-09-12 15:28

SIMD（单指令多数据）指令集 简介

SIMD（SingleInstruction,MultipleData，单指令多数据）是一种并行处理技术，广泛应用于现代计算机处理器的架构中。
goTsHgo·2024-09-12 13:46
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他