mpi-并行运算

GCD (Grand Central Dispatch)

GCD的优势:苹果公司为多核的并行运算提出的解决方案会自动利用更多的CPU内核(比如双核,四核)自动管理线程的生命周期(创建线程,调度任务,销毁线程)只需要告诉GCD执行什么任务,不需要编写任何线程管理代码来告诉
高思阳·2023-03-09 11:48

Python Multiprocessing（多进程）

1.和threading的比较多进程Multiprocessing和多线程threading类似,他们都是在python中用来并行运算的.不过既然有了threading,为什么Python还要出一个multiprocessing
Sonhhxg_柒·2023-02-22 07:19

GCD的功能使用介绍

全称是GrandCentralDispatch纯C语言，提供了非常多强大的函数GCD的优势GCD是苹果公司为多核的并行运算提出的解决方案GCD会自动利用更多的CPU内核（比如双核、四核）GCD会自动管理线程的生命周期
我是晶锅·2023-02-19 07:37

FPGA与数字IC知识点（一）

通过编程，用户可以随时改变它的应用场景，它可以模拟CPU、GPU等硬件的各种并行运算。通过与目标硬件的高速接口互联，FPGA可以完成目标硬件运行效率比较低的部分，从而在系统层面实现加速。
dangdang爱章鱼·2023-02-06 10:11

如何在GPU上训练模型

如何在GPU上训练模型（基于CIFAR10数据集）准备工作模型训练模型测试GPU能够通过内部极多进程的并行运算，取得比CPU高一个数量级的运算速度。所以本文描述一下如何在GPU上训练模型。
Luwis-Coco·2023-02-05 17:48

数据分析-深度学习-神经网络

MLP)卷积神经网络（VGG/GoogleNet/AlexNet/ResNet）循环神经网络（RNN）自编码器（Autoencoder）生成对抗网络（GAN）前言近些年随着大规模高质量标注数据集的出现；并行运算的发展
ITLiu_JH·2023-02-02 12:45

AI硬件部署方案

计算能力GPU是为大规模的并行运算而优化；GPU上则更多的是运算单元(整数、浮点的乘加单元，特殊运算单元等等)；GPU往往拥有更大带宽的显存，因此在大吞吐量的应用中也会有很好的性能。
eq0284·2023-01-30 22:24

深度学习系列之CNN核心内容

同20年前相比，计算机硬件性能提升很多，有了实现处理大数据和并行运算的能力，deeplearning才被重新重视起来。这里，再重复一遍CNN的实质：CN
烧技湾·2023-01-30 08:14

iOS进阶之多线程--GCD

GCD简介GCD全称GrandCentralDispatch，可译为“牛逼的中枢调度系统”，是苹果公司为多核的并行运算提供的解决方案。
一个默默无闻的程序猿·2023-01-29 15:11

transformer原理及各领域应用分析

1.传统RNN网络的问题（1）串行结构，并行运算程度低，难以拓展为深层网络（2）基于词向量预测结果，无法考虑语境（3）预测结果时，只能考虑到上文，无法考虑到下文2.transformer整体架构（1）self-attentionattention
樱花的浪漫·2023-01-27 15:50

GCD-Grand Central Dispatch

全称是GrandCentralDispatch;纯C语言,提供了非常多强大的函数.GCD的优势:GCD是苹果公司为多核的并行运算提出的解决方法;GCD会自动利用更多的CPU内核(比如双核,四核);GCD
DarkArtist·2023-01-26 21:53

GCD 多线程

GCD（GrandCentralDispatch）优点：>1.利用多核进行并行运算>2.自动充分使用设备的CPU内核>3.自动管理线程的生命周期（线程创建、线程调度、线程销毁）两种任务（执行的block
可洋气的疼疼·2023-01-25 22:05

《PyTorch深度学习实践》-P7处理多维特征的输入

/diabetes_data和diebetes_target多维logistic回归模型（下标特征维度，上标样本）mini-batch（Nsamples）将运算向量化，变成矩阵，这样就可以利用GPU的并行运算能力
m0_60673782·2023-01-25 15:10

《PyTorch深度学习实践》Lecture_07 处理多维特征的输入 Multiple Dimension Input

处理多维特征的输入MultipleDimensionInput一、重点回顾（一）MultipleDimensionLogisticRegressionModel1.多维特征的逻辑回归模型（每个样本有8个特征）通过并行运算可以提高运算速度
　木夕敢敢·2023-01-25 15:36

1、numpy库介绍

他有以下几个特点：1、numpy内置了并行运算功能，当系统有多个核心时，做某种计算时，numpy会自动做并行计算。2、Numpy底层使用C语
算法程序员&mlh·2023-01-25 07:45

大数据-hadoop-MapReduce原理详解

MapReduce[1]是Google提出的一个软件架构，用于大规模数据集的并行运算。
像影子追着光梦游_·2023-01-24 20:26

AlexNet论文学习

2.适合的梯度下降函数（Relu）可以加速训练3.GPU并行运算更加迅速4.数据增广、批处理训练dropout、池化操作、LRN正则化可以减少过拟合摘要Alex小组训练了一个DCNN，由五个卷积层，一些
20220723开始学Java·2023-01-14 00:59

RuntimeError: NCCL error in：XXX，unhandled system error, NCCL version 2.7.8

项目场景：分布式训练中遇到这个问题，问题描述大概是没有启动并行运算？？？
LiBiGo·2023-01-13 11:53

mxnet深度学习(NDArray)

mxnet深度学习(NDArray)MXNet里面的3个主要的概念:NDArray：NDArray提供了矩阵和张量(tensor)运算在CPU和GPU上，通过使用并行运算的技术。
全栈大王·2023-01-13 11:53

『pytorch』Pytorch中的Distributed Data Parallel与混合精度训练（Apex）

三、大图景（Thebigpicture）四、最小例程与解释五、加上MultiProcessing六、使用Apex进行混合混合精度训练参考链接前言DataParallel并行运算时，各种原因导致单进程多卡的时候只有一张卡在进行运算在使用
libo-coder·2023-01-09 12:58

5.类神经网络训练不起来怎么办（二）：Batch、Momentum

EpochSmallBatchv.s.LargeBatchBatchsize=N所有资料看过一遍更新参数Batchsize=1每一个资料更新一次参数大的Batchsize不一定比小的更新参数的时间长Parallelcomputing：Gpu的并行运算
Shannnon_sun·2023-01-06 09:57

Hadoop MapReduce ETL数据清洗 | 案例实操

Hadoop中的MapReduce是一种编程模型，用于大规模数据集的并行运算下面的连接是我的MapReduce系列博客~配合食用效果更佳！
lesileqin·2022-12-31 10:21

Python 并行加速技巧分享

（譬如scikit-learn项框架中就大量使用joblib进行众多机器学习算法的并行加速），我们可以使用pipinstalljoblib对其进行安装，安装完成后，下面我们来学习一下joblib中有关并行运算的常用方法
Python无霸哥·2022-12-30 19:30

沐——《线性回归》

1、生成数据集2、读取数据集SGD：优势：利用了GPU并行运算的优势，处理合理大小的“小批量”。每个样本都可以并行的进行模型计
wuli念泽·2022-12-29 21:30

《PyTorch深度学习实践》学习笔记：处理多维特征的输入

转化的原因是向量化的运算可以利用计算机GPU/CPU的并行运算的能力来提高整个运算的速度。如果使用for循环来写这种运算，计算是相当慢
lizhuangabby·2022-12-29 03:57

tf.ConfigProto()详解

参数：参数作用log_device_placement是否打印设备分配日志inter_op_parallelism_threads设置线程一个操作内部并行运算的线程数，比如矩阵乘法，如果设置为０，
Jqlender·2022-12-23 06:42

11.3 GPU使用

一、CPU与GPU二、如何使用pytorch在CPU与GPU之间进行数据迁移三、CUDA包中常用的方法四、多GPU并行运算的机制五、GPU模型加载过程中的常见问题这节课来学习pytorch如何使用GPU
/home/liupc·2022-12-21 07:06

ViT代码解读

Transformer是一个基于注意力的模型，他不依靠卷积神经网络，相比RNN，他可以进行并行运算；相比CNN，计算两者的关系，不会受到距离的远近而增加计算的长度；同时自注意力可以产生更具可解释性的模型
m0_53384927·2022-12-16 08:03

pytorch学习（二十五）——从零实现多GPU训练

文章目录1.数据并行性2.从零开始实现多GPU训练2.1修改LenNet网络2.2数据同步2.3数据分发2.4数据训练3.简介实现多GPU并行运算4.总结参考李沐老师动手学深度学习V2（强烈推荐看看书）
留小星·2022-12-16 08:32

【使用mamba安装Fermipy】

Mamba是用于管理环境的CLI工具，相比于conda对包和环境的管理，mamba可以实现并行运算。
「已注销」·2022-12-15 23:09

conda加速器mamba使用

mamba是用于管理环境的CLI工具，相比于conda对包和环境的管理，mamba可以实现并行运算。
SD道法自然·2022-12-15 23:06

Ubuntu搭建深度学习开发环境(Pytorch Tensorflow GPU版本)

显卡驱动(Driver)|官网:显卡驱动下载CUDA(NVIDIAGPU的并行运算架构)|官网:CUDA下载cuDNN(NVIDIA打造的针对深度神经网络的GPU加速库)|官网:cuD
giant潘潘潘潘潘潘潘潘潘潘潘潘潘·2022-12-14 15:25

CUDA入门3.1——使用CUDA实现鱼眼转全景图（OpenCV环节）

3，通过CUDA并行运算实现鱼眼转全景图功能。本篇主要讲述OpenCV获取图片以及指针的使用，与CUDA无关。
薛大胖·2022-12-14 10:17

MapReduce 基本原理（MP用于分布式计算）

MapReduce文件系统：它是一种编程模型，用于大规模数据集（大于1TB）的并行运算。MapReduce将分为两个部分：Map（映射）和Reduce（归约）。
weixin_30340745·2022-12-12 11:40

【大数据/分布式】MapReduce学习-结合6.824课程

1.简介MapReduce用于大规模数据集（大于1TB）的并行运算。概念"Map（映射）“和"Reduce（归约）”，是它们的主要思想，都是从函数式编程语言里借来的，还有从矢量编程语言里借来的特性。
Tyfrank·2022-12-12 11:07

pytorch的多GPU训练的两种方式

他的过程是：分发->并行运算->结果回收。这就是pytorch
Mr_health·2022-12-12 04:24

Qt 并行运算高级API QtConcurrent

QtConcurrent模块扩展了QtCore模块中的基本线程支持，简化了可以在所有可用的CPU核心上并行执行的代码开发。一些常用API：ConcurrentMap和Map-ReduceQtConcurrent::map()：将一个函数应用于一个容器中的每一项，就地修改items。QtConcurrent::mapped()：和map()类似，只是它返回一个包含修改内容的新容器。QtConcurr
十年编程老舅·2022-12-10 07:07

分布式机器学习：同步并行SGD算法的实现与复杂度分析

1）对于计算量大的问题，分布式多机并行运算可以基本解决。
JavaMonsterr·2022-12-09 08:11

学习笔记Hadoop（十三）—— MapReduce开发入门（1）—— MapReduce开发环境搭建、MapReduce单词计数源码分析

一、MapReduceMapReduce是Google提出的一个软件架构，用于大规模数据集（大于1TB）的并行运算。
别呀·2022-12-04 16:57

xgboost java_08 集成学习 - XGBoost概述

注意：这里说可以并行构建模型，并不是说XGBoost建立的下一轮基模型不依赖于上一步的结果，而是指生成每个基模型的决策树时，能够快速进行并行运算，即加速了单个模型的运算。
晴-LQ·2022-12-01 16:02

YOLO V5 详解

YOLOV5BackboneSPPFSPP是使用了3个kernelsize不一样大的pooling并行运算。
leeyns·2022-12-01 04:59

李宏毅机器学习笔记-----Self-Attention

目录1.1self-attention-过程实现1.2Self-attention中的并行运算1.3Multi-headSelf-attention1.4PositionEncoding1.5Self-attentionforImage1.6Self-attentionvsCNN1.1self-attention
香菇炸酱面·2022-12-01 02:12

17.GPU的使用；PyTorch常见报错信息;小结

GPUtensor.to(*args,**kwargs)module.to(*args,**kwargs)小结数据迁移至GPUGPUinPyTorchtorch.cuda常用方法多gpu运算的分发并行机制多GPU并行运算
oldmao_2000·2022-12-01 01:40

Pytorch基础学习（第七章-Pytorch训练技巧）

模型断点续训练二、模型finetune1.TransferLearning＆ModelFinetune2.Pytorch中的Finetune三、GPU的使用1.CPU与GPU2.数据迁移至GPU3.多GPU并行运算四
Billie使劲学·2022-12-01 01:09

深度学习并行运算原理 以及 keras实现GPU并行

有多个GPU进行并行运算可以分为数据并行和模型并行模型并行：不同的GPU训练模型的不同部分，比较适合神经元活动比较丰富的计算。数据并行：不同的GPU训练不同的数据案例，比较适合权重矩阵比较多的计算。
_刘文凯_·2022-11-30 10:57

matlab用多核心gpu,Matlab高级教程_第二篇：Matlab相见恨晚的模块_02_并行运算-利用GPU并行执行MATLAB程序...

1MATLAB原文：如果所有你想使用的函数支持GPU，你能够使用gpuArray把输入的数据传输到GPU，也能够唤起gather命令把传输值GPU的数据回收。2通过gpuDevice命令观察当前电脑的GPU设备>>gpuDeviceans=CUDADevice(具有属性):Name:'GeForceGT430'%GPU设备的型号Index:1%当前GPU设备的编号ComputeCapability
weixin_39849800·2022-11-28 12:55

numpy库的一些解释

有以下几个特点:1.numpy内置了并行运算功能，当系统有多个核心时，做某种计算时，numpy会自动做并行计算。2.Numpy底层使用C语言编写，其对数组的操作速度不受Pyt
雕刻鏃风·2022-11-24 19:51

通过浪潮AIStation实现细粒度高性能的GPU资源共享

GPU在大规模并行运算上具有巨大优势，为大数据、人工智能训练和推理任务以及图像渲染等场景提供了显著的计算性能加速支持，但在实际使用中会产生资源管理困难、利用率低等问题。
CSDN云计算·2022-11-24 14:35

怎么用显卡计算_初试CUDA，入门显卡实现两千倍加速

众所周知，Nvidia的CUDA计算平台可以实现数量惊人的并行运算，因此受各个流行的机器学习框架青睐。为了尝试人工智能，我最近组装了一台机器，配备了一块入门级的GeForceGTX1060显卡。
weixin_39773817·2022-11-22 10:15

李宏毅机器学习笔记二

高级优化方法不需要自己设置学习速率如果有100个batch，1个epoch就更新参数100次可以看出，batch_size为1和为10，参数更新速度是一样的(相同时间下，都用166s),这是由于vectorization带来的加速，并行运算
niuyoudao·2022-11-15 17:44
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他