CUDA内存模型

将pytorch中变量的梯度为 nan 的替换成 1 还是 0？

替换成0，则变量保持不动0:xtensor([1.0000,2.0000,3.0000,4.5000],device='cuda:0',requires_grad=True)0:xtensor([1.0000,2.0000,3.0000,4.5000
培之·2024-02-20 06:25

C/C++/Cuda不依赖任何三方库求解3x3矩阵的特征值和特征向量

/适用于C/C++下载dsyevv3-C-1.1.tar.gz采用LGPL协议，不适合商业开发https://github.com/PointCloudLibrary/pcl/blob/master/cuda
OTZ_2333·2024-02-20 03:34

《C++ Primer Plus》:内存模型和名称空间

本章内容概览单独编译存储持续性、作用域和连接性定位new运算符名称空间单独编译C++鼓励程序员将组件函数放到独立的文件中，可以单独编译这些文件，然后将它们链接成可执行的程序。我们可以将许多东西放在头文件中，然后再源代码文件中包含这些头文件，头文件常包含以下内容：函数原型使用#define或const定义的符号常量结构声明类声明模板声明内联函数同一个文件只能包含一个头文件一次，不过大部分时候无法避免
Dragon_boy·2024-02-20 03:25

GPU，CUDA，cuDNN的理解

我们知道做深度学习离不开GPU，不过一直以来对GPU和CPU的差别，CUDA以及cuDNN都不是很了解，所以找了些资料整理下，希望不仅可以帮助自己理解，也能够帮助到其他人理解。
达微·2024-02-20 00:58

AI芯片技术架构有哪些？FPGA芯片定义及结构分析

GPU架构采用多个计算单元（CUDA核心）进行并行计算，能够高效地执行浮点运算和矩阵计算。NVIDIA的Tens
Hack电子·2024-02-20 00:43

Java多线程系列——内存模型JMM

目录核心思想关键概念1.可见性2.原子性3.有序性工作原理并发工具类对并发编程的影响同步策略JMM的实践意义结语Java内存模型（JavaMemoryModel,JMM）是Java并发编程中的核心概念，
飞影铠甲·2024-02-19 23:00

英伟达（NVIDIA）和CUDA

英伟达（NVIDIA）是一家知名的图形处理器（GPU）制造公司，而CUDA则是NVIDIA推出的一种并行计算架构和编程模型。
小米人er·2024-02-19 20:57

公司网站服务器内存多大合适,一般服务器内存多大合适

虚拟机栈存储的时Java方法执行的线程内存模型，每一个方法被调用到执行完毕的过程，就对应一个本场景一般采用均衡计算型
凌溪每天哈哈哈·2024-02-19 18:55

一般服务器显示闪存多少合适,现在服务器一般内存多大合适

虚拟机栈存储的时Java方法执行的线程内存模型，每一个方法被调用到执行完毕的过程，就对应一个在性能优化时，需要遵
weixin_39785286·2024-02-19 18:55

深度学习环境配置常见指令

__version__检查cuda是否可用torch.cuda.is_available()获取CUDA设备数torch.cuda.device_count()获
牛哥带你学代码·2024-02-19 15:22

JVM内存模型

主内存、工作内存一条线程对应一个工作内存（专属高速缓冲）多个工作内存对应一个主内存通常情况下，主内存就是JavaHeap，工作内存即虚拟机栈工作内存是主内存的数据的拷贝工作内存与主内存的交互是有一套规定的，有一套函数线程不会直接从主内存中获取数据，而是从自己的工作内存中拿数据，拿不到就从主内存中加载到工作内存，在从工作内存中获取Volatile想当年这东西可是背过的，但是又何曾理解他到底是干嘛的呢
小吉快跑呀·2024-02-19 15:34

OlMo--doc文件阅读

condacreate-y-nLLMpython=3.10ipythoncondaactivateLLMcondainstall-ypytorchtorchvisiontorchaudiopytorch-cuda
瓶子好亮·2024-02-19 15:47

Windows11(非WSL)安装Installing llama-cpp-python with GPU Support

1.安装CUDAToolkit(NVIDIACUDAToolkit(availableathttps://developer.nvidia.com/cuda-downloads)2.安装如下物件：gitpythoncmakeVisualStudioCommunity
aiXpert·2024-02-19 14:30

《深入理解Java虚拟机》（三）--Java内存模型与线程（1）

Java内存模型Java的内存模型屏蔽掉了各种硬件和操作系统的内存访问差异，实现了Java跨平台的效果，C/C++语言使用的是物理硬件和操作系统的内存模型，所以不能实现跨平台。
蓝色_fea0·2024-02-19 13:18

【安装pytorch】

问题描述提示：这里描述项目中遇到的问题：安装pytorch官网https://pytorch.org/详细看官方提供的手册安装时选择cuda11.8的版本（与电脑安装的驱动版本一致，需要提前安装好驱动）
Winner1300·2024-02-15 10:34

paddlepaddle 2.6版本在WSL2环境中如何使用NVIDIA显卡运行神经网络

paddlepaddle2.6版本发布后，官网上可以使用NVIDIAcuda12.x进行机器学习了，训练神经网络的效率大为提升。
kampoo·2024-02-15 09:47

JVM内存模型和内存溢出

文章目录概念抽象模型模型通信的实现JVM内存程序计数器虚拟机栈本地方法栈堆方法区运行时常量池直接内存JAVA对象创建布局访问OutOfMemoryError异常内存相关参数硬件内存模型参考概念JMM，JavaMemoryModel
娟宝宝萌萌哒·2024-02-15 08:47

cuBLAS Level-1 Function

仅为学习记录，具体内容请以nvidia官方文档为准：https://docs.nvidia.com/cuda/cublas/index.html#cublas-level-1-function-reference
Junr_0926·2024-02-15 04:17

[ubuntu]ubuntu如何查看已安装cudnn版本

cudnn由于在8.0版本前后版本存储头文件不一样，所以需要分情况查询，如果你是8.0版本以前可以输入：cat/usr/local/cuda/include/cudnn.h|grepCUDNN_MAJOR-A2
FL1623863129·2024-02-15 02:10

多机多卡运行nccl-tests和channel获取

openmpi3.单机测试4.多机测试mpirun多机多进程多节点运行nccl-testschannel获取环境Ubuntu22.04.3LTS(GNU/Linux5.15.0-91-genericx86_64)cuda11.8
Pretend ^^·2024-02-15 02:03

Java - JVM内存模型 3分钟教你成为JVM的尖子生

在很久很久以前，也就是1992年3月份，有一所NB轰轰的咖啡学校诞生了，它的名字叫JAVA，学校的校规极其的厉害，普通学生闻风丧胆，唯一尖子生般的人才能留下来，别猜了那人就是"你"。本色出演名单姓名别名简称学校JavaVirtualMachineJVM教室堆空间Heap老师垃圾回收器MinorGC/MajorGC学生数据Object学校平面图俗名使用权限简称Metaspace教室学生会,校长专用M
大猪大猪·2024-02-15 01:33

JVM内存模型

Java虚拟机（JVM）内存模型是Java运行时数据区的一种规范，它定义了Java虚拟机在执行Java程序时如何使用内存。
我就是胖着玩玩的·2024-02-14 21:12

cuda。

CUDA是由NVIDIA推出的通用并行计算架构，它允许开发人员利用NVIDIA的GPU进行高效的计算。
小小娱乐·2024-02-14 18:14

Pytorch环境详细安装教程【Win10+CUDA11.6+cudNN8.6+Anaconda3虚拟环境+pycharm】

Win10+CUDA11.6+cudNN8.6的安装可参考笔者另一篇文章：http://t.csdnimg.cn/inyAiAnaconda创建pytorch虚拟环境1、安装AnacondaCSDN中有很多
写点什么呢·2024-02-14 17:31

Win10 GTX1650 安装CUDA11.6+CuDnn-8.6

打开自己电脑的任务管理器，查看自己电脑的显卡版本，如下图，笔者的为GTX1650流程:anaconda----VisualStudio2019----Cuda+CuDNN----配置环境变量----Tensorflow
写点什么呢·2024-02-14 17:01

博客摘录「 Could not locate zlibwapi.dll. Please make sure it is in your library path」2023年11月8日

不要放在cuda里
o0Orange·2024-02-14 16:23

读书笔记#深入理解Java虚拟机（第三版）# Java内存模型与线程

深入理解Java虚拟机（第三版）#高效并发chap12Java内存模型与线程概述在许多场景下，让计算机同时去做几件事情，不仅是因为计算机的运算能力强大了，还有一个很重要的原因是计算机的运算速度与它的存储和通信子系统的速度差距太大
landon30·2024-02-14 14:58

英文TTS的实现

pipinstall-UqqWhisperSpeechdefis_colab():try:importgoogle.colab;returnTrueexcept:returnFalseimporttorch#ifnottorch.cuda.is_available
hehui0921·2024-02-14 11:18

关于GPU一些笔记（SIMT方面)

在英伟达GPU中core一般称之为之为cudacore，GPU内部一般集成了成千上万个cudacore。为了方便进行进行对这么多的核进行管理调度，GPU将按照一定数量的
Huo的藏经阁·2024-02-14 10:11

[CUDA 学习笔记] Reduce 算子优化

Reduce算子优化注:本文主要是对文章【BBuf的CUDA笔记】三，reduce优化入门学习笔记-知乎的学习整理Reduce又称之为归约,即根据数组中的每个元素得到一个输出值,常见的包括求和(sum)
PeakCrosser·2024-02-14 10:39

chatglm3-6b使用

ChatGLM3:ChatGLM3series:OpenBilingualChatLLMs|开源双语对话语言模型创建环境condacreate-nchatglm36python=3.11.7修改源码中依赖，使得使用cuda
一个java开发·2024-02-14 06:43

java面试题/认证答辩 ---java内存模型(JMM)和运行内存结构(JVM)

blog.csdn.net/xy3233/article/details/108296943>https://www.cnblogs.com/yichunguo/p/12007038.htmlJAVA内存模型
Fuly1024·2024-02-14 05:02

飞桨和torch随机数对齐

traindataloader的时候，建议设置randomseed，对于PyTorch来说#initializerandomseedtorch.manual_seed(config.SEED)torch.cuda.manual_seed_all
skywalk8163·2024-02-14 04:06

pytorch：.cuda() & .cpu() & .data & .numpy()

下面将将tensor转成numpy的几种情况1.GPU中的Variable变量：a.cuda().data.cpu().numpy()2.GPU中的tensor变量：a.cuda().cpu().numpy
不太聪明的亚子·2024-02-14 00:39

一文彻底搞懂JVM内存模型

文章目录1.什么是JVM内存模型？2.JVM内存模型的主要目标是什么？3.JVM内存模型将Java程序的内存分为哪些区域？4.JVM内存模型定义了以下几种内存可见性规则?
澡澡洗澡澡·2024-02-13 22:54

ModuleNotFoundError: No module named ‘mmcv._ext‘

我的是torch1.6.cuda10.2：pipinstallmmc
Mr.Q·2024-02-13 21:03

python3.8.8显示ModuleNotFoundError: No module named ‘mmcv’

ModuleNotFoundError:Nomodulenamed‘mmcv’pipinstallmmcv不管用打开https://github.com/open-mmlab/mmcv按照torch和cuda
曹家小圆宝·2024-02-13 21:32

Mac版 stable diffusion点生成没反应（M2）

upsample_nearest2d_channels_last"notimplementedfor'Half'查阅资料后发现有两种方法：1.打开webui-macos-env.sh文件进行如下更改Change:exportCOMMANDLINE_ARGS="--skip-torch-cuda-test
duan030·2024-02-13 14:58

Windows安装DeepSpeed

解决方案需要提前安装：PyTorch，版本最好>=1.9CUDA或ROCm编译器，如nvcc或hipcc安装VisualStudio，如2019自行编译pythonsetup.pybdist_
XerCis·2024-02-13 12:30

2019-05-31

从CUDA的加速可以看到，即使是性能一般的650M显卡，相比单纯CPU渲染也提升了15%的速度，如果用NVidiaGTX1080等显卡了，这个速度提升会更明显。但AE渲染不是每次都会
循序渐进1655·2024-02-13 09:25

解决gpu没有运行进程，但是显存一直占用的方式

------------------------------------------------------------+|NVIDIA-SMI410.104DriverVersion:410.104CUDAVersion
喝粥也会胖的唐僧·2024-02-13 08:08

JMM（Java内存模型）

Java内存模型（JavaMemoryModel，简称JMM）是Java语言规范中定义的一个抽象概念，它描述了程序中各个变量（包括实例字段、静态字段和构成数组对象的元素）在并发环境下的访问规则和一致性保证
米开浪·2024-02-13 08:52

智能指针、左值引用右值引用、lambda表达式

文章目录1.智能指针(shared_ptr、unique_ptr、weak_ptr)1.1智能指针用来解决什么问题1.2shared_ptr1.2.1shared_ptr内存模型1.2.2shared_ptr
是蜗牛骑士丫·2024-02-12 22:51

大模型推理优化实践：KV cache 复用与投机采样

该引擎与当前广泛使用的多种主流模型兼容，并通过采用高性能的CUDA算子来实现了如PagedAttention和ContinuousBatching等多项优化措施。
阿里技术·2024-02-12 15:01

java内存模型与线程

硬件：处理器，高速缓存和主内存间的交互关系image.png线程，主内存，工作内存的关系image.png线程对变量所有操作（读取，赋值）等必须在工作内存中进行，而不能直接读写内存中的变量不同的线程之间也无法访问对方的工作内存的变量volatile变量依然有工作内存拷贝，但是它每次操作都会读取最新的主内存数据，所以造成了像是直接在主内存操作内存间交互操作java规定了八种操作完成吧主内存拷贝到工作
简书徐小耳·2024-02-12 14:56

快速构建 Tensorflow GPU 开发环境（Ubuntu / macOS）- 2023年

文章目录安装Anaconda/Miniconda安装NividaGPU驱动安装cudatoolkit和cudnn设置环境变量安装Tensorflow测试GPU是否开启成功AppleM1/M2安装GPU支持
Ryan HUST·2024-02-12 13:05

Java内存模型以及垃圾收集机制

Java内存模型（JavaMemoryModel,JMM）和垃圾收集机制（GarbageCollectionMechanism）是Java语言的两个核心特性，它们共同保证了Java应用程序在执行过程中的效率和稳定性
dreammaker阿甘·2024-02-12 12:19

pytorch_quantization/cuda_ext.cpython-310-x86_64-linux-gnu.so: undefined symbol: _ZN3c106detail1

pytorch_quantization/cuda_ext.cpython-310-x86_64-linux-gnu.so:undefinedsymbol:_ZN3c106detail1pytorch_quantization
szZack·2024-02-12 12:46

OSError: libcudart.so.11.0: cannot open shared object file: No such file or directory

OSError:libcudart.so.11.0:cannotopensharedobjectfile:Nosuchfileordirectory完美解决：OSError:libcudart.so.11.0
szZack·2024-02-12 12:16

CentOS 7.9安装Tesla M4驱动、CUDA和cuDNN

1、下载软件结合上次的经验教训，我们本次先确定合适的CUDA（ComputeUnifi
Danileaf_Guo·2024-02-12 08:41
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他