tensor相乘

Megatron-LM训练框架和Deepspeed训练框架最主要的异同和优劣是什么

核心异同点并行策略Megatron-LM核心：以张量并行（TensorParallelism）和流水线并行（PipelineParallelism）为主，结合数据并行。

强化学习曾小健·2025-03-19 09:15

Ubuntu20.04 RTX4060 AI环境搭建

下面记录在Ubuntu20.04环境下，使用ASUSATS-RTX4060-O8G-V2显卡，搭建NvidiaTensorRT开发环境。

stxinu·2025-03-19 05:03

大数据开发之Kubernetes篇----安装部署Kubernetes&dashboard

Kubernetes简介由于公司有需要，需要将外后的服务外加Tensorflow模型部署加训练全部集成到k8s上，所以特意记录下这次简单部署的过程。

豆豆总·2025-03-18 06:02

pytorch的使用：卷积神经网络模块

1.读取数据分别构建训练集和测试集（验证集）DataLoader来迭代取数据使用transforms将数据转换为tensor格式#定义超参数input_size=28#图像的总尺寸28*28num_classes

樱花的浪漫·2025-03-18 00:11

torch.unsqueeze：灵活调整张量维度的利器

在深度学习框架PyTorch中，张量（Tensor）是最基本的数据结构，它类似于NumPy中的数组，但可以在GPU上运行。在日常的深度学习编程中，我们经常需要调整张量的维度以适应不同的操作和层。

冰蓝蓝·2025-03-17 23:07

PyTorch中，将`DataLoader`加载的数据高效传输到GPU

一、数据加载到GPU的核心步骤数据预处理与张量转换若原始数据为NumPy数组或Python列表，需先转换为PyTorch张量：X_tensor=torch.from_numpy(X).float()#转换为浮点张量

大霸王龙·2025-03-17 20:42

PyTorch中tensor赋值运算符

t=torch.ones((3,3))t0=tt1=t.dataprint(id(t),id(t0),id(t1),id(t.data))运行结果：2132926456040213292645604021332763196402132924110392t0与t完全相同。t1与t.data地址不一样（但是，t1.data与t.data地址相同）

华zyh·2025-03-17 19:33

如何使用Python实现生成对抗网络（GAN）

下面是一个简单的Python实现，使用TensorFlow和Keras库。在开始之前，请确保已经安装了TensorFlow和Keras。imp

「已注销」·2025-03-17 16:13

数据读取错误：RuntimeError: The size of tensor a (3) must match the size of tensor b (4) at non-singleton

去除4通道图像：importcv2importosimportshutilfolder_path=R'F:\bounding_box_test\bounding_box_train'#更改为存储图片文件夹的路径image_files=os.listdir(folder_path)count=0forfile_nameinimage_files:iffile_name.endswith('.jpg'

hitsz_syl·2025-03-17 07:07

从零开始大模型开发与微调：PyCharm的下载与安装

PyTorch和TensorFlow等深度学习框架为训练和微调大型语言模型提供了强大的支持。PyCharm

AI天才研究院·2025-03-17 06:55

tensorflow 不支持python3以下的版本

小白一枚，没用过tensorflow，所以在安装的时候导致版本错误安装不上。遇到这种情况建议换python的版本。

辽宁大学·2025-03-16 22:21

3.13.0 python 配置tensorflow（CPU版本）

condacreate--nametestpython=3.12activatetestpipinstalltensorflow上面3步骤在condaprompt里完成退出时记得condadeactivate

m0_Gattuso·2025-03-16 21:48

CMake Error at myplugins_generated_yololayer.cu.o.Debug，tensorrtx编译失败解决

system:ubuntu1804gpu:3060cuda:cuda11.4tensorrt:8.4使用项目tensorrtx进行yolov5的engine生成，之前在编译成功的配置为system:ubuntu1804gpu

雪可问春风·2025-03-16 08:11

算法手撕面经系列(1)--手撕多头注意力机制

VQ,K,V按头的个数进行split；用Q,KQ,KQ,K计算向量点积考虑是否要添因果mask利softmax计算注意力得分矩阵atten对注意力得分矩阵施加Dropout将atten矩阵和VVV矩阵相乘再过一道最终的输出变换代码

夜半罟霖·2025-03-16 07:37

TensorRT-LLM保姆级教程-快速入门

本系列将针对TensorRT-LLM推理进行讲解。本文为该系列第一篇，将简要概述TensorRT-LLM的基本特性。另外，我撰写的大模型相关的博客及配套代码均整理放置在Github，有需要的朋友自

大模型八哥·2025-03-16 02:34

模型可解释性：基于博弈论的SHAP值计算与特征贡献度分析（附PyTorch/TensorFlow实现）

一、技术原理与数学推导（含典型案例）1.1Shapley值基础公式SHAP值基于合作博弈论中的Shapley值，计算公式为：ϕi=∑S⊆F∖{i}∣S∣!(∣F∣−∣S∣−1)!∣F∣![f(S∪{i})−f(S)]\phi_i=\sum_{S\subseteqF\setminus\{i\}}\frac{|S|!(|F|-|S|-1)!}{|F|!}[f(S\cup\{i\})-f(S)]ϕi=S

燃灯工作室·2025-03-15 23:43

【深度学习与大模型基础】第3章-张量

今天我们来聊聊张量（Tensor）。别被这个词吓到，其实它没那么复杂。什么是张量？简单来说，张量就是一个多维数组。你可以把它看作是一个装数据的容器，数据的维度可以是一维、二维，甚至更高。

lynn-66·2025-03-15 23:08

pytorch训练权重转化为tensorflow模型的教训

shuffleoperation(shuffle操作)这个操作原本是用来将各个通道之间的信息进行打乱后，此时面临重要的问题就是，如果将通道打乱，在pytorch里面与tensorflow中间，两种通道排序是不一样的

小枫小疯·2025-03-15 21:57

OpenCV 深度学习模块 cv2.dnn 与其他深度学习框架的优缺点对比及适用场景

相比于TensorFlow、PyTorch等其他深度学习框架，cv2.dnn有其独特的优点与缺点，适用于不同的应用场景。在这篇文章中，我们将详细分析cv2.dnn的优缺点，并讨论它的适用场景。

白.夜·2025-03-15 21:26

scaled_dot_product_attention实现逻辑

torch.nn.functional.scaled_dot_product_attention(query,key,value,attn_mask=None,dropout_p=0.0,is_causal=False,scale=None,enable_gqa=False)->Tensor

凤梧长宜放眼量·2025-03-15 17:27

【PyTorch】PyTorch 中改变张量形状的几种方法

PyTorch中改变张量形状的几种方法在深度学习领域，PyTorch是一个广泛使用的框架，它提供了丰富的API来处理张量（tensor）。在模型开发过程中，我们经常需要改变张量的形状以满足特定的需求。

shengchao0920·2025-03-15 17:27

【Transformer-Hugging Face手册 07/10】微调预训练模型

2.1加载数据2.2训练2.2.1使用PyTorchTrainer进行训练2.3训练超参数2.4评价2.5训练类三、使用Keras训练TensorFlow模型3.1为Keras加载数据3.2将数据加载为

无水先生·2025-03-15 13:54

CCF CSP 第30次（2023.05）（2_矩阵运算_C++）（暴力破解）(矩阵相乘)

CCFCSP第30次（2023.05）（2_矩阵运算_C++）题目背景：题目描述：输入格式：输出格式：样例输入样例输出：样例解释：子任务：提示：解题思路：思路一（暴力破解）：代码实现代码实现：部分代码解读时间限制：5.0s空间限制：512.0MB题目背景：Softmax(Q×KT/√d)×V是Transformer中注意力模块的核心算式，其中Q、K和V均是n行d列的矩阵，KT表示矩阵K的转置，×表

Dream it possible！·2025-03-15 05:41

H100解锁生成式AI算力新纪元

其创新性设计聚焦三大技术支柱：第三代TensorCore通过稀疏计算与混合精度支持，显著提升矩阵运算效率；显存带宽优化技术结合HBM3高带宽内存，将数据吞吐量提升至3.35TB/s，有效缓解大规模模型训练中的显存墙问题

智能计算研究中心·2025-03-14 22:43

数据分析及人工智能框架汇总

一、数据分析二、人工智能1、Tensorflow1、简介TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理。

xihuanyuye·2025-03-14 21:00

形象理解线性代数的本质（三）矩阵的升维和降维

一、矩阵的降维还用游戏的例子，有4个角色，每个人都有不同的能力，将其用矩阵表示出来现在我们要评估他们的两种能力：领兵打仗的能力和协同将领的能力只要将两个矩阵相乘，就能根据方法X对象的法则评估出他们这两种

_躬行_·2025-03-14 16:47

golang从入门到做牛马:第八篇-Go语言运算符-数学与逻辑的“魔法棒”

以下是Go语言中的算术运算符及其示例：运算符描述示例+相加A+B输出结果30-相减A-B输出结果-10*相乘A

王盼达·2025-03-14 06:04

python和pytorch关系_PyTorch：Python优先的深度学习框架

PyTorch是一个Python软件包，其提供了两种高层面的功能：使用强大的GPU加速的Tensor计算（类似numpy）构建于基于tape的autograd系统的深度神经网络如有需要，你也可以复用你最喜欢的

weixin_39877182·2025-03-14 02:36

3d 数学（叉乘、四元素、四元素旋转、四元素和四元素相乘、鼠标控制物体旋转、发射子弹、环形发射子弹、子弹缓冲池）

目录1、叉乘2、四元素3、四元素旋转4、四元素和四元素相乘5、鼠标控制物体旋转6、发射子弹7、环形发射子弹8、子弹缓冲池1、叉乘两个向量叉乘，得到一个新的向量，新向量跟原始两个向量都垂直，也就是得到由两个向量所确定平面的法向量

ོꦿ映ꦿ言᭄﹆ོོོ·2025-03-14 00:25

本地部署时，如何通过硬件加速（如 CUDA、TensorRT）提升 DeepSeek 的推理性能？不同显卡型号的兼容性如何测试？

GPU加速验证：运行以下代码检查硬件加速状态：importtensorflowastfprint("可用GPU数量：",len(tf

百态老人·2025-03-13 14:43

人工智能 - TensorRT与DeepDP终极指南：释放GPU潜能的深度学习推理优化之道

TensorRTTensorRT（TensorRuntime）是英伟达（NVIDIA）推出的高性能深度学习推理（Inference）优化器和运行时库，专为在NVIDIAGPU上高效部署深度学习模型而设计

天机️灵韵·2025-03-13 13:36

onnx处理和TensorRT量化推理相关代码工具

一.说明在模型量化过程中，经常要使用一些工具对onnx或者量化后的模型（这里以TensorRT为例）进行推理，往往需要一些处理工具，比如：拆分或者合并onnx；修改onnx中的量算子QuantizeLinear

天亮换季·2025-03-13 12:26

训练大模型LLM选择哪种开发语言最好

大0马浓·2025-03-13 05:09

如何将装有tensor的多维list转化为torch.Tensor类型

普通list转tensor：a=[[jforjinrange(5)]foriinrange(3)]A=torch.Tensor(a)print('list=',a)print('typeofa:',type

XAL1·2025-03-13 02:09

CUDA12.1 cudnn9.0.1 python3.10.12配置TensorRT8.6.1，完成yolov12tensorRT推理完整过程

一、配置TensorRT8.6.11.下载TensorRT8.6.1包TensorRT完全依赖CUDA，因此下载其版本时一定要考虑CUDA的版本。

李卓璐·2025-03-13 01:33

开发ai模型最佳的系统是Ubuntu还是linux？

在AI/ML开发中，Ubuntu是更优选的Linux发行版，原因如下：1.开箱即用的AI工具链支持Ubuntu预装了主流的AI框架（如TensorFlow、PyTorch）和依赖库，且通过apt包管理器可快速部署开发环境

俺足·2025-03-12 22:18

如何增强机器学习基础，提升大模型面试通过概率

面试官不仅要求候选人熟练使用深度学习框架（如PyTorch、TensorFlow），还希望他们具备扎实的机器学习理论基础、算法实现能力和实际问题解决经验。本文将从机器学习基础入手

weixin_40941102·2025-03-12 19:55

AI系统架构

关键组成计算硬件GPU（如NVIDIAA100、H100）TPU（GoogleTensorProcessingUnit）NPU（如华为昇腾、寒武纪等）CPU（用于轻量级推理任务）

flying robot·2025-03-12 07:32

机器学习入门指南：从 TensorFlow 到 PyTorch

机器学习入门指南：从TensorFlow到PyTorch机器学习（MachineLearning）是人工智能的核心领域之一，近年来在图像识别、自然语言处理、推荐系统等领域取得了巨大进展。

6v6-博客·2025-03-12 06:23

多模态大模型：技术原理与实战模型压缩实战

多模态大模型：技术原理与实战模型压缩实战作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming关键词：多模态大模型，技术原理，模型压缩，实战，TensorFlow

AGI大模型与大数据研究院·2025-03-12 01:16

Pytorch 张量的scatter_add_方法介绍

torch.Tensor.scatter_add_是PyTorch中的一个原地操作（in-placeoperation），用于将一个源张量（src）中的值根据指定的索引（index）累加到目标张量（self

qq_27390023·2025-03-12 01:42

【pta】1062 最简分数（涉及求最大公约数）

题目1062最简分数思路分数比较大小用十字相乘比大小，先找到大于第一个分数的，再限制小于第二个分数。

Liu_Meihao·2025-03-11 23:49

H100架构解析与性能优化策略

本文将从核心架构创新与典型场景调优两个维度展开：首先解析第三代TensorCore的稀疏计算加速机制、FP8混合精度支持特性及其对矩阵运算的优化效果；其次，针对显存子系统中HBM3堆栈布局、L2缓存分区策略以及数据预取算法的协同优化进行拆解

智能计算研究中心·2025-03-11 21:36

卷积神经网络（笔记01）

在卷积神经网络（CNN）的卷积层里，卷积操作本质上是输入数据与卷积核（滤波器）进行逐元素相乘再求和的过程。偏置项（Bias）是一个额外的可学习参数，对于每个卷积核而言，都

天行者@·2025-03-11 18:14

基于PyTorch的深度学习6——数据处理工具箱2

transforms提供了对PILImage对象和Tensor对象的常用操作。1)对PILImage的常

Wis4e·2025-03-11 07:47

欧拉筛（线性筛）：找出所有小于等于给定整数n的质数的算法

找出所有小于等于给定整数n的质数的算法-CSDN博客欧拉筛不是把素数的所有倍数标记为非素数，而是每扫过一个数(这个数用外循环的i来表示，遍历isPrime数组）（无论这个数是素数还是非素数）将该数与前面标记为素数的数相乘的数筛掉

日月知行·2025-03-11 01:00

DeepSeek源码解析（2）

Tensor（张量）的介绍在计算机科学和机器学习领域，“张量”（Tensor）是一个数学概念，它被用来表示多维数组。

白鹭凡·2025-03-11 01:26

字符串相乘——大整数乘法

概述给定两个以字符串形式表示的非负整数num1和num2，返回num1和num2的乘积，它们的乘积也表示为字符串形式。输入:num1=“2”,num2=“3”输出:“6”来源：力扣（LeetCode）链接：https://leetcode-cn.com/problems/multiply-strings著作权归领扣网络所有。商业转载请联系官方授权，非商业转载请注明出处。思路常规思路：1234*45

菜鸟日常·2025-03-10 23:46

力扣第四十三题——字符串相乘

内容介绍给定两个以字符串形式表示的非负整数num1和num2，返回num1和num2的乘积，它们的乘积也表示为字符串形式。注意：不能使用任何内置的BigInteger库或直接将输入转换为整数。示例1:输入:num1="2",num2="3"输出:"6"示例2:输入:num1="123",num2="456"输出:"56088"提示：1=0||j>=0||add!=0){intx=i>=0?num1

安…..·2025-03-10 23:43

推荐频道