张量Tensor 第16页

数字孪生系统的第三方算法库

1.TensorFlow：TensorFlow是一个开源的机器学习框架，提供了各种工具和库，用于构建和训练深度学习模型。它可以在数字孪生系统中用于实现机器学习和神经网络

super_Dev_OP·2024-01-26 17:15

大模型部署手记（22）Ubuntu+TensorRT-LLM+通义千问

阅读了https://zhuanlan.zhihu.com/p/662406460张小白不禁打开了这个链接：GitHub-Tlntin/Qwen-7B-Chat-TensorRT-LLM看了下环境：貌似不难满足

张小白TWO·2024-01-26 16:26

模型推理加速系列 | 08：TensorRT-LLM助力LLM高性能推理

引言日暮苍山远，天寒白屋贫。CreatedbyDALL·E3小伙伴们好，我是《小窗幽记机器学习》的小编：卖汤圆的小女孩，今天是冬至，祝福小伙伴们幸福安康吧。紧接前文：万字长文细说ChatGPT的前世今生Llama2实战(上篇):本地部署(附代码)Llama2实战(下篇)-中文语料微调(附代码)CodeLlama实战(上篇)-模型简介和评测CodeLlama实战(下篇)-本地部署、量化及GPT-4对

JasonLiu1919·2024-01-26 16:24

成功编译TensorRT-LLM

1.准备工作启动已下载的docker镜像，查看编译TRT-LLM的主要依赖项版本OS:Ubuntu22.04cuda：12.2cudnn:8.9.4tensorrt:9.1.0python:3.

有来有去9527·2024-01-26 16:53

使用NVIDIA TensorRT-LLM支持CodeFuse-CodeLlama-34B上的int4量化和推理优化实践

本文首发于NVIDIA一、概述CodeFuse（https://github.com/codefuse-ai）是由蚂蚁集团开发的代码语言大模型，旨在支持整个软件开发生命周期，涵盖设计、需求、编码、测试、部署、运维等关键阶段。为了在下游任务上获得更好的精度，CodeFuse提出了多任务微调框架（MFTCoder），能够解决数据不平衡和不同收敛速度的问题。通过对比多个预训练基座模型的精度表现，我们发现

CodeFuse·2024-01-26 16:23

TensorRT-9.0和TensorRT-LLM马上要发布了！

作者|Oldpan编辑|oldpan博客点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群本文只做学术分享，如有侵权，联系删文TensorRT

自动驾驶之心·2024-01-26 16:52

TensorRT-LLM在CodeFuse-CodeLlama-34B上的int4量化实践

01概述本文档是利用TensorRT-LLM(earlyaccess)对CodeFuse-CodeLlama-34B进行int4量化的实践（注：TensorRT-LLM(GA)已发布）。

CodeFuse·2024-01-26 16:52

TensorRT-LLM Docker镜像制作

依赖：TensorRT9.1.0.4docker版本23.08步骤：1.宿主机联网，启动容器，容器内也要联网启动镜像的方法：2023-10-2609:07:57dockerrun--gpusall-it

美洲大蠊很顽强·2024-01-26 16:22

TensorRT-LLM的AutoDL部署

安装cudawgethttps://developer.download.nvidia.com/compute/cuda/12.2.1/local_installers/cuda_12.2.1_535.86.10_linux.runchmod+xchmod+xcuda_12.2.1_535.86.10_linux.run./cuda_12.2.1_535.86.10_linux.run安装cudn

wwwsctvcom·2024-01-26 16:21

TensorFlow Lite中文本分类在Android上的实践

#1TensorflowLiteTensorFlowLite(后续简称TFL)是Google开发的一个用于移动设备和嵌入式设备的开源库，旨在为移动终端设备提供机器学习推断。

GodLieke·2024-01-26 16:19

轻量级3D姿态估计

用的TensorFlow平台开发，开源了onnx模型。输入是目标检测后的人体图，人体检测用的yolov5。

AI视觉网奇·2024-01-26 15:04

2019-07-29 pip安装慢导致超时问题-换源

今天我在用pip安装opencv-python时或者tensorflow时，出现了一大片Trac错误，好像是超时，然后我选择了换源：pipinstalltensorflow-ihttps://pypi.tuna.tsinghua.edu.cn

可乐W·2024-01-26 15:27

笔记：数据处理的代码小技巧（1）

在深度学习处理中，图片大小是一个很重要的问题，关系着转为tensor的shape。如何方便的查看一个文件中几千张图片的大小。

arxhsyd123·2024-01-26 14:50

Difference Between [Checkpoints ] and [state_dict]

1.状态字典(state_dict):状态字典是PyTorch提供的一个Python字典对象，将每个层的参数（权重和偏置）映射到其相应的PyTorch张量。它表示模型参数的当前状态。

挪威的深林·2024-01-26 14:13

【Pytorch 第二讲】如何遍历或者查看Model权重/参数/tesnsor_size/dict_names

name,param),(key,value)inzip(network.named_parameters(),network.state_dict().items()):print(f"{name}Tensorsize

挪威的深林·2024-01-26 14:06

深度学习-Pytorch如何构建和训练模型

pytorch目前在深度学习具有重要的地位，比起早先的caffe，tensorflow，keras越来越受到欢迎，其他的深度学习框架越来越显得小众。

Alex_StarSky·2024-01-26 12:38

深度学习-Pytorch如何保存和加载模型

pytorch目前在深度学习具有重要的地位，比起早先的caffe，tensorflow，keras越来越受到欢迎，其他的深度学习框架越来越显得小众。

Alex_StarSky·2024-01-26 11:07

ubantu tensorflow problem

1.ImportError:libcusolver.so.8.0:cannotopensharedobjectfile:Nosuchfileordirectoryecho$LD_LIBRARY_PATH我的结果：/usr/local/cuda-8.0/lib64:再执行命令：sudoldconfig/usr/local/cuda-8.0/lib64https://www.cnblogs.com/k

AICVer·2024-01-26 11:36

大模型微调报错：RuntimeError: expected scalar type Half but found Float

背景博主显卡：3090最初的设置：bfloat16开始训练后，线性层报错2.解决:统一代码中所有精度1）将模型和数据精度都设置为torch.float32/torch.float16xxx=torch.tensor

N1cez·2024-01-26 11:14

Pytorch与TensorFlow如何选择

直接以Pytorch为切入点，它整体来讲API较为清晰，文档较为清晰，比TensorFlow更接近于Python，调试也比较好调试，尤其是当你引用API的时候，Pytorch的API是一个框架下来的，他不会有很多混杂的地方

我爱派生·2024-01-26 11:42

pytorch与tensorflow如何选择？

目录1.动态图和静态图1.1tensorflow是静态图1.2pytorch动态图2.易用性3.编程语言4.性能和扩展性5.社区支持和生态系统1.动态图和静态图1.1tensorflow是静态图如上图：

wyw0000·2024-01-26 11:06

【01】深度学习——数学基础 | 线性代数 | 微积分 |概率

scalar)1.2向量(Vector)1.2.1模长和范数1.2.2单位向量1.2.3向量的内积1.2.4向量的外积1.3矩阵(Matrix)1.3.1矩阵转置1.3.2矩阵乘法1.3.3矩阵乘法的性质1.4张量

花落指尖❀·2024-01-26 10:53

Paddle：统计模型Flops

input_size(list)-输入Tensor的大小。

微风❤水墨·2024-01-26 10:52

Tensorflow高阶内容（五）- Deep Learning

高阶内容5.1Classification分类学习5.2什么是过拟合（Overfitting）5.3Dropout解决Overfitting5.4什么是卷积神经网络CNN(ConvolutionalNeuralNetwork)5.5CNN卷积神经网络15.6CNN卷积神经网络25.7CNN卷积神经网络35.8Saver保存读取5.9什么是循环神经网络RNN(RecurrentNeuralNetwo

BingshengTian_Mamba·2024-01-26 10:15

【TensorRT】关于8.6版本开始的硬件兼容性的一些试错

有关tensorRT8.6版本的硬件兼容性的笔记1、背景2、说明书解读3、api调用说明c++api说明1、背景在工业应用中，边缘端的部署通常需要发布到不同的硬件，在自己的电脑上生成的模型，往往会因为与其他设备的显卡型号不同架构不同的问题

澄鑫·2024-01-26 08:39

图像处理python基础

array读取图片tensor模型预测一般过程：读取数据np->tensor->model->result->np->画图shape确保图像输入输出尺寸正确读取图片将在GPU上运行的tensor类型转变成在

湘溶溶·2024-01-26 08:34

AI学习(3): PyTorch-初识张量

1.介绍PyTorch中的张量（tensor）是其核心数据结构，表示任意维度的数组。张量可以用于存储和处理数据，是PyTorch中的基本构建模块。

猿码记·2024-01-26 07:31

TensorFlow 深度学习开发环境搭建全教程

PyTorch深度学习开发环境搭建全教程TensorFlow深度学习开发环境搭建全教程1、指定清华源命令-ihttps://pypi.tuna.tsinghua.edu.cn/simple2、conda

机器学习杨卓越·2024-01-26 06:46

生成对抗网络

整体代码1.GAN的网络组成2.损失函数解释说明2.1BCEloss损失函数importtorchfromtorchimportautogradinput=autograd.Variable(torch.tensor

sendmeasong_ying·2024-01-26 06:04

服务器上出错：No module named ‘tensorflow‘和importError: DLL load failed while importing cv2:找不到指定的模块

Nomodulenamed'tensorflow'尝试解决方法如下：pipuninstalltensorflowpip--default-timeout=999999installtensorflow-ihttp

cwr888·2024-01-26 05:47

深度之眼Pytorch框架训练营第三期（1）——张量简介与创建

张量简介与创建1.张量的概念张量是一个多维数组，它是标量、向量、矩阵的高维扩展。

aidanmomo·2024-01-25 22:58

libtorch学习第五

tensor的操作#include#includeusingstd::cout;usingstd::endl;intmain(){autob=torch::ones({3,4});autoc=torch

吴天德少侠·2024-01-25 21:04

一位不愿暴露自己的小可爱·2024-01-25 21:32

libtorch的常见tensor操作

目录初始化修改shape切片操作索引操作mask操作拼接操作算术运算求最值数据类型转换1.int和tensor2.tensor转vector3.二维的tensor转vector4.std::vector

Mr.Q·2024-01-25 21:02

PyTorch踩过的12坑精选

nn.Module.cuda()和Tensor.cuda()的作用效果差异无论是对于模型还是数据，cuda()函数都能实现从CPU到GPU的内存迁移，但是他们的作用效果有所不同。

头顶一根发的程序猿·2024-01-25 21:42

libtorch学习第二

张量创建的几种方式估计大多数人都是第3种用的多#include#includeusingstd::cout;usingstd::endl;intmain(){autob=torch::zeros({3,4

吴天德少侠·2024-01-25 21:28

强化学习 - Policy Gradient Methods（策略梯度方法）

以下是一个使用Python和TensorFlow/Keras实现策略梯度方法（REINFORCE算法）的简单教程。在这个例子中，我们将使用OpenAIGym的CartPole环境。i

草明·2024-01-25 21:53

强化学习 - Deep Q Network (DQN)

以下是一个使用Python和TensorFlow/Keras实现简单的DQN的示例代码。请注意，这是一个基本的实现，实际应用中可能需要进行更多的优化和调整。impor

草明·2024-01-25 21:23

大创项目推荐酒店评价的情感倾向分析

项目所需模块importtensorflowastfi

laafeer·2024-01-25 18:08

服务器使用指南

文章目录1、服务器列表2、登录浏览器问题3、使用python、tensorflow3.1`nvidia-smi`nvidia-smi报错解决方案3.2创建你自己的环境使用自己环境示例：3.3安装包：3.3.1condainstall3.3.2pipinstall3.3.3

hancoder·2024-01-25 18:57

Tensorflow & Keras的loss函数总结

一、二分类与多分类交叉熵损失函数的理解交叉熵是分类任务中的常用损失函数，在不同的分类任务情况下，交叉熵形式上有很大的差别，二分类任务交叉熵损失函数：多分类任务交叉熵损失函数：这两个交叉熵损失函数对应神经网络不同的最后一层输出，二分类对应sigmoid，多分类对应softmax。它们的交叉熵本质上是一样的：（1）在信息论中，交叉熵是用来描述两个分布的距离的，函数定义为：而神经网络训练的目的就是使预测

牧世·2024-01-25 18:49

InsCode Stable Diffusion 美图活动投稿

StableDiffusion模型在线使用地址：https://inscode.csdn.net/@inscode/Stable-Diffusion模型相关版本和参数配置：模型：cetusversion4.WRgK.safetensors

Binarydog_Lee·2024-01-25 16:59

张量的shape

torch.randint返回一个张量，从标准正态分布随机抽取一组数。

tensor.shape·2024-01-25 15:31

数据集的划分

main.pyimportosimporttorchfromtorchvisionimporttransformsfrommy_datasetimportMyDataSetfromutilsimportread_split_data,plot_data_loader_image#http://download.tensorflow.org

tensor.shape·2024-01-25 15:01

Anaconda3、TensorFlow和keras简单安装方法

因学习需要用到keras，通过查找较多资料最终完成Anaconda、TensorFlow和Keras的简单安装。

程序员老冉·2024-01-25 14:44

【学习】基础知识

PyTorchTensor的维度表示（batchSize,C,H,W)：PyTorchTensor的维度表示通常是(batch_size,

超好的小白·2024-01-25 14:44

【pytorch进阶】| tensor张量的T和H 分别是什么？转置和共轭转置

文章目录1T代表转置（Transpose）2H代表共轭转置在调试过程中，可以看到tensor张量有T和H的属性Whatdoesthetensor’s“H”,“T”attributesmean?

Qodicat·2024-01-25 13:48

【pytorch进阶】| 各类张量形状变化函数总结对比分析，view，reshape，pernute，transpose，squeeze，unsqueeze

2view_as（）函数3reshape（）函数4permute（）函数5transpose（）函数6squeeze（）函数和unsqueeze（）函数1view（）函数1.1基本用法view是将一个张量改变形状函数原型

Qodicat·2024-01-25 13:18

【易混区分】 tensor张量 Numpy张量的各种矩阵乘法、点积的函数对比 (dot, multiply,*,@matmul)

文章目录1矩阵运算基本概念1.1点积1.2矩阵乘法2dot()3multiply（）和*4matmul和@1矩阵运算基本概念1.1点积又称为数量积、标量积（scalarproduct）或者内积（innerproduct）它是指实数域中的两个向量运算得到一个实数值标量的二元运算。也就是对应元素的位置相乘举例：对于向量a=(x1,y1)和b=(x2,y2)，他们的点积就是a⋅b=x1x2+y1y2a=

Qodicat·2024-01-25 13:16

大语言模型推理提速：TensorRT-LLM 高性能推理实践

作者：顾静TensorRT-LLM如何提升LLM模型推理效率大型语言模型（Largelanguagemodels,LLM）是基于大量数据进行预训练的超大型深度学习模型。

阿里云云原生·2024-01-25 13:00

推荐频道

张量Tensor