Pytorch学习之旅第13页

Transformer的PyTorch实现之若干问题探讨（一）

《Transformer的PyTorch实现》这篇博文以一个机器翻译任务非常优雅简介的阐述了Transformer结构。在阅读时存在一些小困惑，此处权当一个记录。

微凉的衣柜·2024-02-05 13:24

使用deepspeed继续训练LLAMA

目录1.数据训练配置2.模型载入3.优化器设置4.DeepSpeed设置5.DeepSpeed初始化6.模型训练LLAMA模型子结构：1.数据训练配置利用PyTorch和Transformers库创建数据加载器

samoyan·2024-02-05 13:58

PyTorch 1.0 中文文档正式接受校对 | ApacheCN

参与方式：https://github.com/apachecn/pytorch-doc-zh/blob/master/CONTRIBUTING.md整体进度：https://github.com/apachecn

布客飞龙·2024-02-05 13:21

PyTorch 2.2 中文官方教程（二十）

移动设备在iOS上进行图像分割DeepLabV3原文：pytorch.org/tutorials/beginner/deeplabv3_on_ios.html译者：飞龙协议：CCBY-NC-SA4.0作者

绝不原创的飞龙·2024-02-05 13:56

Python-Pytorch学习记录

目录1.python-pycharm下载安装2.VSCode下载安装3.MATLAB下载安装4.pytorch一条龙下载安装环境配置1.python-pycharm下载安装pycharm从安装到全副武装

yt_0618·2024-02-05 12:39

【PyTorch][chapter 14][李宏毅深度学习][Word Embedding]

前言：这是用于自然语言处理中数据降维的一种方案。我们希望用一个向量来表示每一个单词.有不同的方案目录：one-hotEncodingword-class词的上下文表示count-basedperdition-basedCBOWSkip-GramwordEmbedding词向量相似度一one-hotEncoding假设英文有10万个单词，那每个单词用1个10万维的one-hot编码表示。其中只有1个

明朝百晓生·2024-02-05 11:06

bert分类模型使用

bert-bert-chinese预训练模型去做分类任务，这里找了新闻分类数据，数据有20w，来自https://github.com/649453932/Bert-Chinese-Text-Classification-Pytorch

木下瞳·2024-02-05 10:29

PyTorch、NCNN、Numpy三者张量的shape

目录一、PyTorch二、NCNN三、Numpy一、PyTorch在PyTorch中，张量（Tensor）的形状通常按照(N,C,H,W)的顺序排列，其中：N是批量大小（batchsize）C是通道数（

六五酥·2024-02-05 09:30

深度学习本科课程实验1 Pytorch基本操作

一、Pytorch基本操作考察1.1任务内容使用初始化一个×的矩阵和一个×的矩阵，对两矩阵进行减法操作（要求实现三种不同的形式），给出结果并分析三种方式的不同（如果出现报错，分析报错的原因），同时需要指出在计算过程中发生了什么

11egativ1ty·2024-02-05 09:29

当学习不再是一种负担，我们才会觉得幸福

迎着清晨的曙光，我们相约在东华镇中心小学，开启今天的互加学习之旅。首先我们观摩了一节彩虹花晨读课，走进四二班教室，看到布置的大方而美观的黑板，我感受到了教师和同学们的用心。

马玲河南登封东华镇南小·2024-02-05 09:22

Pytorch 学习笔记--torch.linspace()函数

先看Pytorch官方的解释：简单来说，就是返回一个一维张量，这个张量包含由start到end的均匀间隔steps的n个点参数：start(float)-区间的起始点end(float)-区间的终点steps

SAMSTAYREAL·2024-02-05 09:35

PyTorch：torch.linspace

函数定义：torch.linspace(start,end,steps=100,out=None,dtype=None,layout=torch.strided,device=None,requires_grad=False)→Tensor作用：返回从起始值start(含)到结束值end(含)之间steps个等步距的值的一维张量，步距为(end+1-start)/steps。有点拗口，直接用例子分

地球被支点撬走啦·2024-02-05 09:32

Pytorch: nn.dropout

Dropout是一种用于深度学习模型的正则化技术，旨在减少模型对特定训练样本的过度拟合。其主要作用包括：减少过拟合：Dropout阻止神经网络对某些特定输入值过度依赖，从而提高模型的泛化能力。通过随机地失活神经元（将其输出设为零），模型在训练期间不会过度依赖于任何一个神经元，减少了复杂模型在训练数据上的过拟合风险。提高模型的鲁棒性：Dropout可以使模型对输入的微小变化更加鲁棒，因为模型不会过分

湫兮之风·2024-02-05 09:31

PyTorch 2.2 中文官方教程（一）

PyTorch秘籍PyTorch秘籍原文：pytorch.org/tutorials/recipes/recipes_index.html译者：飞龙协议：CCBY-NC-SA4.0秘籍是关于如何使用特定

绝不原创的飞龙·2024-02-05 09:01

Pytorch: torch.linspace等间隔数值函数

torch.linspace是PyTorch提供的一个用于生成等间隔数值的函数。具体而言，torch.linspace会在指定的区间内生成指定数量的等间隔数值。

湫兮之风·2024-02-05 09:59

PyTorch 2.2 中文官方教程（十七）

（Beta）使用缩放点积注意力（SDPA）实现高性能Transformer原文：pytorch.org/tutorials/intermediate/scaled_dot_product_attention_tutorial.html

绝不原创的飞龙·2024-02-05 08:04

Pytorch机器学习——3 神经网络（五）

outline神经元与神经网络激活函数前向算法损失函数反向传播算法数据的准备PyTorch实例：单层神经网络实现3.3前向算法当我们使用前馈神经网络接受输入x并产生输出时，信息通过网络向前流动。

辘轳鹿鹿·2024-02-05 08:45

《动手学深度学习(PyTorch版)》笔记7.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.2NetworkUsingBlocks:VGGimportmat

南七澄江·2024-02-05 08:20

PyTorch 2.2 中文官方教程（十八）

开始使用完全分片数据并行（FSDP）原文：pytorch.org/tutorials/intermediate/FSDP_tutorial.html译者：飞龙协议：CCBY-NC-SA4.0作者：HamidShojanazeri

绝不原创的飞龙·2024-02-05 08:46

《动手学深度学习(PyTorch版)》笔记7.1

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过，同时对于书上部分章节也做了整合。Chapter7ModernConvolutionalNeuralNetworks7.1DeepConvolutionalNeuralNetwork:

南七澄江·2024-02-05 08:45

PyTorch 2.2 中文官方教程（八）

训练一个玛丽奥玩游戏的RL代理原文：pytorch.org/tutorials/intermediate/mario_rl_tutorial.html译者：飞龙协议：CCBY-NC-SA4.0注意点击这里下载完整的示例代码作者

绝不原创的飞龙·2024-02-05 08:45

继续PyTorch！

PyTorch框架保留了Torch的动态计算图特性并结合了Python语言的易用性和丰富资源。

科学禅道·2024-02-05 06:15

win10 miniconda pytorch1.5安装

首先自己先装好自己的cuda驱动，我自己装的是9.2的版本，装的方法可自行百度miniconda安装miniconda是conda的轻量级版本，相比anaconda占用空间小。直接在清华镜像下载安装包https://mirrors.tuna.tsinghua.edu.cn/anaconda/miniconda/选择python3.8的最新版本，下载完后直接双击安装，选择自己的安装路径，一路next

咸鱼丶的自我修养·2024-02-05 04:40

充实快乐的一天

2017年，职业资格证书学习之旅的开启改变了我的生活，每夭工作时间很短，生活简单明了，大部分时间都在学习，听视频，看书，做题，熬夜成为

苗苗青青·2024-02-05 03:07

跑通CLIP4STR，用于字符识别的预标签制作

下载模型clip4str_base16x16_d70bde1f2d.ckpt和ViT-B-16.pt；首先根据工程中的README.md进行环境处理：Requires`Python>=3.8`and`PyTorch

猫猫与橙子·2024-02-05 02:24

[Unity Sentis] 了解 Sentis 中的模型

要获得与Sentis兼容的模型，您可以执行以下操作之一：在TensorFlow、PyTorch或Keras等框架中训

Unity尧明·2024-02-05 02:53

[Unity Sentis] Sentis 中的 Tensor 基本原理

Sentis中的张量的工作方式与TensorFlow、PyTorch和其他机器学习框架中的张量类似。Sentis中的张量最多可以有8个维度。如果张量的维度为

Unity尧明·2024-02-05 02:53

linear_regression_2.ipynb

outputs":[],"source":["%matplotlibinline\n","%reload_extautoreload\n","%autoreload1\n","%aimportd2lzh_pytorch

fallinmix·2024-02-05 02:49

PyTorch中的nn.Embedding的使用、参数及案例

PyTorch中的nn.Embedding的使用Embedding层在神经网络中主要起到降维或升维的作用。

神奇的布欧·2024-02-05 00:53

详细流程安装Anaconda，开启AI第一步【Windows版】

AI时代来临，让我们开启Pytorch之旅第一步，安装AnacondaAnaconda：数据科学的利器Anaconda是一个开源的Python和R语言发行版，用于计算科学，特别是数据科学。

心安成长·2024-02-04 22:37

论文阅读_视觉注意力模型生成图片标题

论文地址：https://arxiv.org/pdf/1502.03044.pdf参考代码：https://github.com/parksunwoo/show_attend_and_tell_pytorch

xieyan0811·2024-02-04 22:33

超级详细的YOLOV8教程

制作数据集3.部署YOLOV8的代码3.1远程部署3.1.1项目下载3.1.2修改代码3.1.2.1训练模型3.1.2.1验证模型3.2本地部署3.2.1YOLOV8项目部署3.2.2cuda、cudnn、Pytorch

李小狗儿·2024-02-04 21:46

PyTorch 2.2 中文官方教程（十四）

参数化教程原文：译者：飞龙协议：CCBY-NC-SA4.0作者：MarioLezcano注意点击这里下载完整示例代码在本教程中，您将学习如何实现并使用此模式来对模型进行约束。这样做就像编写自己的nn.Module一样容易。对深度学习模型进行正则化是一项令人惊讶的挑战。传统技术，如惩罚方法，通常在应用于深度模型时效果不佳，因为被优化的函数的复杂性。当处理病态模型时，这一点尤为棘手。这些模型的示例包括

绝不原创的飞龙·2024-02-04 21:55

广州学习之旅-“养生靠自己，健康不求人”养生班

学习时间：6月15-17日学习主题：九种体质养生方法在课程开始前，邱校教导了一套坐八段的养生操，天天坚持练可以打通全身的筋络，尤其对肩颈问题会更有效果。刚开始做养生操会全身酸痛，大家要坚持每天练功，做完养生操整个人会变得神清气爽，耳清目明。做完养生操后邱校用自我测评表分别检测出我们的体质，然后在讲九种体质养生方法时我们就可以代入进去，可以更快的掌握各个知识点。课程主题：养生靠自己，健康不求人，也就

宝宝儿推调理师媛媛·2024-02-04 21:53

RNN的具体实现

这篇文章真的巨好，特别适合新手做复现Pytorch循环神经网络（RNN）快速入门与实战_torchrnn-CSDN博客

conch0329·2024-02-04 20:56

RNN实战具体跑的代码

一、首先先上代码：这个是接pytorchAPI的调用代码importtorchimporttorch.nnasnnbs,T=2,3#批次大小，输入序列长度input_size,hidden_size=2,3

conch0329·2024-02-04 20:53

早起攻略|早起是使生活变好的一个契机

我是每天早上6:00起床，然后写下一天的计划，读书半小时，接着去图书馆开启一天的学习之旅，中间会穿插运动、追剧、工作。之所

木木西酱·2024-02-04 18:36

torch.flip(input, dims)详解

torch.flip(input,dims)是pytorch中的函数，用于对输入张量的指定维度进行翻转操作。

chen_znn·2024-02-04 17:49

torch.sign()详解

torch.sign()是pytorch中的一个函数，用于计算输入张量的元素的符号。具体地说，torch.sign()函数会返回一个新的张量，其中的元素是输入张量中对应元素的符号。

chen_znn·2024-02-04 17:47

Convolutional Neural Networks CNN -- Explained

最后的图片全连接层在PyTorch中实现卷积神经网络加载数据集建立模型训练模型测试模型为什么要卷积神经网络？仅有几层的全连接网络只能做很

许喜远·2024-02-04 17:47

pytorch在加载模型时CUDA error: out of memory

在加载模型的时候出现了RuntimeError:CUDAerror:outofmemory，如图1所示，之后查到https://blog.csdn.net/weixin_43509263/article/details/103841657这里面是说这个错误代表的显存不够，但在这里我只是加载一个LeNet-5的模型，这么多显存应该完全是够的。后面发现因为之前的程序之前在另一个卡上运行，这样加载时会默

csh_b293·2024-02-04 16:57

【具身智能】目标导航实验复现详细教程

文章目录【具身智能】目标导航实验复现详细教程1.源码测试2.训练3.验证（附）问题Pytorch与CUDA版本问题项目文件引用问题循环引用问题libstdc++库文件旧显存爆炸问题【具身智能】目标导航实验复现详细教程参考论文

Moresweet猫甜·2024-02-04 16:42

查看当前虚拟环境中的pytorch版本

1.进入anaconda，输入activatevm1，回车，vm1是我的虚拟环境名，换成自己的就可以了activatevm12.输入python3.依次输入如下指令

ffemininity·2024-02-04 15:08

linux Pytorch（GPU版本）后出现torch.cuda.is_available()返回False，解决方案来啦

解决方案：一级目录二级目录第一次的下载过程如何判断是否是CPU的版本解决方案一级目录二级目录第一次的下载过程我当时下载GPU版本的pytorch的时候，就是直接从官网首页给的命令下载的，如下图：但是好像他们给出的命令默认安装的是

芝麻芝麻快长头发·2024-02-04 15:04

[动手学深度学习-PyTorch版]-5.11卷积神经网络-残差网络（ResNet）

5.11残差网络（ResNet）让我们先思考一个问题：对神经网络模型添加新的层，充分训练后的模型是否只可能更有效地降低训练误差？理论上，原模型解的空间只是新模型解的空间的子空间。也就是说，如果我们能将新添加的层训练成恒等映射f(x)=x，新模型和原模型将同样有效。由于新模型可能得出更优的解来拟合训练数据集，因此添加层似乎更容易降低训练误差。然而在实践中，添加过多的层后训练误差往往不降反升。即使利用

蒸饺与白茶·2024-02-04 15:45

在云服务器上安装Anaconda，安装CPU版的pytorch，运行pytorch代码

安装步骤Anaconda安装：下载anaconda的包在linux中执行.sh文件配置环境变量检验是否安装成功创建虚拟环境激活虚拟环境退出虚拟环境CPU版本的pytorch安装：官网安装验证pytorch

芝麻芝麻快长头发·2024-02-04 15:34

在anaconda中下载pytorch

下载pytorch流程（十大步，中国人不骗中国人）下载anaconda，直接在官网下载即可（https://www.anaconda.com/）在anaconda里创建虚拟环境：------使用命令：condacreate-n