Pytorch自学

Transformer 代码剖析1 - 数据处理 （pytorch实现）

引言Transformer架构自《AttentionIsAllYouNeed》论文发表以来，在自然语言处理领域引起了巨大的变革。它摒弃了传统的循环结构，完全基于注意力机制，显著提高了处理序列数据的效率和性能。本文将通过对一个具体的项目代码结构进行详细分析，带领大家深入了解Transformer模型的数据处理部分。项目结构概述首先，让我们来看看项目的整体结构：（参考项目代码）transformer-
lczdyx·2025-03-01 06:18

torch对于tensor的常规操作

前言使用pytorch框架，会常操作tensor，以下则是对tensor常规操作的汇总。
何33512336·2025-03-01 06:16

RuntimeError: Couldn‘t load custom C++ ops.This can happen if your PyTorch and torchvision versions

文章目录出现问题问题分析问题解决出现问题File"/home/anaconda3/envs/tris/lib/python3.8/site-packages/torchvision/ops/boxes.py",line40,innms_assert_has_ops()File"/home/anaconda3/envs/tris/lib/python3.8/site-packages/torchvi
万年枝·2025-03-01 06:46

Transformer 代码剖析8 - 编码器模块Encoder （pytorch实现）

一、代码结构总览TransformerEncoder__init__初始化Encoder类forward前向传播super()父类初始化构建词嵌入层self.emb=TransformerEmbedding参数:d_model/max_len/vocab_size/drop_prob/device构建编码层堆栈self.layers=nn.ModuleList循环创建n_layers个Encode
lczdyx·2025-03-01 04:26

几个自学项目的通病，别因为它们浪费了时间！

而我经历了自学阶段，从学生成长为了老师，所以也很清楚怎么自学项目，效率才能更快一些。这篇文章，就分享一下我发现的大家自学项目时的通病。
x35f·2025-03-01 03:22

深入理解PyTorch模型训练所需的数据集

在PyTorch中，模型训练的核心是数据集（Dataset）。数据集是模型训练的基础，它提供了模型训练所需的所有输入数据和对应的标签。理解数据集的结构、加载方式以及如何预处理数据是成功训练模型的关键。
mosquito_lover1·2025-03-01 03:20

（最新亲测有效）python中操作json文件追加数据

二、操作流程这里我也是初学者自学，暂时了解到的一些内容，想先让大家清楚一下，首先python中对文件操作的模式中（r、w、a、rb、r+等等），其实默认情况下是无法直接对json文件进行追加的操作，因为
影魅周影·2025-03-01 02:12

PyTorch 常见的损失函数：从基础到大模型的应用

PyTorch常见的损失函数：从基础到大模型的应用在用PyTorch训练神经网络时，损失函数（LossFunction）是不可或缺的“裁判”。
阿正的梦工坊·2025-02-28 22:19

Transformer 代码剖析4 - 编码器层实现 （pytorch实现）

一、EncoderLayer-类结构定义参考：项目代码classEncoderLayer(nn.Module):def__init__(self,d_model,ffn_hidden,n_head,drop_prob):super(EncoderLayer,self).__init__()self.attention=MultiHeadAttention(d_model=d_model,n_hea
lczdyx·2025-02-28 22:46

55、深度学习-自学之路-自己搭建深度学习框架-16、使用LSTM解决RNN梯度消失和梯度爆炸的问题，重写莎士比亚风格文章。

importnumpyasnpclassTensor(object):def__init__(self,data,autograd=False,creators=None,creation_op=None,id=None):self.data=np.array(data)self.autograd=autogradself.grad=Noneif(idisNone):self.id=np.rand
小宇爱·2025-02-28 18:18

自学c++之stl

stl六大组件，容器、算法、迭代器、仿函数、适配器、空间配置器容器各种数据结构，例如：vector、list、deque、set、mapvctor#include#include#includeusingnamespacestd;voidmyprint(intval){coutv;//相当于数组//插入数据v.push_back(10);v.push_back(20);//通过迭代器来访问数据//
拾萤·2025-02-28 15:58

pytorch基础 nn.embedding

nn.Embedding是PyTorch中的一个模块，用于创建嵌入层（embeddinglayer），它将离散的索引（例如词汇表中的单词索引）映射为固定大小的稠密向量。
yuweififi·2025-02-28 10:49

pytorch基础-layernormal 与 batchnormal

nn.LayerNorm（层归一化）和nn.BatchNorm（批量归一化）是深度学习中常用的两种归一化方法，都有助于提高模型的训练效率和稳定性，但它们在归一化维度、应用场景、计算方式等方面存在明显区别，以下为你详细介绍：1、归一化维度nn.LayerNorm：对单个样本的特征维度进行归一化。无论输入数据的形状如何，它会计算每个样本在特征维度上的均值和方差，然后进行归一化。例如，对于一个形状为(b
yuweififi·2025-02-28 10:49

Pytorch使用手册—使用TACOTRON2进行文本到语音转换（专题二十四）

一、概述本教程展示了如何使用torchaudio中的预训练Tacotron2构建文本到语音的管道。文本到语音的管道流程如下：文本预处理首先，输入的文本被编码为一系列符号。在本教程中，我们将使用英语字符和音标作为符号。谱图生成从编码后的文本中生成谱图。我们使用Tacotron2模型来完成这一步。3.时域转换最后一步是将谱图转换为波形。从谱图生成语音的过程也称为Vocder（声码器）。在本教程中，我们
AI专题精讲·2025-02-28 09:43

Pytorch使用手册--将 PyTorch 模型导出为 ONNX（专题二十六）

注意截至PyTorch2.1，ONNX导出器有两个版本。torch.onnx.dynamo_export是最新的（仍处于测试阶段）导出器，基于PyTorch2.0发布的TorchDynamo技术。
AI专题精讲·2025-02-28 09:13

Transformer 代码剖析2 - 模型训练 （pytorch实现）

一、模型初始化模块参考：项目代码1.1参数统计函数defcount_parameters(model):returnsum(p.numel()forpinmodel.parameters()ifp.requires_grad)遍历模型参数筛选可训练参数统计参数数量返回总数技术解析：numel()方法计算张量元素总数requires_grad筛选需要梯度更新的参数统计结果反映模型复杂度，典型Tran
lczdyx·2025-02-28 09:38

Stable diffusion 3.5本地运行环境配置记录

1.环境配置创建虚环境condacreate-nsd3.5python=3.10Pytorch(>2.0)condainstallpytorch==2.2.2torchvision==0.17.2torchaudio
寸先生的牛马庄园·2025-02-28 09:38

PyTorch使用常见异常和解决办法汇总

文章目录1.使用conda安装PyTorch后同时在Jupyter导入失败Nomodulenamed'torch'2.PyTorch使用张量时报错expectedscalartypeDoublebutfoundFloat3
东哥说AI·2025-02-28 09:36

pytorch基础-比较矩阵是否相等

1、使用NumPy库NumPy是Python中用于科学计算的常用库，它提供了array_equal和allclose函数来判断矩阵是否相等。array_equal用于精确比较，allclose用于考虑一定误差范围的近似比较，适合浮点数矩阵。importnumpyasnp#创建示例矩阵matrix_a=np.array([[1,2,3],[4,5,6]])matrix_b=np.array([[1,
yuweififi·2025-02-28 08:34

Mybatis面试总结（中）：MyBatis是否支持延迟加载，其原理是什么？不同xml映射文件，id是否可重复？有哪些Executor执行器？是否可映射 Enum 枚举类？TypeHandler作用？

仅供自学使用，大部分内容来自javaGuide，请支持原版书籍。MyBatis是否支持延迟加载？如果支持，它的实现原理是什么？
shanshandeisu·2025-02-28 04:32

自学网络安全（黑客技术）2025年 —100天学习计划

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
白帽黑客cst·2025-02-28 04:58

自学网络安全（黑客技术）2025年 —100天学习计划

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
白帽黑客cst·2025-02-28 04:58

自学网络安全（黑客技术）2025年 —100天学习计划

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
白帽黑客cst·2025-02-28 04:28

自学网络安全（黑客技术）2024年 —100天学习计划

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
白帽黑客cst·2025-02-28 04:56

深度学习模型优化与医疗诊断应用突破

随着PyTorch与TensorFlow等开源框架的持续优化，模型开发效率显著提升，为医疗场景下的复杂数据处理提供了技术基座。
智能计算研究中心·2025-02-28 02:44

跨框架模型演进与行业应用路径

本文系统性梳理TensorFlow、PyTorch、MXNet等主流框架的技术发展脉络，重点分析其从通用计算架构向多模态、轻量化方向的转型路径。
智能计算研究中心·2025-02-28 02:44

学习C的第32天

我是一名计算机小白，到大学才配了电脑，然后对这方面感兴趣就找课程自学，刚开始是很不理解编程语言，什么C、C++、J
2401_87766835·2025-02-28 00:55

pytorch阶段性总结2

nn神经网络functional当中卷积的使用importtorchimporttorch.nn.functionalasF#数据input=torch.tensor([[1,2,0,3,1],[0,1,2,3,1],[1,2,1,0,0],[5,2,3,1,1],[2,1,0,1,1]])#卷积核kernel=torch.tensor([[1,2,1],[0,1,0],[2,1,0]])#min
Colinnian·2025-02-27 23:41

AI探索笔记：线性回归

下面分别用传统方法（sklearn）和神经网络（pytorch）来解决线性回归问题。
安意诚Matrix·2025-02-27 22:37

VIT（Vision Transformer）【超详细 pytorch实现

CNN的局限性：传统的CNN通过局部卷积核提取特征，虽然可以通过堆叠多层卷积扩大感受野，但仍然依赖于局部信息的逐步聚合，难以直接建模全局依赖关系。ViT的优势：ViT使用自注意力机制（Self-Attention），能够直接捕捉图像中所有patch（图像块）之间的全局关系。这种全局建模能力在处理需要长距离依赖的任务（如图像分类、目标检测）时表现更好。全流程图像预处理+分块图像尺寸标准化，如(224
周玄九·2025-02-27 17:54

202年充电计划——自学手册 网络安全（黑客技术）

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
网安康sir·2025-02-27 15:09

202年充电计划——自学手册 网络安全（黑客技术）

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
网安康sir·2025-02-27 15:09

202年充电计划——自学手册 网络安全（黑客技术）

基于入门网络安全/黑客打造的：黑客&网络安全入门&进阶学习资源包前言什么是网络安全网络安全可以基于攻击和防御视角来分类，我们经常听到的“红队”、“渗透测试”等就是研究攻击技术，而“蓝队”、“安全运营”、“安全运维”则研究防御技术。如何成为一名黑客很多朋友在学习安全方面都会半路转行，因为不知如何去学，在这里，我将这个整份答案分为黑客（网络安全）入门必备、黑客（网络安全）职业指南、黑客（网络安全）学习
网安康sir·2025-02-27 15:38

深度学习-自学手册

人工智能机器学习神经网络前馈神经网络：没有回路的反馈神经网络：有回路的DNN深度神经网络CNN卷积神经网络RNN循环神经网络LSTM是RNN的一种，长短期记忆网络自然语言处理神经网络神经元-分类器Hebb学习方法，随机–类似SGD一篇神经网络入门BP反向传播，表示很复杂的函数/空间分布从最后一层往前调整参数，反复循环该操作y=a(wx+b)x输入y输出a激活函
谁用了尧哥这个昵称·2025-02-27 15:37

PyTorch模型安卓部署流程(NCNN)全流程实战（2）代码详细解析

代码来源PyTorch模型安卓部署流程(NCNN)全流程实战（1）至于为什么要备注，因为我基础不好，就得一点一点来适合和我一样的慢羊羊学习项目整体结构1.布局文件不解析了比较简单最简单的线性布局main.xml2
咕咕学不会咋办·2025-02-27 15:06

53、深度学习-自学之路-自己搭建深度学习框架-14、使用自己的架构搭建一个通过学习模仿莎士比亚风格的2000次的文章。并且在关键层配有详细解释。

importnumpyasnpclassTensor(object):def__init__(self,data,autograd=False,creators=None,creation_op=None,id=None):self.data=np.array(data)self.autograd=autogradself.grad=Noneif(idisNone):self.id=np.rand
小宇爱·2025-02-27 15:05

记一次pytorch训练loss异常的问题

记一次pytorch训练loss异常的问题问题描述使用mmdetection框架训练时，某项loss出现异常大的值，比如1781232349724294.000。这个问题只在多卡训练时才会出现。
lyyiangang·2025-02-27 14:29

用PyTorch玩转数据：从整理到“看图说话

最近在实验室鼓捣深度学习项目，发现PyTorch的数据处理流程简直像搭乐高——每个模块都精准卡位。今天就把这套"厨房级"工具链拆解给大家看看，连我这种手残党都能轻松上手。
开心快乐幸福一家人·2025-02-27 13:54

嵌入式自学 | 学习路线+技术经验（适合新手不走弯路入门）

前言尤其记得自己初学嵌入式的感受：迷茫、不自信，后来一点一点探索，找学习资料，找方法，慢慢的也算是入门了，不过这一路走来还是不少崩溃瞬间，今天把自己学习路线分享出来，希望可以帮更多人快速入门，不走那么多弯路。目录前言学习路线依托一个项目习惯&效率选择一个课程上手操作完成我们的小项目后续学习路线依托一个项目笔者第一次接触嵌入式是社团招新，需要我们做一个直流电机调速系统，说白了就是用PID控制直流电机
自动化小秋葵·2025-02-27 12:17

RuntimeError: expected dtype Double but got dtype Float

  在使用Pytorch时报了RuntimeError:expecteddtypeDoublebutgotdtypeFloat这个错误，仔细一查才发现是数据类型的问题。
一穷二白到年薪百万·2025-02-27 11:11

【pytorch_geometric报错】RuntimeError: softmax() Expected a value of type

  如果pytorch_geometric中的softmax函数报错，声明一下num_nodes变量即可。
一穷二白到年薪百万·2025-02-27 11:11

Windows环境安装torch_geometric库报错

查阅了各种资料尝试了各种方法，有的说是因为visualc++buildtools没有安装博客链接，有的说升级conda甚至还有的说卸载pytorch重装命，令行如下：condaupdate#升级conda
一穷二白到年薪百万·2025-02-27 11:11

用 PyTorch/TensorFlow 搭建简单全连接神经网络

目录用PyTorch/TensorFlow搭建简单全连接神经网络网络结构概述1.使用PyTorch构建网络2.使用TensorFlow构建网络总结用PyTorch/TensorFlow搭建简单全连接神经网络在本篇博客中
gs80140·2025-02-27 08:21

用于训练基于pytorch构建的小型字符级语言模型的数据集汇总

前文，我们从零开始基于transformer框架在pytorch上构建一个小型字符级语言模型，并编写了完整的python示例，模型是需要训练的，所以在原有代码的基础上，我们寻找一些公开的数据集对模型进行训练
搏博·2025-02-27 06:03

50、深度学习-自学之路-自己搭建深度学习框架-11、添加RNN递归神经网络层为了浮现RNN的神经网络使用框架。

importnumpyasnpclassTensor(object):def__init__(self,data,autograd=False,creators=None,creation_op=None,id=None):self.data=np.array(data)self.autograd=autogradself.grad=Noneif(idisNone):self.id=np.rand
小宇爱·2025-02-27 06:01

52、深度学习-自学之路-自己搭建深度学习框架-13、对话预测功能，使用我们自己建的架构重写RNN预测网络,程序的详细解读。

importnumpyasnpclassTensor(object):def__init__(self,data,autograd=False,creators=None,creation_op=None,id=None):self.data=np.array(data)self.autograd=autogradself.grad=Noneif(idisNone):self.id=np.rand
小宇爱·2025-02-27 06:01

扣子和DIfy调用deepseek对比分析

又闻言，Dify、TensorFlow、PyTorch、Keras、Fastai、HuggingFace等工具可以微调诸如deepseek、chatgpt、doubao等大模型。
ISDF-CodeInkVotex·2025-02-27 06:30

29、深度学习-自学之路-深入理解-NLP自然语言处理-做一个完形填空，让机器学习更多的内容程序展示

importsys,random,mathfromcollectionsimportCounterimportnumpyasnpnp.random.seed(1)random.seed(1)f=open('reviews.txt')raw_reviews=f.readlines()f.close()tokens=list(map(lambdax:(x.split("")),raw_reviews)
小宇爱·2025-02-27 06:30

c++ 智能指针_超详细 C/C++ 学习路线分析：学好 C/C++，走遍天下都不怕

如果大家如果在自学遇到困难，想找一个C++学习环境，可以加入我们的C++学习圈，点击我加入吧，会节约很多时间，减少很多在学习中
weixin_39637919·2025-02-27 04:13

基于 YOLO 进行车道线检测与目标检测算法研究及开发的一般步骤

以下是关于基于YOLO进行车道线检测与目标检测算法研究及开发的一般步骤和相关内容：1.环境搭建首先确保你的开发环境安装了必要的软件和库，推荐使用Python语言，以下是一些关键库：PyTorch：YOLO
pk_xz123456·2025-02-26 23:37
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他