动手学深度学习第24页

【动手学深度学习】softmax回归的从零开始实现（PyTorch版本）（含源代码）

目录：softmax回归的从零开始实现一、理论基础1.1前言1.2分类问题1.3网络架构1.4全连接层的参数开销1.5softmax运算1.6小批量样本的矢量化1.7损失函数1.7.1对数似然1.7.2softmax及其导数1.7.3交叉熵损失1.8信息论基础1.8.1熵1.8.2信息量1.8.3重新审视交叉熵1.9模型预测和评估二、softmax回归的从零开始实现（PyTorch版本）2.1导包

旅途中的宽~·2022-11-21 20:03

经典机器学习方法（3）—— 多层感知机

参考：动手学深度学习注：本文是jupyternotebook文档转换而来，部分代码可能无法直接复制运行！

云端FFF·2022-11-21 20:09

动手学深度学习——多层感知机的激活函数及代码实现

感知机给定输入x（向量），权重w（向量），和偏移b（标量），感知机输出：感知机不能拟合XOR函数，他只能产生线性分割面。感知机是一个二分类的模型，是最早的AI模型之一。感知机的求解算法等价于使用批量大小为1的梯度下降。多层感知机1、学习XOR2、单隐藏层-单分类为什么需要非线性的激活函数？如果不加激活函数，就是n个全连接层叠加在一起，输出还是一个最简单的线性模型。3、激活函数3.1sigmoid函

橙子吖21·2022-11-21 19:30

动手学深度学习——多层感知机从零开始实现及简洁实现

多层感知机从零开始实现#首先需要导入需要的包importtorchimportnumpyasnpimportsyssys.path.append("..")importd2lzh_pytorchasd2l"""1、获取数据使用FashionMNIST数据集，使用多层感知机对图像开始分类"""batch_size=256#批量大小设置为256，也就是每次读取256张图片train_iter,test

橙子吖21·2022-11-21 19:30

李沐-动手学深度学习-pytorch版-”d2lzh_pytorch”包的使用

github上直接的代码github上需要导入时写的代码块importtorchimporttorchvisionimportnumpyasnpimportsyssys.path.append("..")#为了导入上层目录的d2lzh_pytorchimportd2lzh_pytorchasd2l自己写的代码块importtorchimporttorchvisionimportnumpyasnpi

熊猫眼眼·2022-11-21 18:47

＜动手学深度学习＞之pytorch版本，配置d2lzh_pytorch包

1.百度网盘下载d2lzh_pytorch(永久免费访问)链接：https://pan.baidu.com/s/1-wHriEbpSPGILpzPEV7hFA?pwd=data提取码：data2.传入到anaconda的文件中打开anaconda,找到Lib文件中的site-packages,将d2lzh_pytorch文件夹复制进来（以anaconda3为例子）3.安装其它关联包使用pipins

iQiuHua·2022-11-21 18:41

《动手学深度学习Pytorch版》中‘d2lzh_pytorch‘模块问题

1、下载d2lzh_pytorchd2lzh_pytorch传送门2、解压，放入python环境里文件路径如下：3、回到代码，运行d2lzh_pytorch模块3.1、错误提示：ModuleNotFoundError:Nomodulenamed‘tqdm’直接命令行，pipinstalltqdm即可安装tqdm模块。3.2、错误提示：ModuleNotFoundError:Nomodulename

不一样的天蝎座·2022-11-21 18:28

李沐老师的《动手学深度学习PyTorch》中的d2lzh_python包的安装

关于RNN章节以及模型章节等会使用到d2l的python包cmd下载地址：pipinstalld2l-ihttps://pypi.doubanio.com/simple/

Monica_428·2022-11-21 18:58

动手学深度学习（pytorch版）d2lzh_pytorch导入问题汇总

前言今天在导入包时遇到了很多问题，网上的解法大多不适用。我对遇到的问题的解决方法和网上已有的解法不同，所以想在这里总结一下。问题总结：问题一：d2lzh_pytorch安装路径这一个问题可以用网上的回答解决，下载地址百度网盘请输入提取码提取码为Llyh。把文件夹放在下图位置即可。问题二：ImportError:Nomodulenamed'tqdm'网上已有的做法是直接命令行（cmd）或Anacon

独舞曼巴风骨·2022-11-21 18:53

Python · House Prices - Advanced Regression TechniquesKaggle实战：预测房价

1.动手学深度学习课程版本目录1.动手学深度学习课程版本1.1下载和缓存数据集¶1.2数据预处理1.3训练1.4K折交叉验证1.5模型选择1.6提交你的Kaggle预测Kaggle上的代码：http:/

pxyp123·2022-11-21 17:06

李沐动手学深度学习V2-ResNet残差网络模型和代码实现

1.ResNet1.1神经网络嵌套函数和非嵌套函数(前提知识)：首先，假设有一类特定的神经网络架构F\mathcal{F}F，它包括学习速率和其他超参数设置。对于所有f∈Ff\in\mathcal{F}f∈F，存在一些参数集（例如权重和偏置），这些参数可以通过在合适的数据集上进行训练而获得。现在假设f∗f^*f∗是我们真正想要找到的函数，如果是f∗∈Ff^*\in\mathcal{F}f∗∈F，那

cv_lhp·2022-11-21 16:53

李沐动手学深度学习V2-Encoder-Decoder编码器和解码器架构

一.encoder-decoder编码器和解码器架构1.介绍机器翻译是序列转换模型的一个核心问题，其输入和输出都是长度可变的序列。为了处理这种类型的输入和输出，可以设计一个包含两个主要组件的架构：第一个组件是一个编码器（encoder）：它接受一个长度可变的序列作为输入，并将其转换为具有固定形状的编码状态。第二个组件是解码器（decoder）：它将固定形状的编码状态映射到长度可变的序列。这被称为编

cv_lhp·2022-11-21 16:23

动手学深度学习----线性回归（从0开始实现）

基础概念线性回归的过程是已知数据点，需要通过一条直线来拟合这些点，这条直线对应的参数都是通过线性回归求得例子：假设y=X×w+by是一个房子的价格X是一个向量[X1,X2]，X1是面积，X2是位置，是影响y的因素，w是X中对应的权重[w1,w2]T,b是偏差y=w1×X1+w2×X2+b通过梯度下降寻找不断更新参数以得到最优解从0实现线性回归代码是指定w为[2,3.4]Tb为4.2构造一个随机数据

几度热忱·2022-11-21 16:45

动手学深度学习（0-3章）代码

我们将本书中经常导⼊和引⽤的函数、类等封装在d2l包中。importcollections#提供有关集合的操作importhashlib#提供字符串加密的功能importmathimportos#处理文件和目录importrandomimportre#正则表达式importshutil#复制、移动、删除、压缩、解压文件importsys#与python解释器交互的一个接口importtarfile

我的宠物不是小马·2022-11-21 16:44

Pytorch 多层感知机

多层感知机0.环境介绍环境使用Kaggle里免费建立的Notebook教程使用李沐老师的动手学深度学习网站和视频讲解小技巧：当遇到函数看不懂的时候可以按Shift+Tab查看函数详解。

哇咔咔负负得正·2022-11-21 12:30

github机器学习和深度学习资源汇总

2.9k）https://github.com/INTERMT/Awesome-PyTorch-Chinese中文文档https://pytorch-cn.readthedocs.io/zh/latest/动手学深度学习

The__Aviator·2022-11-21 06:30

深度学习入门资源与小Demo

误区2：一直读文献而由于种种原因不动手做实验误区3：一定要完完全全从头搭建一个框架如何打破误区，这里我推荐一份学习路线和资源：1.李沐动手学深度学习。

翁乐安·2022-11-21 05:33

李沐动手学深度学习-学习笔记之预备知识

zizz7177·2022-11-21 04:16

53 语言模型动手学深度学习 PyTorch版李沐视频课笔记

动手学深度学习PyTorch版李沐视频课笔记李沐视频课笔记其他文章目录链接(不定时更新)文章目录动手学深度学习PyTorch版李沐视频课笔记一、语言模型1.语言模型和数据集2.词频图3.二元语法词频4.

认真学习的小张·2022-11-21 04:15

52 文本预处理动手学深度学习 PyTorch版李沐视频课笔记

动手学深度学习PyTorch版李沐视频课笔记李沐视频课笔记其他文章目录链接(不定时更新)文章目录动手学深度学习PyTorch版李沐视频课笔记一、文本预处理1.引包2.将数据集读取到多行文本组成的列表中3

认真学习的小张·2022-11-21 04:44

《动手学深度学习pytorch版》（李沐）课程笔记--数据操作及预处理

一.N维数组N维数组是机器学习和神经网络的主要数据结构，其中：0维数组即标量；1维数组即向量；2维数组即矩阵；3维数组最简单的即为RGB图片（宽×高×通道）；注：彩色图片的通道数为3（因为有三原色），黑白图片的通道数为1。4维数组可以理解为n个三维数组放在一起，如RGB图片的批量（批量大小×宽×高×通道）5维数组如一个视频的批量（批量大小×时间×宽×高×通道）二.创建数组创建数组需要3个要素。1.

追梦小白农·2022-11-21 04:14

【机器学习】《动手学深度学习 PyTorch版》李沐深度学习笔记（Alexnet）

AlexNet一.alexnet与lenet的区别二.主要区别（1）激活函数从sigmoid变成ReLu（缓解梯度消失）（2）隐层全连接层后加入了丢弃层（3）数据增强（图像的随机翻转）三.详细图解四.一些小问题1.LRN没有什么用，在后续的网络中就没有再使用过了2.必须是两个，砍掉一个效果会变差3.这个resize不会直接把图像变得非常的小，它会先把图片进行等比缩减，在中间扣一块出来或者抠几块，所

Jul7_LYY·2022-11-21 04:13

【机器学习】《动手学深度学习 PyTorch版》李沐深度学习笔记（神经网络卷积池化）

第一章卷积层1.对全连接层使用平移不变性（核不变）和局部性得到卷积层2.卷积层将输入和卷积核进行交叉相关（卷积其实是交叉相关的180°翻转），加上偏移后得到输出3.核矩阵和偏移是可学习的参数（核也在动态更新）4.核矩阵的大小是超参数5.全连接层权重会随着输入的变大会变得超级大，卷积不会产生这个问题（含有全连接层的网络输入数据的大小应该是固定的，这是因为全连接层和前面一层的连接的参数数量需要事先确定

Jul7_LYY·2022-11-21 04:43

《动手学深度学习pytorch版》（李沐）课程笔记--安装

关于李沐老师的安装流程，我没有听的很懂，单纯站在自己的角度发表一下自己的安装过程。我用的是anaconda3，直接官网搜索并且下载好之后（不用下python，anaconda会自带），在anaconda的命令窗口中运行：pipinstalltorchtorchvisiond2l即可。这种情况下已经不影响继续听课学习了，后续有什么问题再解决并更新。另外，如果有使用pycharm的同学，可以直接在py

追梦小白农·2022-11-21 04:43

2021动手学深度学习笔记pytorch版本--2.1预备知识

深度学习小白一枚，最近在看李沐的动手学深度学习（2021版本），一些代码感觉看不太懂，于是写个博客记录下代码的一些个人理解，也方便后续复习。

生而无畏，战至终章·2022-11-21 04:12

李沐「动手学深度学习」中文课程笔记来了！

亚马逊资深首席科学家李沐博士的「动手学深度学习」中文系列课程，这门课从3月持续到8月，超过28000人参与了直播，课程回放在B站的播放量达到了上百万次。

风度78·2022-11-21 04:40

李沐《动手学深度学习》新增PyTorch和TensorFlow实现，还有中文版

李沐老师的《动手学深度学习》已经有Pytorch和TensorFlow的实现了，并且有了中文版。

风度78·2022-11-21 04:10

【机器学习】《动手学深度学习 PyTorch版》李沐深度学习笔记

第十一章模型选择+过拟合和欠拟合1.区分两种误差2.分清两种重要的数据集3.K-则交叉验证4.欠拟合和过拟合解决办法：（欠拟合）1.获得更多的训练数据2.降维3.正则化：保留特征、减少参数大小（过拟合）1.添加新特征2.增加模型复杂度3.减小正则化系数5.估计模型容量全连接层如何计算参数的个数：h=wx+b(h充当下一次的x每一层的b只有1个)6.总结7.一些小问题：1.Svm的缺点：不适用于大数

Jul7_LYY·2022-11-21 04:35

01 课程安排【动手学深度学习】

进击的reader·2022-11-21 00:18

动手学深度学习（十七）——CNN基础知识

文章目录1、从全连接层到卷积1.1限制多层感知机1.2平移不变性1.3局部性1.4卷积定义2、图像卷积2.1卷积层2.1.1简单应用：检测图片中不同颜色的边缘2.2卷积核2.3互相关和卷积2.4特征映射和感受野2.5填充和步幅2.5.1填充2.5.2步幅2.6多输入多输出通道2.6.1多输入通道2.6.2多输出通道2.71X1卷积3、参考:1、从全连接层到卷积1.1限制多层感知机首先，假设以二维图

留小星·2022-11-21 00:12

李沐动手学深度学习V2-Dropout丢弃法笔记以及代码实现

模型过拟合两种解决方法，也都是属于正则化方式：（1）权重衰减（2）Dropout丢弃法模型过拟合出现的原因是模型太过复杂，从而时模型把数据的噪音都完美拟合了出来，也就是把训练数据训练的过于拟合了，而在测试数据集上面误差却比训练时相差太大，权重衰减和Dropout就是使模型变得简单，不那么复杂权重衰减通过限制模型权重参数为一个小的范围，使模型函数趋于平滑；权重衰减是作用于loss函数上面，常见的有L

cv_lhp·2022-11-21 00:41

动手学深度学习》笔记 2.4 “微积分”

在微积分这一章节中，理论知识自不必说，考研都考过了的。就是在此书中的画出函数微分图像的示例值得关注一下。说白了其实就是我的python基础还是差劲了点。比较值得注意的点是，作者将画图的代码都封装到了一个函数里，比如图的横纵坐标的参数，以及图的尺寸的大小，当后面多处需要画图时，简单调用就行。这是每一个初学编程者学到函数章节时都会学的思想，只不过被我这个小菜鸡遗忘了。在这一小节，记录的还是在此书示例时

Master_Chen~·2022-11-21 00:07

动手学深度学习v2（pytorch版）——多层感知机

多层感知机定义我们可以通过在网络中加入一个或多个隐藏层来克服线性模型的限制，使其能处理更普遍的函数关系类型。要做到这一点，最简单的方法是将许多全连接层堆叠在一起。每一层都输出到上面的层，直到生成最后的输出。我们可以把前−1层看作表示，把最后一层看作线性预测器。这种架构通常称为多层感知机（multilayerperceptron），通常缩写为MLP。多层感知机在输出层和输入层之间增加一个或多个全连接

小趴菜hahaha·2022-11-21 00:06

多层感知机的简洁实现

注：本文参考李沐老师的动手学深度学习第二版，代码是教材上的，我只是调整一些参数，加一些层数看看训练效果。

无眠·2022-11-20 23:29

动手学深度学习Pytorch---预备知识

【1】预备知识1.1数据操作1）x=torch.arange(12)#包含以0开始的前12个整数的行向量，默认为整数。也可指定创建类型为浮点数。2）x.shape#可通过张量的shape属性来访问张量（沿每个轴的长度）的形状。3）x.numel()#返回数组中元素的个数4）torch.Size([12])#检测它的大小5）X=x.reshape(3,4)#改变张量的形状而不改变元素数量和元素值。#

xuehao555·2022-11-20 22:02

动手学习深度学习 PyTorch版-笔记汇总-不完全指北

一、课程资源B站：动手学深度学习PyTorch版教材：动手学深度学习2.0.0-beta1documentation(d2l.ai)课程论坛讨论：中文版-D2LDiscussionPytorch论坛：PyTorchFor

DLNovice·2022-11-20 22:57

动手学深度学习----线性回归的简洁实现

线性回归的简洁实现—调用pytorch中封装好的函数#线性回归的简洁实现importnumpyasnpimporttorchfromtorch.utilsimportdatafromd2limporttorchasd2lfromtorchimportnn#nn是神经网络的缩写true_w=torch.tensor([2,-3.4])true_b=4.2features,labels=d2l.syn

几度热忱·2022-11-20 22:19

动手学深度学习Pytorch---线性神经网络

【1】线性神经网络1.1softmax回归—分类问题1）回归vs分类回归估计一个连续值分类预测一个离散类别回归：1.单连续数值输出；2.自然区间R；3.跟真实的区别作为损失。分类：1.通常多个输出；2.输出i是预测为第i类的置信度。2）从回归到多类分类----------均方损失、无校验比例对类别进行一位有效编码y=[[[y_1，，，y_2，...，，...，，...，y_n]T]^T]Tyi={

xuehao555·2022-11-20 22:48

线性回归模型的从零开始 || 深度学习 || Pytorch ||动手学深度学习08 || 跟李沐学AI

——高适本文是对于跟李沐学AI——动手学深度学习第8节：线性回归的从零开始的代码实现、从生成数据集到模型参数的初始化、从创建数据迭代器到定义线性回归模型、损失函数与优化函数、最后根据设置的迭代轮次对模型进行训练

KevinDuangDuangDuang·2022-11-20 21:20

李沐动手学深度学习第四章-4.4模型选择、欠拟合和过拟合

如何发现可以泛化的模式是机器学习的根本问题。1.训练误差和泛化误差训练误差（trainingerror）是指模型在训练数据集上计算得到的误差。泛化误差（generalizationerror）是指，模型应用在同样从原始样本的分布中抽取的无限多数据样本时，模型误差的期望。考虑对掷硬币的结果（类别0：正面，类别1：反面）进行分类的问题。假设硬币是公平的，无论我们想出什么算法，泛化误差始终是1/2。然而

nousefully·2022-11-20 21:14

李沐动手学深度学习第四章-4.6暂退法（Dropout）

1.重新审视过拟合即使我们有比特征多得多的样本，深度神经网络也有可能过拟合。2.扰动的稳健性毕晓普的想法应用于网络的内部层提出了一个想法：在训练过程中，他们建议在计算后续层之前向网络的每一层注入噪声。因为当训练一个有多层的深层网络时，注入噪声只会在输入-输出映射上增强平滑性。这个想法被称为暂退法（dropout）。暂退法在前向传播过程中，计算每一内部层的同时注入噪声，这已经成为训练神经网络的常用技

nousefully·2022-11-20 21:14

【动手学深度学习】1.数据操作 + 数据预处理

前言这一部分笔记讲解的是数据的一些操作及其预处理，涉及torch库，numpy库，以及pandas库，有疑问可以直接搜这些库。数据操作1.N维数组是机器学习和神经网络的主要数据结构。下面是N维数组样例：2.创建数组访问元素在jupyter中实践一下，importnumpy引入numpy库定义一个二维数组：而后访问一些元素：前四个访问都好理解，只需要注意索引是从0开始，和别的编程语言一样，且冒号左右

Roar_Ryoma·2022-11-20 20:06

【动手学深度学习笔记】一.数据操作

文章目录1.张量的概念1.1.torch.arange(12)1.2.reshape(3,4)1.3.torch.zeros(2,3,4)1.4.torch.ones((2,3,4))1.5.torch.randn(2,3,4)1.6.torch.tensor([[2,3,4],[3,4,5]])2.运算符3.广播机制1.张量的概念概念：Pytorch或者Tensorflow中的TensorTen

Allenpandas·2022-11-20 20:34

（零）多输入多输出通道

参考视频：沐神动手学深度学习-多输入多输出通道多输入通道，如彩色图像，RGB三个通道。转换为灰度会丢失信息。多个输入通道每个通道都有一个卷积核，结果就是所有通道卷积结果的和。

我要糖·2022-11-20 18:42

SOFTMAX回归的从零开始实现

《动手学深度学习pytorch》部分学习笔记，仅用作自己复习。

Clark-dj·2022-11-20 15:51

动手学深度学习-pytorch版

Task01线性回归线性回归的基本要素：模型、数据集、损失函数和优化函数Softmax与分类模型多层感知机Task02文本预处理文本是一类序列数据，一篇文章可以看作是字符或单词的序列，本节将介绍文本数据的常见预处理步骤，预处理通常包括四个步骤：1.读入文本2.分词3.建立字典，将每个词映射到一个唯一的索引（index）4.将文本从词的序列转换为索引的序列，方便输入模型读入文本lines=[re.s

qq_30205387·2022-11-20 14:52

torch not compiled with CUDA enabled

由于我跟着李沐老师的本地CUDA和Pytorch安装视频：Windows下安装CUDA和Pytorch跑深度学习-动手学深度学习v2_哔哩哔

每天只睡23小时·2022-11-20 12:19

chapter_linear-networks：softmax回归

softmax回归sec_softmax参考动手学深度学习教材对应章节：https://zh-v2.d2l.ai/根据课程相关章节的Jupyter文件进行运行得到结果并导出。

weiket·2022-11-20 10:24

动手学深度学习（五十）——多头注意力机制

文章目录1.为什么用多头注意力机制2.什么是多头注意力机制3.多头注意力机制模型和理论计算4.动手实现多头注意力机制层小结练习1.为什么用多头注意力机制所谓自注意力机制就是通过某种运算来直接计算得到句子在编码过程中每个位置上的注意力权重；然后再以权重和的形式来计算得到整个句子的隐含向量表示。自注意力机制的缺陷就是：模型在对当前位置的信息进行编码时，会过度的将注意力集中于自身的位置，因此作者提出了通

留小星·2022-11-20 07:59

动手学深度学习李沐 —预备知识01

文章目录摘要1.数据操作1.1基本入门操作1.2运算1.3广播机制1.4索引和切片1.5节省内存1.6转换为其他Python对象2.数据预处理2.1读取数据集2.2处理缺失值2.3删除缺失值2.4转换为张量格式摘要一是讲解深度学习存储和操作数据的主要接口是张量（维数组）。它提供了各种功能，包括基本数学运算、广播、索引、切片、内存节省和转换其他Python对象。二是讲解了创建及用pandas加载cs

HSR CatcousCherishes·2022-11-20 06:29

推荐频道

动手学深度学习