《动手学深度学习

动手学深度学习（一）深度学习介绍2

目录二、起源三、深度学习的成功案例：四、特点：五、小结：二、起源为了解决各种各样的机器学习问题，深度学习提供了强大的工具。虽然许多深度学习方法都是最近才有重大突破，但使用数据和神经网络编程的核心思想已经研究了几个世纪。事实上，人类长期以来就有分析数据和预测未来结果的愿望，而自然科学大部分都植根于此。例如，伯努利分布是以雅各布•伯努利（1654-1705）命名的。而高斯分布是由卡尔•弗里德里希•高斯
Shining0596·2024-01-30 02:00

学习笔记-李沐动手学深度学习（五）（14-15，数值稳定性、模型初始化和激活函数、Kaggle房价预测）

总结14-数值稳定性（梯度爆炸、梯度消失）尤其是对于深度神经网络（即神经网络层数很多），最终的梯度就是每层进行累乘理论t：为第t层y：不是之前的预测值，而是包括了损失函数L所有的h都是向量（向量关于向量的导数是矩阵）（博客）：①MLP：多层感知机。②对角矩阵(diagonalmatrix)是一个主对角线之外的元素皆为0的矩阵，常写为diag(a1,a2,…,an)。③diag*W把diag和W分开
kgbkqLjm·2024-01-29 05:17

《动手学深度学习(PyTorch版)》笔记4.9

Chapter4MultilayerPerceptron4.9EnvironmentandDistributionShift4.9.1TypesofDistributionShift在一个经典的情景中，假设训练数据是从某个分布pS(x,y)p_S(\mathbf{x},y)pS(x,y)中采样的，但是测试数据将包含从不同分布pT(x,y)p_T(\mathbf{x},y)pT(x,y)中抽取的未标
南七澄江·2024-01-28 18:44

《动手学深度学习(PyTorch版)》笔记4.8

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.8NumericalStabilityandModelInitialization4.8.1GradientVanishi
南七澄江·2024-01-28 08:01

《动手学深度学习(PyTorch版)》笔记4.6

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.6DropoutRegularization4.6.1ReexamineOverfitting当面对更多的特征而样本不足时
南七澄江·2024-01-28 08:00

《动手学深度学习(PyTorch版)》笔记4.7

Chapter4MultilayerPerceptron4.7Forward/BackwardPropagationandComputationalGraphs本节将通过一些基本的数学和计算图，深入探讨反向传播的细节。首先，我们将重点放在带权重衰减（L2L_2L2正则化）的单隐藏层多层感知机上。4.7.1ForwardPropagation前向传播（forwardpropagation或forwa
南七澄江·2024-01-28 08:00

《动手学深度学习(PyTorch版)》笔记4.4

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.4ModelSelection作为机器学习科学家，我们的目标是发现模式（pattern）。但是，我们如何才能确定模型是真正
南七澄江·2024-01-27 06:18

《动手学深度学习(PyTorch版)》笔记4.1

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.1BasicConcepts4.1.1HiddenLayer我们在第三章中描述了仿射变换，它是一种带有偏置项的线性变换。如
南七澄江·2024-01-27 06:48

《动手学深度学习(PyTorch版)》笔记4.2 4.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.2ImplementationsofMultilayer-perceptronfromScratchimportmatpl
南七澄江·2024-01-27 06:48

《动手学深度学习(PyTorch版)》笔记4.5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter4MultilayerPerceptron4.5WeightDecay前一节我们描述了过拟合的问题，本节我们将介绍一些正则化模型的技术。我们总是可以通过去收集更多的训练
南七澄江·2024-01-27 06:03

《动手学深度学习(PyTorch版)》笔记3.3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.3ConciseImplementationsofLinearRegressionimportnumpyasnpimpor
南七澄江·2024-01-26 18:34

学习笔记-李沐动手学深度学习（二）（08-09、线性回归、优化算法、梯度下降、Softmax回归、损失函数、图片分类）

总结以_结尾的方法，好像是原位替换（即原地修改，就地修改变量）如fill_()感恩的心：（沐神的直播环境）08-线性回归+基础优化算法引言（如何在美国买房）根据现在行情预测房价线性回归（简化模型）、线性模型、神经网络b为偏差扩展到一般化线性模型每个箭头代表一个权重当层单层神经网络原因：不看输出层，将权重层和input放一起带权重的层只有一层【书中】衡量预估质量1/2是为了求导时把2消去线性回归（求
kgbkqLjm·2024-01-26 17:59

学习笔记-李沐动手学深度学习（一）（01-07，概述、数据操作、tensor操作、数学基础、自动求导（前向计算、反向传播））

个人随笔第三列是jupyter记事本官方github上啥都有（代码、jupyter记事本、胶片）https://github.com/d2l-ai多体会【梯度指向的是值变化最大的方向】符号维度（弹幕说）2，3，4越后面维度越低4就是一维有4个标量00-预告01-课程安排02-深度学习介绍【语言是一个符号】【深度学习是机器学习的一种】最热的方向：深度学习和CV、NLP结合【AI地图】①如下图所示，X
kgbkqLjm·2024-01-26 17:28

学习笔记-李沐动手学深度学习（三）（10-11，隐藏层、多层感知机、激活函数、模型超参数选择、欠过拟合）

总结多体会（宏观、哲学）【深度学习的核心】首先是要模型足够大，在此基础上通过各种手段来控制模型容量，使得最终得到较小的泛化误差【一般深度学习特指神经网络这一块】【学习的核心是要学习本质上不变的那些核心思想，如欠过拟合、数据集怎么弄、训练误差泛化误差等等，因为很可能过几年有新的语言、新的技术出现。整个工科本质上都差不多，从某个方向深入学习到精髓，很容易向其他工科迁移】世界上有三种东西：艺术：我做了一
kgbkqLjm·2024-01-26 17:28

学习笔记-李沐动手学深度学习（四）（12-13，权重衰退、L2正则化、Dropout）

总结【trick】过拟合及正则化项参数的理解实际数据都有噪音，一般有噪音后，模型实际学习到的权重w就会比理论上w的最优解（即没有噪音时）大。（QA中讲的）【好问题】（1）不使用正则化（真正学习到的w=13理论上的w=0.01，相差的还是很大）（2）正则化权重lambd=3：明显已经减轻了过拟合的程度（但学到的w是0.3还是比实际的w=0.01偏大的多）因为实际上数据中有很多噪音，模型在学习时也会受
kgbkqLjm·2024-01-26 17:55

《动手学深度学习(PyTorch版)》笔记3.6

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.6ImplementationsofSoftmaxRegressionfromScratchimporttorchimpo
南七澄江·2024-01-26 09:52

《动手学深度学习(PyTorch版)》笔记3.5

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.5ImageClassificationDatasetimporttorchimporttorchvisionimport
南七澄江·2024-01-26 09:51

《动手学深度学习(PyTorch版)》笔记3.2

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.2ImplementationsofLinearRegressionfromScratchimportnumpyasnpi
南七澄江·2024-01-26 09:21

《动手学深度学习(PyTorch版)》笔记3.7

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，书上的源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode在python3.9.18下测试通过。Chapter3LinearNeuralNetworks3.7ConciseImplementationsofSoftmaxRegression从计算角度来看，指数可能会造成数值稳定
南七澄江·2024-01-26 09:21

【深度学习】动手学深度学习PyTorch版笔记

1前言看完前言！刚学深度学习那会看的是李沐老师的视频，同时做了些笔记，基本都是自己主观性比较强的笔记，而且也没看完，看了前面十几集后基本就是直接上实战，然后跳着看了。建议学习深度学习的同学直接去看视频跟李沐学AI。另外还推荐李宏毅老师的深度学习视频，不过他的视频我只看过部分，当时是结合李沐老师的视频看的，感觉很不错。看李沐老师的视频可能需要一些基础，而且老师讲的有些地方的确不太好理解（我是这样），
EucliwoodXT·2024-01-26 09:16

《动手学深度学习(PyTorch版)》笔记3.4

Chapter3LinearNeuralNetworks3.4SoftmaxRegression3.4.1ClassificationProblems一般的分类问题并不与类别之间的自然顺序有关，统计学家发明了一种表示分类数据的简单方法：独热编码（one-hotencoding）。独热编码是一个向量，它的分量和类别一样多。类别对应的分量设置为1，其他所有分量设置为0。在我们的例子中，标签yyy将是一
南七澄江·2024-01-26 09:42

02 深度学习介绍【动手学深度学习v2】

AI地图问题领域：感知：最底层的、我所了解到的东西、我所看到的。推理：基于看到的东西想象未来会发生的东西。知识：根据我看到的数据、我看到的现象来形成自己的知识结构。规划：在知道一些的基础上可以对未来做出一定的规划、我未来可以做些什么事情。自然语言处理：语言->符号计算机视觉：在一个图片里可以帮你做一些处理->图片很难用符号解释->使用概率模型深度学习：是机器学习的一种、可以做自然语言处理、计算机视
不安全的安保·2024-01-26 00:15

01 课程安排【动手学深度学习v2】学习目标

学习规划频率：每天1-2节课视频课程地址：跟李沐学AI的个人空间-跟李沐学AI个人主页-哔哩哔哩视频产出：主要阵地：CSDN：不安全的安保-CSDN博客知乎：不安全的安保-知乎Bilibili：不安全的安保的个人空间-不安全的安保个人主页-哔哩哔哩视频小红书号：455447847今日头条：https://www.toutiao.com/c/user/token/MS4wLjABAAAA47K97v
不安全的安保·2024-01-26 00:14

李沐《动手学深度学习》卷积神经网络 相关基础概念

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-01-25 13:21

李沐《动手学深度学习》深度学习计算

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-01-25 13:47

《动手学深度学习(PyTorch版)》笔记3

注：书中对代码的讲解并不详细，本文对很多细节做了详细注释。另外，本书源代码是在JupyterNotebook上运行的，较为分散，本文将代码集中起来，并加以完善，全部用vscode测试通过。Chapter3LinearNeuralNetworks3.1LinearRegression3.1.1BasicConcepts我们通常使用nnn来表示数据集中的样本数。对索引为iii的样本，其输入表示为x(i
南七澄江·2024-01-25 08:31

《动手学深度学习(PyTorch版)》笔记1

Chapter1Introduction机器学习的关键组件data每个数据集由一个个样本（example,sample）组成，大多时候，它们遵循独立同分布(independentlyandidenticallydistributed,i.i.d.)。样本有时也叫做数据点（datapoint）或数据实例（datainstance），通常每个样本由一组称为特征（features，或协变量（covari
南七澄江·2024-01-24 08:22

《动手学深度学习(PyTorch版)》笔记2

Chapter2PreliminariesAutomaticDifferentiation让计算机实现微分功能，有以下四种方式：-手工计算出微分，然后编码进代码-数值微分(numericaldifferentiation)-符号微分(symbolicdifferentiation)-自动微分（automaticdifferentiation）深度学习框架通过自动微分来加快求导。实际中，根据设计好的
南七澄江·2024-01-24 07:44

动手学深度学习-学习记录-00环境搭建

在此书的2.1节中，配置环境一直遇到问题，已解决特此记录一下。之前下载了anaconda，所以直接cmd，切换到压缩包文件目录，在https://zh.d2l.ai/d2l-zh-1.1.zip这个压缩包所在文件夹目录下，新建一个虚拟环境（condacreate-nDL（环境名）)。激活该环境：activateDL然后在此文件夹中找到environment.yml文件，进行更改：name:DLde
堂小白是小十三啊·2024-01-24 04:44

《动手学深度学习》环境搭建

教材：《动手学深度学习》（diveintodeeplearning）作者：李牧、埃斯顿·张等书籍开源网址：http://zh.d2l.ai/我的系统：windows10失败安装情况：按照书籍所述环境搭建方式搭建数次
yaru_z·2024-01-24 01:08

李沐-《动手学深度学习》--03-注意力机制

一、注意力机制1.注意力提示1）框架**随意：**跟随自己的想法的，自主的想法，例如query**不随意：**没有任何偏向的选择，例如Keys如何得到kvq2）Nadaraya-Watson核回归就是一个softmax，但是不可以学习，输入一个x_pred以后，将离x_pred由近到远的x_train所对应的y_train给定从大到小的权值，然后最后将所有的y_train和自己对应的权重相乘再相加
叮咚Zz·2024-01-23 20:51

李沐《动手学深度学习》多层感知机 深度学习相关概念

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归李沐《
丁希希哇·2024-01-21 04:16

李沐《动手学深度学习》多层感知机 模型概念和代码实现

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归李沐《动手学深度学习》线性神经网络softmax回归目录系列文章一
丁希希哇·2024-01-21 04:46

动手学深度学习5 矩阵计算

矩阵计算--矩阵怎么求导数1.导数和微分2.偏导数3.梯度1.向量-标量求导2.向量-向量求导3.拓展到矩阵4.链式法则5.小结QA练习课程安排：视频：https://www.bilibili.com/video/BV1eZ4y1w7PY/?spm_id_from=autoNext&vd_source=eb04c9a33e87ceba9c9a2e5f09752ef8课件：https://zh-v2
陌上阳光·2024-01-20 04:49

动手学深度学习3 数据操作+数据预处理

数据操作+数据预处理1.基础数据结构-N维数组2.数据操作实现--基础的张量运算1.张量--创建与赋值1.数据生成--创建torch.arange2.张量的属性--shape、numel3.reshape--改变张量的shape但是不改变其值4.初始化张量oneszeros等5.使用python列表或嵌套列表为张量赋值2.张量的运算1.标准算术运算符（+、-、*、/和**）加减乘除幂运算2.指数运
陌上阳光·2024-01-20 04:48

动手学深度学习6 自动求导

自动求导1.自动求导2.自动求导实现1.示例y=2XTXy=2X^TXy=2XTX关于列向量x求导。2.非标量变量的反向传播3.分离计算4.Python控制流的梯度计算QA1.ppt上隐式构造和显示构造为什么看起来差不多？2.需要正向反向都算一遍吗3.为什么pytorch会默认累积梯度4.为什么是0246，x^2对x求导这样理解吗？5.为什么深度学习中一般对标量求导而不是对矩阵或者向量6.多个lo
陌上阳光·2024-01-20 04:47

d2l包安装教程

目录一、下载d2l包1、错误的安装方法2、正确的安装方法二、可能会遇到的问题1、网络超时导致下载中断2、windowspowershell激活虚拟环境时报错一、下载d2l包直接按照教程安装—动手学深度学习
奉系坤阀·2024-01-19 09:20

李沐《动手学深度学习》线性神经网络 softmax回归

系列文章李沐《动手学深度学习》预备知识张量操作及数据处理李沐《动手学深度学习》预备知识线性代数及微积分李沐《动手学深度学习》线性神经网络线性回归目录系列文章一、softmax回归（一）问题背景（二）网络架构
丁希希哇·2024-01-19 08:36

初学AI-动手安装mxnet

最近看到网络上介绍的《动手学深度学习》，感觉是一本理论结合实际的好书。
小白天天向上·2024-01-19 01:30

[动手学深度学习-PyTorch版]-8.4计算性能-多GPU计算

8.4多GPU计算注：相对于本章的前面几节，我们实际中更可能遇到本节所讨论的情况：多GPU计算。原书将MXNet的多GPU计算分成了8.4和8.5两节，但我们将关于PyTorch的多GPU计算统一放在本节讨论。需要注意的是，这里我们谈论的是单主机多GPU计算而不是分布式计算。如果对分布式计算感兴趣可以参考PyTorch官方文档。本节中我们将展示如何使用多块GPU计算，例如，使用多块GPU训练同一个
蒸饺与白茶·2024-01-18 10:32

预备知识02-自动微分

线性代数、微积分这两个不作介绍，可以点击下方链接阅读原文2.3.线性代数—动手学深度学习2.0.0documentation(d2l.ai)2.4.微积分—动手学深度学习2.0.0documentation
良子c·2024-01-17 18:13

线性回归理论+实战

线性回归什么是线性回归3.1.线性回归—动手学深度学习2.0.0documentation(d2l.ai)模型损失函数模型拟合（fit）数据之前，我们需要确定一个拟合程度的度量。
良子c·2024-01-17 18:13

动手学深度学习：5.9 含并行连结的网络（GoogLeNet）

5.9含并行连结的网络（GoogLeNet）在2014年的ImageNet图像识别挑战赛中，一个名叫GoogLeNet的网络结构大放异彩[1]。它虽然在名字上向LeNet致敬，但在网络结构上已经很难看到LeNet的影子。GoogLeNet吸收了NiN中网络串联网络的思想，并在此基础上做了很大改进。在随后的几年里，研究人员对GoogLeNet进行了数次改进，本节将介绍这个模型系列的第一个版本。5.9
AI_Younger_Man·2024-01-16 06:43

27 含并行连结的网络 GoogLeNet / Inception V3【动手学深度学习v2】（笔记）

一、含并行连结的网络GoogLeNet/InceptionV31、卷积层个数超过了100层，怎么选择最好的卷积层超参数2、GoogleLeNet全要首先，输入和输出等高等宽其次，不同的路径3、白色的1*1卷积层是用来改变通道数的蓝色的卷积层是用来抽取信息的4、为啥要用Inception块？5、展示Googlenet，高宽减半就是一个stage6、展示一下具体是怎么设计的7、变种，这些常用一点8、诡
hlllllllhhhhh·2024-01-16 06:41

《动手学深度学习》学习笔记 第10章 注意力机制

本系列为《动手学深度学习》学习笔记书籍链接：动手学深度学习笔记是从第四章开始，前面三章为基础知识，有需要的可以自己去看看关于本系列笔记：书里为了让读者更好的理解，有大篇幅的描述性的文字，内容很多，笔记只保留主要内容
北方骑马的萝卜·2024-01-15 19:13

研0或研一|如何快速入门深度学习？

一、经验建议1️⃣课程篇直接上手B站【小土堆PyTorch深度学习快速入门教程】，共计9h50min左右，预计一周就可以学完，比较偏向理论和实践相结合跟李沐学AIB站【动手学深度学习PyTorch版】刘二大人
-希冀-·2024-01-15 08:13

组队学习《动手学深度学习》Task01学习笔记

Task01包含了线性回归模型，softmax模型，多层感知机，文本预处理，语言模型，循环神经网络这几块内容这里主要记录一些零碎的笔记，主要是关于理论1、线性回归模型就是使用了一个线性函数去拟合样本，得到预测值，当然这是一个回归模型，所以是连续的。2、softmax模型则是首先通过一个全连接层将特征空间变换为我们我们所需要的类别维度空间，然后将类别维度空间利用sigmoid函数放缩到[0,1]，变
612twilight·2024-01-14 23:46

动手学深度学习

本期Datawhale组队学习呢，是学习李沐老师的动手学深度学习pytorch版本，希望自己能坚持学下去有所收获。
伟伟好帅·2024-01-14 07:01

李沐—动手学深度学习笔记

目录引言1.2机器学习中的关键组件1.3.1监督学习2.预备知识2.1数据操作2.1.3.广播机制2.1.4.索引和切片2.1.5.节省内存2.1.6.转换为其他Python对象2.2.数据预处理2.2.1.读取数据集2.2.2.处理缺失值2.2.3.转换为张量格式2.3.线性代数2.3.2.向量2.3.5.张量算法的基本性质2.3.6.降维3.线性神经网络4.多层感知机4.1多层感知机4.1.1
比三毛多一根头发·2024-01-14 07:30

李沐《动手学深度学习》预备知识 张量操作与数据处理

目录一、数据操作（一）张量的创建（二）张量的运算（三）张量的广播机制（四）索引和切片（五）转换为其他Python对象二、数据预处理（一）数据集读取（二）缺失值处理（三）转换为张量格式教材：李沐《动手学深度学习
丁希希哇·2024-01-14 07:29
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他