动手学深度学习学习整理第21页

10 多层感知机

李沐大神动手学深度学习课程笔记简单学习笔记，详情请阅读https://zh-v2.d2l.ai/importtorchfromtorchimportnnfromd2limporttorchasd2lbatch_size

Myrna_Q·2023-04-03 13:38

《动手学深度学习》之多层感知机

文章目录多层感知机从线性到非线性激活函数ReLU函数sigmoid函数tanh函数模型选择、欠拟合和过拟合训练误差和泛化误差统计学习理论模型复杂性模型选择验证集KKK折交叉验证权重衰减范数与权重衰减Dropout正向传播、反向传播和计算图数值稳定性和模型初始化梯度消失和梯度爆炸参数初始化默认初始化Xavier初始化环境和分布偏移分布偏移的类型协变量偏移标签偏移概念偏移分布偏移示例医学诊断自动驾驶汽

QxwOnly·2023-04-03 13:05

[动手学深度学习] 03 多层感知机

多层感知机1.多层感知机1.1激活函数1.2多层感知机的实现2.正则化2.1范数2.21范数与2范数正则化3.Dropout3.1简单实现Reference1.多层感知机多层感知机(multilayerperceptron)通常被称作MLP，也叫做深度前馈网络。多层感知机中的多层体现在，在之前的先行神经网络中添加了一个隐藏层。如下图所示：这是一个两层的神经网络。其中的层数指的是神经元之间的权重参数

gokingd·2023-04-03 13:32

动手学深度学习_多层感知机

MLP多层感知机解决了非线性问题！结束了！就是这样！一个简单的两层MLP（关于MLP的层数，除去输入层剩下的都算作层数）的实现。importtorchfromd2limporttorchasd2lfromtorchimportnnbatch_size,lr,num_epochs=256,0.1,10train_iter,test_iter=d2l.load_data_fashion_mnist(b

CV小Rookie·2023-04-03 13:22

动手学深度学习之多层感知机

多层感知机(MLP)是早期就出现的神经网络，拥有一层隐藏层，但由于没有非线性的激活函数，即使2层也只是做线性映射，功效与单层输出的神经网络差不多，本节将介绍MLP的基本概念以及如何解决MLP存在的缺陷。MLP隐藏层形式化如下：H=XWh+BhO=HWo+Bo=XWhWo+BhWo+BoH=XW_h+B_h\\O=HW_o+B_o=XW_hW_o+B_hW_o+B_oH=XWh+BhO=HWo+Bo

程序猿一帆·2023-04-03 13:21

《动手学深度学习》（3）多层感知机

目录感知机多层感知机解决XOR问题单隐藏层激活函数Sigmoid激活函数Tanh激活函数ReLU激活函数多类分类多隐藏层总结多层感知机的实现模型选择两种误差验证数据集和测试数据集K折交叉验证总结过拟合和欠拟合模型容量估计模型容量VC维数据复杂度总结其他知识点权重衰退使用均方范数作为硬性限制使用均方范数作为柔性限制参数更新法则总结其他知识点丢弃法（dropout）数值稳定性模型初始化和激活函数让训练

坚持不懈的小白白·2023-04-03 13:43

UVM学习整理——UVM整体介绍

目录一、典型UVM验证平台介绍1.1典型UVM验证平台的主要组成和基本功能1.2UVM类库地图1.3UVM常用类的继承关系一、典型UVM验证平台介绍1.1典型UVM验证平台的主要组成和基本功能driver：向sequencer申请sequence_item(数据包transaction)，并将包里的信息按照总线协议规定驱动到DUT的端口上；sequencer：组织管理sequence，driver

Like_ai·2023-04-03 12:34

CSDN周赛第41期：赢《动手学深度学习（PyTorch版）》和定制周边

本场竞赛由「人民邮电出版社&CSDN」联合主办，「卷积传媒」协办。一、报名方式第41期周赛报名地址，3月29日19点开考（周三）：https://edu.csdn.net/contest/detail/54第42期周赛也在报名中，4月2日9点开考（周日）：https://edu.csdn.net/contest/detail/56第43期周赛也在报名中，4月5日19点开考（周三）：https://

CSDN学习·2023-04-03 11:37

Java8新特性——Map的新方法

（本博客的代码根据java8新特性教程学习整理，加上个人的理解而成，关于某个新特性的介绍代码里的注释已经阐述清楚，故不再写文字介绍，直接看代码吧！）本篇介绍java8的新特性之一：Map的新方法。

gdouchufu·2023-04-03 07:14

SPSS实现协方差分析

总目录：SPSS学习整理SPSS实现协方差分析目的适用情景数据处理SPSS操作SPSS输出结果分析知识点目的观察协变量对因变量的影响效应适用情景方差分析前提：各个总体服从正态分布各个总体方差相等观测值独立数据处理

sayasora·2023-04-02 17:05

nginx学习整理

nginx配置文件说明nginx.conf位于其安装目录的conf目录下user是个主模块指令，指定NginxWorker进程运行用户以及用户组，默认由nobody账号运行。worker_processes:主模块指令，指定了Nginx要开启的进程数。每个Nginx进程平均耗费10M~12M内存。建议指定和CPU的数量一致即可。error_log:主模块指令，用来定义全局错误日志文件。日志输出级别

边城jie·2023-04-02 17:56

Nginx学习整理|入门记录

目录1.Nginx概述1.1Nginx介绍1.2Nginx下载和安装1.3Nginx目录结构2.Nginx命令3.Nginx配置文件结构4.Nginx具体应用4.1部署静态资源4.2反向代理4.3负载均衡1.Nginx概述1.1Nginx介绍Nginx是一款轻量级的Web服务器/反向代理服务器及电子邮件（IMAP/POP3）代理服务器。其特点是占有内存少，并发能力强，事实上nginx的并发能力在同

记录学习的習習君·2023-04-02 17:19

nginx 学习整理

今天在新浪微博上看到一篇文章《agentzh的Nginx教程》,本抱着看看还有什么不知道的态度，可是遇到了问题......记得第一次用nginx的时候，也是我写的第一个有人用的网站，之前的网站都类似练手，基本上都没有考虑过服务器之类的东西，用的是apache。LAMP的模式，安装好后就直接用了，最多配置一下网站的根目录。现在问题来了，要求用nginx+fastcgi来运行php编写的网站，因为网站

w_chuangchuang·2023-04-02 17:40

Nginx学习整理

Nginx学习第一章Nginx概述1.1、Nginx概述1.2、Nginx官网1.3、Nginx用处第二章Nginx单实例安装2.1、环境说明2.2、安装依赖2.3、Nginx下载2.4、Nginx解压2.5、Nginx安装2.6、Nginx命令2.7、开放防火墙2.8、启动后效果第三章Nginx正向代理、反向代理3.1、概述3.2、反向代理配置实例13.2.1、实现效果3.2.2、实现思路3.2

zch981964·2023-04-02 17:25

[动手学深度学习-PyTorch版]-3.9深度学习基础-多层感知机的从零开始实现

3.9多层感知机的从零开始实现我们已经从上一节里了解了多层感知机的原理。下面，我们一起来动手实现一个多层感知机。首先导入实现所需的包或模块。importtorchimportnumpyasnpimportsyssys.path.append("..")importd2lzh_pytorchasd2l3.9.1获取和读取数据这里继续使用Fashion-MNIST数据集。我们将使用多层感知机对图像进行

蒸饺与白茶·2023-04-02 14:56

动手学深度学习001

线性回归这里考虑的是二元线性回归一共引入三个参数，两个weight分别对应面积和房龄，还有一个bias使用的数据集是许多形如((area,age),price)的样本对损失函数如下优化方式使用梯度下降首先我们需要注意要多使用矢量加法，python的for循环调用解释器进行操作效率较低，而矢量加法的底层使用了一些C++和BLAS库的加速，效率很高一个标准的流程Softmax多层感知机

狂蛆如龙·2023-04-02 14:08

[动手学深度学习-PyTorch版]-6.4循环神经网络-循环神经网络的从零开始实现

6.4循环神经网络的从零开始实现在本节中，我们将从零开始实现一个基于字符级循环神经网络的语言模型，并在周杰伦专辑歌词数据集上训练一个模型来进行歌词创作。首先，我们读取周杰伦专辑歌词数据集：importtimeimportmathimportnumpyasnpimporttorchfromtorchimportnn,optimimporttorch.nn.functionalasFimportsys

蒸饺与白茶·2023-04-02 13:32

2021-8-11晨间日记

今天是什么日子起床：6:00就寝：12:00天气：晴心情：还不错纪念日：叫我起床的不是闹钟是梦想年度目标及关键点：提职升职本月重要成果：读书经济师复习今日三只青蛙/番茄钟烟叶制度整理并报法规经济师学习整理知识体系成功日志

ec34d668c788·2023-04-02 11:52

开源节流之一(/30个投资必备⽹址

(申明:只是本人学习整理，不构成投资建议，并且本人也是投资小白，还在学习阶段，很多理论还没有得到实操验证；平台有很多投资大佬，如有不对的地方，还请批评指正，谢谢！)

一叶小舟轻语浅行·2023-04-02 00:53

内网渗透-域环境权限维持

学习整理下域环境中权限维持相关的技术。

Tide_诺言·2023-04-01 16:40

python3知识点汇总_python学习整理 python基础知识点汇总

#!/usr/bin/envpython#-*-conding:utf-8-*-1、python运算:+-*/%**//In[21]:print(int(1.2)+3)4In[22]:print(float(1.2)+3)4.2In[15]:print(11//5)2In[16]:print(11.0//5.0)2.0In[18]:print(int('2')+3)5In[32]:apple=1I

weixin_39992483·2023-04-01 08:38

跟李沐导师：动手学深度学习！

二月学习需求收集李沐动手学深度学习热度排名第二。根据读者的学习建议，Datawhale团队联系了李沐老师，将组织动手学深度学习课程的学习。

guangcheng0312q·2023-03-31 14:03

2021银四最新奉上：Java后端技术复习面经PDF大纲（1-5程序员必备）

在此分享2份学习整理的Java后端技术复习面经PDF大纲，适合开发1到5年以上的朋友参考学习，内容包括（基础、数据库、网络协议、Linux系统、JVM、并发、分布式、Spring、设计模式、微服务等

码农很低调·2023-03-30 21:12

串口、IIC、SPI协议学习整理

一、UARTUART是一个大家族，其包括了RS232、RS499、RS423、RS422和RS485等接口标准规范和总线标准规范。它们的主要区别在于其各自的电平范围不相同。嵌入式设备中常常使用到的是TTL、TTL转RS232的这种方式。常用的就三根引线：发送线TX、接收线RX、电平参考地线GND。1.1电路示意图1.2通信协议将传输数据的每个字符一位接一位地传输。起始位：先发出一个逻辑”0”的信号

烛火飞蛾·2023-03-30 02:51

SPSS配对样本t检验

总目录：SPSS学习整理单样本t检验目的适用情景数据处理SPSS操作SPSS输出结果分析知识点目的检验两配对样本均值是否存在显著差异适用情景数据处理SPSS操作SPSS输出结果分析基本信息显著性大于0.05

sayasora·2023-03-30 01:31

执行是解决问题最重要的一步

比如说生活的环境比较乱，因此我想要学习整理，现在市面上有很多关于整理的课程和书籍，那能最终解决我的问题的课程，就是对我来说最有效的。

月上花·2023-03-30 01:12

React架构整理

本文为卡颂react源码学习整理React设计理念React是用JavaScript构建快速响应的大型Web应用程序的首选方式。

浮光掠影ll·2023-03-29 22:16

你期待已久的《动手学深度学习》（PyTorch版）来啦！

《动手学深度学习》全新PyTorch版本，李沐和亚马逊科学家阿斯顿·张等大咖作者强强联合之作，机器学习、深度学习领域重磅教程，交互式实战环境，配套资源丰富！

人邮异步社区·2023-03-29 10:11

Android基础学习整理知识点

注：本文内容有自己理解部分，若有不对的地方，欢迎指出。Android四大组件Activity什么是Activity?是应用程序的组件，用于显示用户界面，可以与用户交互完成相关的操作。App中可以有很多个Activity。Activity存储于android系统的返回栈（backstack）中，特点先进先出（返回键或finish()出栈）。Activity的几种状态Activity状态说明运行状态处

内耗王者·2023-03-29 09:40

复盘第5天：日拱一卒

把收纳作为一个研究话题放入概念库中，并做方法论的学习整理。工作：一周的出差结束，周末要准备专业

牛犇犇unicorn·2023-03-28 20:51

maven 学习整理

maven：1.常用命令a)compile就是编译项目，一般不用，ide都自带b)clean删除target/c)testtestcasejunit/testNGd)package打包e)install把项目install到localrepof)deploy发本地jar发布到remote2、profiles：profiles主要应用场景是根据不同环境打不同的包，比如数据库测试环境和生产环境不一样但

OOMNPE·2023-03-28 20:19

李沐-动手学深度学习（八）多层感知机

【总结】感知机是一个二分类的问题，是最早的AI模型之一。它的求解算法等价于使用批量大小为1的梯度下降。它不能拟合XOR函数，导致第一次AI寒冬。多层感知机使用隐藏层和激活函数来得到非线性模型。常用的激活函数时Sigmoid、Tanh、ReLU。使用Softmax来处理多类分类。超参数为隐藏层数，和各个隐藏层大小。1、感知机比线性回归多了个激活函数，激活函数有很多种选择。感知机是个二分类的问题，是最

minlover·2023-03-28 14:51

[动手学深度学习-PyTorch版]-1.深度学习简介

你可能已经接触过编程，并开发过一两款程序。同时你可能读过关于深度学习或者机器学习的铺天盖地的报道，尽管很多时候它们被赋予了更广义的名字：人工智能。实际上，或者说幸运的是，大部分程序并不需要深度学习或者是更广义上的人工智能技术。例如，如果我们要为一台微波炉编写一个用户界面，只需要一点儿工夫我们便能设计出十几个按钮以及一系列能精确描述微波炉在各种情况下的表现的规则。再比如，假设我们要编写一个电子邮件客

蒸饺与白茶·2023-03-28 14:53

关于原生家庭

我开始学习整理，并且阅读一些关于服装搭配的书，尝试不同的穿衣风格，确定最适合自己

未来梦·2023-03-28 10:24

学习整理

太和殿屋脊上：骑凤仙人和十大神兽【此图下载自网络】字的顺序：6.狻猊7.狎鱼但是6和7的雕塑确实相反的飞脊上跑兽雕塑顺序6.是狎鱼7.是狻猊到底文字版的1-10跑兽顺序是对的？还是故宫太和殿上雕塑顺序是对的？还是后期修补的工人修补错了？还是后人把文字顺序搞错了？好多疑惑严谨的重要性！【此文缘起】我们在参观故宫或其他古建筑的时候，经常会被屋脊上的神兽所吸引，不同地方的古建筑屋脊上的神兽不同，数量也各

中正子·2023-03-28 03:01

好使的网站合集

+图形比例自调+……OfficePLUS世界地图-PixelMapGenerator消除图片中的背景–remove.bg设计-Canva在线平面设计软件|拼图软件|图片编辑器–FotoJet学习相关《动手学深度学习

丿曰·2023-03-27 14:22

[动手学深度学习-PyTorch版]-7.3优化算法-小批量随机梯度下降

7.3小批量随机梯度下降在每一次迭代中，梯度下降使用整个训练数据集来计算梯度，因此它有时也被称为批量梯度下降（batchgradientdescent）。而随机梯度下降在每次迭代中只随机采样一个样本来计算梯度。正如我们在前几章中所看到的，我们还可以在每轮迭代中随机均匀采样多个样本来组成一个小批量，然后使用这个小批量来计算梯度。下面就来描述小批量随机梯度下降。image.png7.3.1读取数据本章

蒸饺与白茶·2023-03-27 05:31

五维M43课后总结

进入职业生涯17个年头了，虽然断断续续进行过一些职业培训，比如项目管理，团队管理，但感觉都非常粗浅，自己也没有系统的学习整理过。因为职业方向的原因

黎河·2023-03-26 12:08

易效能1阶第六周

并写出下一步我这90天的目标，就是扫清自己的一地鸡毛，整理自己的数据系统在1todoS里面规划好自己的步骤我的P、N、A、S四个方面主要是P=整理自己，有序生活，提供生活质量，提高办事效率N=网盘，U盘，硬盘，学习整理思维

大鱼摄影·2023-03-25 13:23

[动手学深度学习-PyTorch版]-3.5深度学习基础-图像分类数据集(Fashion-MINIST)

3.5图像分类数据集（Fashion-MNIST）在介绍softmax回归的实现前我们先引入一个多类图像分类数据集。它将在后面的章节中被多次使用，以方便我们观察比较算法之间在模型精度和计算效率上的区别。图像分类数据集中最常用的是手写数字识别数据集MNIST[1]。但大部分模型在MNIST上的分类精度都超过了95%。为了更直观地观察算法之间的差异，我们将使用一个图像内容更加复杂的数据集Fashion

蒸饺与白茶·2023-03-23 21:40

李沐-动手学深度学习（七）softmax回归

【总结】softmax是一个多类的分类问题。使用softmax操作子得到每个类的预测置信度。使用交叉熵来衡量预测和标号的区别。1、回归与分类回归：预测一个连续值分类：预测一个离散类别2、softmax与交叉熵损失首先对类别进行编码，独热编码，假设有n个类别，那么就是一个长为n的向量。上图最后一行，就是选最大化置信度的i作为预测的类别（i就是预测的标号，o是置信度）。o_i其实数值不关心，重要的是使

minlover·2023-03-23 18:15

PPT学习整理（一）默认设置

学习来源于：B站资源https://www.bilibili.com/video/BV1w54y1Q7cZ?p=11、背景颜色主题设置点【文件】【账户】：请注意我的版本是2013，不同版本，设置略有出入，但大同小异。2、无限撤回设置点击【文件】【选项】【高级】默认撤回次数为20次，调整为150上限。3、自动保存点击【文件】【选项】【保存】4、图像不压缩点击【文件】【选项】【高级】说明：将ppt文件

xiaoyaolangwj·2023-03-23 12:06

Peripheryapp的使用学习整理

源地址：https://github.com/peripheryapp/periphery#installation作用：使用Periphery删除未使用的声明使用和配置在你的Podfile文件里添加源执行podinstallpod'Periphery'配置xcodeMac下Homebrew的安装与使用链接：https://www.jianshu.com/p/bca8fc1ff3f0安装XCode

夏天无泪灬·2023-03-23 11:04

动手学深度学习Task2笔记

循环神经网络什么是循环神经网络下图展示了如何基于循环神经网络实现语言模型。我们的目的是基于当前的输入与过去的输入序列，预测序列的下一个字符。循环神经网络引入一个隐藏变量，用表示在时间步的值。的计算基于和，可以认为记录了到当前字符为止的序列信息，利用对序列的下一个字符进行预测。循环神经网络构造由于引入了，能够捕捉截至当前时间步的序列的历史信息，就像是神经网络当前时间步的状态或记忆一样。由于的计算基于

GaryLi077·2023-03-23 11:13

易效能时间管理天使27-3班践行82天——有些尝试是为了放弃！

【昨日的三只青蛙】买吸尘器√学习整理术【怦然心动的人生整理魔法】学习用吸尘器，学习清理地垫。

与欣有约·2023-03-23 00:30

【学习笔记】动手学深度学习1

动手学深度学习笔记1关于本书数字：标量可以看作0维张量向量可以看作1维张量矩阵可以看作2维张量张量可以看作一个多维数组关于本书函数和运算符指示函数是定义在某集合X上的函数，表示其中有哪些元素属于子集A。

华慕·2023-03-22 07:02

19年10 月检视刘颖

:财务，家庭现金流系统建立3:九段精进4:孩子自动化：a自律-减重至59kg；阅读；跑步18km/周b生活习惯培养：温和而坚定c幼儿园及英语的作业按时保质完成上月目标：体重59kg❌；阅读快速记忆️；学习整理课

rain_ly2018·2023-03-22 02:24

33岁，我的人生重新启航

一直到10月份，经过多方考察，我开始学习整理师课程，之后一直做兼职整理师。（二）做整理之前，我的焦点只放在

晓娇·2023-03-22 00:49

Monkey命令

非原创，本文章只作为个人学习整理用查看设备连接情况：adbdevicesimage.png①手机上的软件随机点击多少下：adbshellmonkey1000image.png②启动一个包名多少次（与②效果一样

小赵不在·2023-03-21 18:49

【动手学深度学习】(task1)注意力机制（更新中）

note注意力机制文章目录note零、基础回顾0.0不同人员的学习定位0.1AI地图0.2深度学习的应用0.3答疑一、可视化注意力权重1.1查询、键和值1.2注意力的可视化1.3小结和练习二、注意力汇聚：Nadaraya-Watson核回归2.1平均汇聚2.2非参数注意力汇聚2.3带参数注意力汇聚三、注意力评分函数四、Bahdanau注意力五、多头注意力六、自注意力和位置编码6.1比较卷积神经网络

山顶夕景·2023-03-21 07:08

推荐频道

动手学深度学习学习整理