limu深度学习笔记

深度学习笔记（吴恩达）在更

一、深度学习概论1.1欢迎以下是吴恩达老师的原话：深度学习改变了传统互联网业务，例如如网络搜索和广告。但是深度学习同时也使得许多新产品和企业以很多方式帮助人们，从获得更好的健康关注。深度学习做的非常好的一个方面就是读取X光图像，到生活中的个性化教育，到精准化农业，甚至到驾驶汽车以及其它一些方面。如果你想要学习深度学习的这些工具，并应用它们来做这些令人窒息的操作，本课程将帮助你做到这一点。当你完成c
·2021-03-16 17:22

深度学习笔记（五）—— 激活函数[Activation Functions]

  这是深度学习笔记第五篇，完整的笔记目录可以点击这里查看。    
zeeq_·2021-03-12 17:19

吴恩达深度学习笔记(81)-为什么使用卷积？（Why convolutions?）

为什么使用卷积？（Whyconvolutions?）我们来分析一下卷积在神经网络中如此受用的原因，然后对如何整合这些卷积，如何通过一个标注过的训练集训练卷积神经网络做个简单概括。和只用全连接层相比，卷积层的两个主要优势在于参数共享和稀疏连接，举例说明一下。假设有一张32×32×3维度的图片，这是上节课的示例，假设用了6个大小为5×5的过滤器，输出维度为28×28×6。32×32×3=3072，28
极客Array·2021-03-11 02:44

深度学习笔记（吴恩达）在更

一、深度学习概论1.1欢迎以下是吴恩达老师的原话：深度学习改变了传统互联网业务，例如如网络搜索和广告。但是深度学习同时也使得许多新产品和企业以很多方式帮助人们，从获得更好的健康关注。深度学习做的非常好的一个方面就是读取X光图像，到生活中的个性化教育，到精准化农业，甚至到驾驶汽车以及其它一些方面。如果你想要学习深度学习的这些工具，并应用它们来做这些令人窒息的操作，本课程将帮助你做到这一点。当你完成c
·2021-03-09 22:18

深度学习笔记（三十一）三维卷积及卷积神经网络

一、RGB三维图像的卷积首先复习以下二维卷积运算的过程：然后让我们看看三维图像如何进行有效的卷积运算。计算方法和二维卷积类似，从三维图像中划分出3×3×33\times3\times33×3×3的方块（称为卷积立方体），对这27个像素点进行卷积，即逐个元素与过滤器相乘求和，得到输出二维矩阵中的一个值。三维图像和过滤器可以有不同的高和宽，但是必须有相同的通道数。在RGB这个例子中，就是有RGB三个颜
Mr.zwX·2021-02-13 16:31

[AI Studio] 飞桨PaddlePaddle Python零基础入门深度学习笔记＜五＞

[AIStudio]飞桨PaddlePaddlePython零基础入门深度学习笔记＜五＞新需求橄榄球教练Roger，拿出了自己的数据结构，我们的队员除了速度训练，还需要进行力量的练习。
络秋·2021-02-09 19:43

[AI Studio] 飞桨PaddlePaddle Python零基础入门深度学习笔记＜四＞

[AIStudio]飞桨PaddlePaddlePython零基础入门深度学习笔记需求：选手的最好的三次成绩Kelly教练每天在训练场忙的焦头烂额，根本没有时间摆弄计算机，需要人帮他处理选手的数据！
络秋·2021-02-07 23:30

深度学习笔记(五)：学习率过大过小对于网络训练有何影响以及如何解决

文章目录1.学习率的作用2.学习率太大有何影响3.学习率太小有何影响4.如何进行学习率设置5.学习率缓减机制1.学习率的作用学习率(learningrate),作为监督学习以及深度学习中重要的超参，它控制网络模型的学习进度,决定这网络能否成功或者需要多久成功找到全局最小值，从而得到全局最优解，也就是最优参数。换句话说学习率和stride(步长)性质差不多。2.学习率太大有何影响首先我们要认识到学习
ZZY_dl·2021-01-31 01:11

深度学习笔记(六):如何运用梯度下降法来解决线性回归问题

文章目录1.梯度下降法2.线性回归问题3.具体代码1.梯度下降法梯度下降法是一种常用的迭代方法，其目的是让输入向量找到一个合适的迭代方向，使得输出值能达到局部最小值。在拟合线性回归方程时，我们把损失函数视为以参数向量为输入的函数，找到其梯度下降的方向并进行迭代，就能找到最优的参数值。我们看下面这个二维平面：也就是说我们要运用梯度下降法顺利且快速的找到全局最优解，也就是最低的地方，我们运用的公式如下
ZZY_dl·2021-01-30 22:13

深度学习笔记整理（持续更新）

portainer新建container并修改相关配置pytorch中tensorboardX可视化网络使用踩坑【语义分割semanticsegmentation】–DeepLab（ASPP）系列学习笔记
Booo0m·2021-01-17 19:14

吴恩达--深度学习笔记

这是一个督促自己学习的笔记文章目录这是一个督促自己学习的笔记1.logistic回归1.神经网络基础----二分分类2.logistic回归3.logistic回归损失函数4.梯度下降法5.logistic回归中的梯度下降法6.m个样本的梯度下降7.向量化8.更多向量化的例子9.向量化logistic回归10.向量化logistic回归的输出11.Python中的广播12.关于python_num
NP_hard·2021-01-15 22:00

深度学习笔记(二):神经网络之优化损失函数算法介绍

神经网络优化算法：梯度下降法、Momentum、RMSprop和Adamhttps://www.cnblogs.com/jiaxblog/p/9695042.html
ZZY_dl·2021-01-14 15:24

深度学习和神经网络_深度学习概论——吴恩达DeepLearning.ai深度学习笔记之神经网络和深度学习（一）...

公众号关注“DL_NLP”设为“星标”，重磅干货，第一时间送达！◎原创|深度学习算法与自然语言处理◎作者|Dedsecr1.什么是神经网络？1.1房价预测已知房屋的面积、价格，想要拟合一个根据房屋面积预测房价的函数。按照传统的方法，我们使用线性回归来解决这个问题，我们可以拟合出一条直线。并且我们知道价格永远不会是负数的。因此，为了替代一条可能会让价格为负的直线，我们把直线弯曲一点，让它最终在零结束
weixin_39859061·2020-12-06 00:17

ubuntu安装python3.6_百度零基础深度学习笔记(一) 安装飞桨paddle

安装飞桨paddlepaddle官网提供了相应系统的安装流程。官网安装飞浆我的环境是Ubuntu18.04+Python3.6+GTX970X，切记paddle暂没编译Python3.8+版本，现只支持3.5.1+/3.6/3.7。安装显卡驱动1# 查看适合显卡的驱动信息，安装带recommended的版本2➜  ~ ubuntu-drivers devices          3== /sys
weixin_39677106·2020-11-25 19:53

深度学习笔记

李宏毅2020机器学习深度学习(完整版)国语一、CourseIntroduction转自Sakura的知识库下图中，同样的颜色指的是同一个类型的事情蓝色方块指的是scenario，即学习的情境。通常学习的情境是我们没有办法控制的，比如做强化学习(reinforcementLearning)是因为我们没有data、没有办法来做supervisedLearning(监督学习)的情况下才去做的。如果有d
Ghost在低语·2020-11-25 15:30

Keras深度学习笔记 非线性回归

生成数据importkerasimportnumpyasnpimportmatplotlib.pyplotasplt#Sequential按顺序构成的模型fromkeras.modelsimportSequential#Dense全连接层fromkeras.layersimportDense,Activationfromkeras.optimizersimportSGD#使用numpy生成200个
imxlw00·2020-11-21 19:34

Keras深度学习笔记 线性回归

定义与公式线性回归(Linearregression)是利用回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归。单变量回归当只有一个变量时，线性模型的函数定义为：其中，权值w0为函数在y轴上的截距,w1为解释变量的系数。我们的目标是通过学习得到线性方程的这两个权值，并用它们描述解释
imxlw00·2020-11-21 18:41

深度学习笔记（一）深度学习入门——基于Python的理论与实现

笔记来自斋藤康毅的《深度学习入门–基于Python的理论与实现》这本书用简洁的语言讲解了比较基础的原理，适合初学者了解。Numpy和Matplotlib1.NumpyNumPy数组提供了便捷的计算数组和矩阵的方法，比较常用。（1）生成NumPy数组与访问importnumpyasnpx=np.array([1.0,2.0,3.0])#一维数组y=np.array([2.0,4.0,6.0])#一维
WeatheringWithU·2020-11-18 18:06

Python深度学习笔记第一周

第一章Python入门有关类的介绍NumPy导入NumPy生成NumPy数组NumPy的算术运算NumPy的N维数组广播访问元素Matplotlib绘制简单图形pyplot中一些函数的功能显示图像有关类的介绍用户自己定义类，将会创建新的数据类型，同时可以定义相关类的函数和属性。Python中的class可以定义类：class类名：def__int__(self,参数,...):#构造函数...de
frank______123·2020-11-11 22:48

深度学习笔记损失函数反向传播理解记录

深度学习笔记损失函数反向传播公式过程理解记录深度学习的第三周课程损失函数的反向传播卡了一点时间，发现卡顿的根本原因是对前边的一些细节符号没有准确记忆，同时过程中一些同一含义的符号发生变化。
特别能挨打·2020-11-09 09:14

Ng深度学习笔记——卷积神经网络基础

卷积神经网络计算机视觉（Computervision）边缘检测示例（Edgedetectionexample）Padding卷积步长（Stridedconvolutions）三维卷积（Convolutionsovervolumes）单层卷积网络（Onelayerofaconvolutionalnetwork）池化层（Poolinglayers）经典网络（Classicnetworks）LeNet-
CeciliaFinch·2020-11-08 20:11

【深度学习笔记】task4 网络八股扩展

深度学习-网络八股扩展4.1搭建网络八股概览4.2自制数据集，解决本领域问题4.2数据增强，扩充数据集4.3断点续训，存取模型4.4参数提取，把参数存入文本4.6acc&loss可视化，查看训练效果4.6应用程序，给图识物依依旧是跟着曹健老师的课程学习，之前主要是给予所给的训练集和测试集进行训练和测试，这一节中讲授了如何自制数据集以及模型保存的问题，非常有实用价值视频地址https://www.b
一一张xi·2020-10-27 21:31

动手学习深度学习笔记3

importnumpyasnpimporttorchfromtorchimportnn,optimimporttorch.nn.functionalasFimportrandomimportmathimporttimedefsgd(params,lr,batch_size):#为了和原书保持一致，这里除以了batch_size，但是应该是不用除的，因为一般用PyTorch计算loss时就默认已经#
Tony涤生·2020-10-11 04:18

【深度学习】深入理解卷积神经网络(CNN)

CNNAuthor：louwillFrom：深度学习笔记本文将为大家介绍一种用途更为广泛、性能更加优越的神经网络结构——卷积神经网络（ConvolutionalNeuralNetwork,CNN）。
风度78·2020-10-02 11:00

F47.深度神经网络中权值初始化（即：卷积核的数值（权值）初始化）

注：神经网络训练时需要对权重进行初始化，若使用迁移学习则不需进行权重初始化（需使用预训练模型中的权重作为深度神经网络的初始权重）1.吴恩达深度学习笔记(21)-神经网络的权重初始化为什么要随机初始化？
米亚123·2020-09-17 06:11

【Tensorflow与深度学习笔记day01】Tensorflow与深度学习介绍+关于 TensorFlow+什么是数据流图（Data Flow Graph）?+Tensorflow的特征

文章目录关于TensorFlow什么是数据流图（DataFlowGraph）?Tensorflow的特征认识Tensorflow1.1.下载以及安装1.2.初识tfTensorflow进阶2.1.张量的阶和数据类型2.2.张量操作2.3.变量的的创建、初始化2.4.名称域与共享变量2.5.图与会话2.6.模型保存与恢复、自定义命令行参数TensorflowIO操作3.1.读取数据3.2.线程和队列
汪雯琦·2020-09-17 05:25

TensorFlow+深度学习笔记1

TensorFlow+深度学习笔记1这阶段掌握的知识：1TensorFlow运行机制、Tensorflow一些函数的调用、深度学习初步；2CNN模型的构建与它的优点，成功使用python编写了一个识别MNIST
潘承远·2020-09-17 04:13

Coursera deeplearning.ai 深度学习笔记1-4-Deep Neural Networks-深度神经网络原理推导与代码实现

在掌握了浅层神经网络算法后，对深度神经网络进行学习。1.原理推导1.1深度神经网络表示定义：L表示神经网络总层数，上标[l]代表第l层网络，n[l]代表第l层的节点数，a[l]代表第l层的激活，W[l]和b[l]为第l层的参数。输入层为第0层a[0]=x，输出层为第L层a[L]。1.2正向传播(ForwardPropagation)类似浅层神经网络的推导可以得到，对于第l层，针对单个样本，正向传播
tu天马行空·2020-09-17 03:32

深度学习笔记（21） 边缘检测

深度学习笔记（21）边缘检测1.边缘检测简介2.过滤器3.垂直和水平边缘检测4.合适的过滤器1.边缘检测简介在计算机视觉中使用的比较多的就是卷积神经网络卷积运算是卷积神经网络最基本的组成部分边缘检测相对比较容易理解
氢键H-H·2020-09-17 03:20

深度学习笔记2--TensorFlow基础

安装跟往常一样，我们用Conda来安装TensorFlow。你也许已经有过TensorFlow的环境，但确认一下你有所有必要的包。OSX或Linux运行下列命令来配置开发环境condacreate-ntensorflowpython=3.5sourceactivatetensorflowcondainstallpandasmatplotlibjupyternotebookscipyscikit-l
handsome_happy·2020-09-17 03:19

吴恩达老师深度学习笔记第二课（第二周）

第二周优化算法2.1Mini_batch梯度下降算法①向量化可以让你相对较快的处理所有m个样本，但是如果m很大，处理速度仍然缓慢②传统的梯度下降算法，需要先处理所有数据，然后进行下一步梯度下降算法把训练集分割成小一点的子训练集，这些子集取名为Mini_batch（然后每处理一个子集，就把他传下去进行下一步梯度下降算法），同样也要拆分y训练集。③我的理解：就是不再把所有数据向量化一个大向量，而是多个
我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第四课第二周

深度卷积网络实例探究2.1为什么要进行实例探究通过研究别人神经网络的架构，是一个学习深度学习不错的方法接下来学习的几种典型的networksLeNet-5AlexNetVGGResNet残差网络Inception2.2经典网络LeNet-5介绍：针对灰度图像处理，大约有6万参数AlexNet介绍：AlexNet包含约6000万个参数，当用于训练图像和数据集时，AlexNet能够处理非常相似的基本构
我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第四课第三周

目标检测3.1目标定位定位分类问题例如图像分类问题：不仅仅要判断是否是汽车，还要标注出他的位置通过检测到中心点，并且输出bxbybhbw给出图片对象的边界框，概括的说：神经网络可以通过输出图片上特征点的（x，y）坐标，来实现对目标特征的识别3.2特征点检测举了一个例子：关于识别人脸特征点先选定特征点的个数并生成包括这些特征点的标签训练集，然后利用神经网络输出脸部关键特征点的位置具体做法是准备一个卷
我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第二课（第三周）

第三周超参数调整，Batch正则化和程序框架3.1调试处理对于超参数而言，你要如何找到一套好的设定呢？分享一些指导原则，一些关于如何系统地组织超参数调试过程的技巧。如何使用mpmentum或Adam的优化算法的参数，α，ββ1，β2，ε，#layers，#hiddenlimits，learningratedecay，你可能需要选择Mini-batch，结果证实，一些超参数比其他的更为重要。我认为最
我爱编程皮肤好好·2020-09-17 03:30

深度学习笔记（17）：Batch Norm简介

剖析与心得我们已经发现了在初始化的时候将输入数据归一化会得到更快的梯度下降速度与效果。那么其实很容易就会想到，如果我们能在神经网络的每一个隐藏层中都控制这些数值的分布，也许效果会不错。那么Batchnorm就诞生了。它可以使你训练更深层次的神经网络，并且使得下降更快。实现过程只需要四步：1）求出来每一行的zzz均值μ\muμ2）求出来每一行的方差σ\sigmaσ23）得到归一化的zzznorm，此
良夜星光·2020-09-17 03:24

吴恩达老师深度学习笔记第三课第二周

结构化机器学习2.1进行误差分析①（定义）错误分析：通过对网络分析，找到问题，使网络达到自己想要的效果②举例（猫分类）你的分类猫的系统错误率达到10%，你发现错误识别中有很多狗，被错认为猫这时，你可以选择直接通过一些办法来解决狗的问题但是更好的做法是，先找到狗的错误识别的“表现上限”，先找100张错误识别（注意：是在验证集里），如果里边有5张是狗，那么意味着狗的“表现上限”就是5%。这就是错误分析
我爱编程皮肤好好·2020-09-17 02:04

吴恩达深度学习笔记(54)-测试时的 Batch Norm

测试时的BatchNorm（BatchNormattesttime）Batch归一化将你的数据以mini-batch的形式逐一处理，但在测试时，你可能需要对每个样本逐一处理，我们来看一下怎样调整你的网络来做到这一点。回想一下，在训练时，这些就是用来执行Batch归一化的等式。在一个mini-batch中，你将mini-batch的z((i))值求和，计算均值，所以这里你只把一个mini-batch
极客Array·2020-09-17 02:38

深度学习笔记——深度学习框架TensorFlow（二）

一.学习网站：https://www.tensorflow.org/versions/r0.12/tutorials/index.htmlhttp://wiki.jikexueyuan.com/project/tensorflow-zh/tutorials/overview.htmlhttp://www.tensorfly.cn/tfdoc/tutorials/mnist_beginners.ht
R3·2020-09-16 23:09

04.卷积神经网络 W1.卷积神经网络

作业参考：吴恩达视频课深度学习笔记1.计算机视觉举例：图片猫识别，目标检测（无人驾驶），图像风格转换（比如转成素描）等等面临的挑战：数据的输入可能会非常大一张1000×1000的图片，特征向量的维度达到了
Michael阿明·2020-09-16 12:12

[深度学习笔记][CNN/GCN]Graph Convolutional Network学习笔记

本文仅为个人的学习笔记，对论文或者网上的资料作总结以及加入个人的理解，对论文或者在线资料可能有诸多理解不准确的地方，见谅。主要参考资料：如何理解GraphConvolutionalNetwork（GCN）？-superbrother的回答-知乎https://www.zhihu.com/question/54504471/answer/332657604Chebyshev多项式作为GCN卷积核-s
猎人伯爵·2020-09-16 00:21

[深度学习笔记][CNN/GCN]卷积神经网络基础

注：这是写给自己看的学习笔记，如有错误敬请指出。1.卷积神经网络的结构由四层构成，分别为：输入、卷积、池化、输出层。2.卷积神经网络的形象理解2.1卷积层的形象理解卷积层的目的实际上是进行特征的提取。在卷积层(conventionlayer)中，使用一个过滤器（kernel）去扫描一个图像，这个过滤器的参数是需要学习的。过滤器与图像进行卷积并滑动，会生成这个图像的特征映射(featuremap)。
猎人伯爵·2020-09-16 00:49

03.结构化机器学习项目 W1.机器学习策略(1)

训练/开发/测试集划分6.开发集和测试集的大小7.什么时候该改变开发/测试集和指标8.人类的表现水准9.可避免偏差10.理解人的表现11.超过人的表现12.改善你的模型的表现测试题作业参考：吴恩达视频课深度学习笔记
Michael阿明·2020-09-15 05:41

深度学习，周志华，机器学习，西瓜书，TensorFlow，Google，吴军，数学之美，李航，统计学习方法，吴恩达，深度学习笔记，pdf下载

1.机器学习入门经典，李航《统计学习方法》2.周志华的《机器学习》pdf3.《数学之美》吴军博士著pdf4.Tensorflow实战Google深度学习框架.pdf5.《TensorFlow实战》黄文坚高清完整PDF6.复旦大学邱希鹏老师编写的讲义《神经网络与深度学习》pdf7.图像处理、分析与机器视觉（第三版）.pdf下载8.深度学习2017讲义9.TensorFlowMachineLearni
剑之所致，心之所往·2020-09-15 04:36

理解mini-batch梯度下降法对loss的影响

核心思想：batchsize太大->loss很快平稳，batchsize太小->loss会震荡（需要理解mini-batch）根据吴恩达深度学习笔记中的内容总结mini-batch梯度下降法的作用和原理
wujieer96·2020-09-14 23:29

【Deep Learning 】深度模型中的优化问题（六）之RMSprop(自适应算法2)

以下节选自个人深度学习笔记。内容整合来源于网络与个人理解。RMSprop口RMSprop是一种改进的Adagrad,通过引入一个衰减系数ρ，让r每回合都衰减一定比例。
Lindsay.Lu丶·2020-09-14 19:59

吴恩达深度学习笔记(41)-深度解析指数加权平均数

理解指数加权平均数（Understandingexponentiallyweightedaverages）上个笔记中，我们讲到了指数加权平均数，这是几个优化算法中的关键一环，而这几个优化算法能帮助你训练神经网络。本笔记中，我希望进一步探讨算法的本质作用。回忆一下这个计算指数加权平均数的关键方程。v_t=βv_(t-1)+(1-β)θ_t比如β=0.9的时候，得到的结果是红线，如果它更接近于1，比如
极客Array·2020-09-14 18:16

Adam优化算法原理详解（吴恩达深度学习笔记）

在介绍Adam之前首先介绍一下momentum和RMSprop优化算法。一、momentum1、指数加权平均数指数加权平均数不仅考虑了当前数值也涵盖了以前的数据对现在的影响。解释指数加权平均值名称的由来：指数加权平均值的应用：使用这种方法进行数据的估计可能不是最精确的，但是这种方法计算简单，节省内存。指数加权平均数因为设置的第0个值为0，所以对于前几个数都会出现严重的偏差，所以引入了偏差修正。2.
爱笑的李·2020-09-13 16:26

深度学习笔记（35） 滑动窗口的卷积实现

深度学习笔记（35）滑动窗口的卷积实现1.卷积实现2.减少计算成本1.卷积实现为了构建滑动窗口的卷积应用，首先要知道如何把神经网络的全连接层转化成卷积层假设对象检测算法输入一个14×14×3的图像，图像很小
氢键H-H·2020-09-13 10:58

吴恩达神经网络和深度学习笔记

Python广播运算cal=A.sum（axis=0）矩阵A竖直相加，每一列相加，如果axis=1就是每一行求和用reshape指令来确定矩阵的形式，如果不是非常清楚矩阵的行列的话，用reshape自己定义一下用一个m*n的矩阵加减乘除一个1*n的矩阵，Python会把后者复制成一个m*n的矩阵，然后逐个元素计算避免Python程序和NUMPY出现bug的方法：1.避免使用秩为1的定义，如a=np
刘爱然·2020-09-13 03:26

吴恩达神经网络和深度学习笔记（广播，激活函数）

吴恩达神经网络和深度学习笔记往期回顾广播A.sum(axis=0)中的参数axis。
Zzjw527·2020-09-13 00:19
上一页 16 17 18 19 20 21 22 23 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他