CS231n深度学习笔记第30页

【Tensorflow与深度学习笔记day01】Tensorflow与深度学习介绍+关于 TensorFlow+什么是数据流图（Data Flow Graph）?+Tensorflow的特征

文章目录关于TensorFlow什么是数据流图（DataFlowGraph）?Tensorflow的特征认识Tensorflow1.1.下载以及安装1.2.初识tfTensorflow进阶2.1.张量的阶和数据类型2.2.张量操作2.3.变量的的创建、初始化2.4.名称域与共享变量2.5.图与会话2.6.模型保存与恢复、自定义命令行参数TensorflowIO操作3.1.读取数据3.2.线程和队列

汪雯琦·2020-09-17 05:25

TensorFlow+深度学习笔记1

TensorFlow+深度学习笔记1这阶段掌握的知识：1TensorFlow运行机制、Tensorflow一些函数的调用、深度学习初步；2CNN模型的构建与它的优点，成功使用python编写了一个识别MNIST

潘承远·2020-09-17 04:13

Coursera deeplearning.ai 深度学习笔记1-4-Deep Neural Networks-深度神经网络原理推导与代码实现

在掌握了浅层神经网络算法后，对深度神经网络进行学习。1.原理推导1.1深度神经网络表示定义：L表示神经网络总层数，上标[l]代表第l层网络，n[l]代表第l层的节点数，a[l]代表第l层的激活，W[l]和b[l]为第l层的参数。输入层为第0层a[0]=x，输出层为第L层a[L]。1.2正向传播(ForwardPropagation)类似浅层神经网络的推导可以得到，对于第l层，针对单个样本，正向传播

tu天马行空·2020-09-17 03:32

深度学习笔记（21）边缘检测

深度学习笔记（21）边缘检测1.边缘检测简介2.过滤器3.垂直和水平边缘检测4.合适的过滤器1.边缘检测简介在计算机视觉中使用的比较多的就是卷积神经网络卷积运算是卷积神经网络最基本的组成部分边缘检测相对比较容易理解

氢键H-H·2020-09-17 03:20

深度学习笔记2--TensorFlow基础

安装跟往常一样，我们用Conda来安装TensorFlow。你也许已经有过TensorFlow的环境，但确认一下你有所有必要的包。OSX或Linux运行下列命令来配置开发环境condacreate-ntensorflowpython=3.5sourceactivatetensorflowcondainstallpandasmatplotlibjupyternotebookscipyscikit-l

handsome_happy·2020-09-17 03:19

batch normalization 正向传播与反向传播

UnderstandingthebackwardpassthroughBatchNormalizationLayerFeb12,2016AtthemomentthereisawonderfulcourserunningatStandfordUniversity,calledCS231n-ConvolutionalNeuralNetworksforVisualRecognition

机器AI·2020-09-17 03:42

吴恩达老师深度学习笔记第二课（第二周）

第二周优化算法2.1Mini_batch梯度下降算法①向量化可以让你相对较快的处理所有m个样本，但是如果m很大，处理速度仍然缓慢②传统的梯度下降算法，需要先处理所有数据，然后进行下一步梯度下降算法把训练集分割成小一点的子训练集，这些子集取名为Mini_batch（然后每处理一个子集，就把他传下去进行下一步梯度下降算法），同样也要拆分y训练集。③我的理解：就是不再把所有数据向量化一个大向量，而是多个

我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第四课第二周

深度卷积网络实例探究2.1为什么要进行实例探究通过研究别人神经网络的架构，是一个学习深度学习不错的方法接下来学习的几种典型的networksLeNet-5AlexNetVGGResNet残差网络Inception2.2经典网络LeNet-5介绍：针对灰度图像处理，大约有6万参数AlexNet介绍：AlexNet包含约6000万个参数，当用于训练图像和数据集时，AlexNet能够处理非常相似的基本构

我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第四课第三周

目标检测3.1目标定位定位分类问题例如图像分类问题：不仅仅要判断是否是汽车，还要标注出他的位置通过检测到中心点，并且输出bxbybhbw给出图片对象的边界框，概括的说：神经网络可以通过输出图片上特征点的（x，y）坐标，来实现对目标特征的识别3.2特征点检测举了一个例子：关于识别人脸特征点先选定特征点的个数并生成包括这些特征点的标签训练集，然后利用神经网络输出脸部关键特征点的位置具体做法是准备一个卷

我爱编程皮肤好好·2020-09-17 03:30

吴恩达老师深度学习笔记第二课（第三周）

第三周超参数调整，Batch正则化和程序框架3.1调试处理对于超参数而言，你要如何找到一套好的设定呢？分享一些指导原则，一些关于如何系统地组织超参数调试过程的技巧。如何使用mpmentum或Adam的优化算法的参数，α，ββ1，β2，ε，#layers，#hiddenlimits，learningratedecay，你可能需要选择Mini-batch，结果证实，一些超参数比其他的更为重要。我认为最

我爱编程皮肤好好·2020-09-17 03:30

深度学习笔记（17）：Batch Norm简介

剖析与心得我们已经发现了在初始化的时候将输入数据归一化会得到更快的梯度下降速度与效果。那么其实很容易就会想到，如果我们能在神经网络的每一个隐藏层中都控制这些数值的分布，也许效果会不错。那么Batchnorm就诞生了。它可以使你训练更深层次的神经网络，并且使得下降更快。实现过程只需要四步：1）求出来每一行的zzz均值μ\muμ2）求出来每一行的方差σ\sigmaσ23）得到归一化的zzznorm，此

良夜星光·2020-09-17 03:24

吴恩达老师深度学习笔记第三课第二周

结构化机器学习2.1进行误差分析①（定义）错误分析：通过对网络分析，找到问题，使网络达到自己想要的效果②举例（猫分类）你的分类猫的系统错误率达到10%，你发现错误识别中有很多狗，被错认为猫这时，你可以选择直接通过一些办法来解决狗的问题但是更好的做法是，先找到狗的错误识别的“表现上限”，先找100张错误识别（注意：是在验证集里），如果里边有5张是狗，那么意味着狗的“表现上限”就是5%。这就是错误分析

我爱编程皮肤好好·2020-09-17 02:04

吴恩达深度学习笔记(54)-测试时的 Batch Norm

测试时的BatchNorm（BatchNormattesttime）Batch归一化将你的数据以mini-batch的形式逐一处理，但在测试时，你可能需要对每个样本逐一处理，我们来看一下怎样调整你的网络来做到这一点。回想一下，在训练时，这些就是用来执行Batch归一化的等式。在一个mini-batch中，你将mini-batch的z((i))值求和，计算均值，所以这里你只把一个mini-batch

极客Array·2020-09-17 02:38

如何切换路径在Jupyter里调用本地文件

想要调用本地的文件则需要切换路径到相应的文件路径下切换路径要在打开Jupyter之前完成操作：cd空格+文件路径盘符：示例代码：(pytorch)C:\Users\ZH>cdE:\duchenggang_2018_2\file\CS231n

xiaoheizi_du·2020-09-17 00:08

深度学习笔记——深度学习框架TensorFlow（二）

一.学习网站：https://www.tensorflow.org/versions/r0.12/tutorials/index.htmlhttp://wiki.jikexueyuan.com/project/tensorflow-zh/tutorials/overview.htmlhttp://www.tensorfly.cn/tfdoc/tutorials/mnist_beginners.ht

R3·2020-09-16 23:09

CS231n（1）：图片分类笔记与KNN编程作业

声明：本博客笔记部分为CS231n官网笔记，这里对其进行引用，在此表示感谢。

10点43·2020-09-16 18:12

04.卷积神经网络 W1.卷积神经网络

作业参考：吴恩达视频课深度学习笔记1.计算机视觉举例：图片猫识别，目标检测（无人驾驶），图像风格转换（比如转成素描）等等面临的挑战：数据的输入可能会非常大一张1000×1000的图片，特征向量的维度达到了

Michael阿明·2020-09-16 12:12

矩阵求导详解

向量，矩阵，张量求导向量对向量求导向量对矩阵求导矩阵对矩阵求导使用链式法则总结向量，矩阵，张量求导参考http://cs231n.stanford.edu/vecDerivs.pdf向量对向量求导如何对

扬子江Yangtze·2020-09-16 06:47

【CS231n】A Few Useful Things to Know about Machine Learning全文翻译

近期看到了阅读量的增长，发现这个文章翻译并不好，所以对翻译做了优化，感觉之前的翻译太草率了，太对不起大家了。***************************************************************************************************假装我是分割线****************************************

我是管小亮·2020-09-16 05:09

[深度学习笔记][CNN/GCN]Graph Convolutional Network学习笔记

本文仅为个人的学习笔记，对论文或者网上的资料作总结以及加入个人的理解，对论文或者在线资料可能有诸多理解不准确的地方，见谅。主要参考资料：如何理解GraphConvolutionalNetwork（GCN）？-superbrother的回答-知乎https://www.zhihu.com/question/54504471/answer/332657604Chebyshev多项式作为GCN卷积核-s

猎人伯爵·2020-09-16 00:21

[深度学习笔记][CNN/GCN]卷积神经网络基础

注：这是写给自己看的学习笔记，如有错误敬请指出。1.卷积神经网络的结构由四层构成，分别为：输入、卷积、池化、输出层。2.卷积神经网络的形象理解2.1卷积层的形象理解卷积层的目的实际上是进行特征的提取。在卷积层(conventionlayer)中，使用一个过滤器（kernel）去扫描一个图像，这个过滤器的参数是需要学习的。过滤器与图像进行卷积并滑动，会生成这个图像的特征映射(featuremap)。

猎人伯爵·2020-09-16 00:49

CS231n ---Image Classification

ImageClassification（看完后所做PPT）这一部分主要以最近邻和K近邻分类器为例

zhouxiaozhu123·2020-09-15 21:22

python笔记

pythonbasicdatatypescontainersFunctionclassNumpyarraysarrayindexingdatatypesarraymathbroadcastingscipyimageoprationsmatlabfilesdistancebetweenpointsmatplotlibsubplotsimages简单学了一下cs231n

qq_35085277·2020-09-15 20:59

03.结构化机器学习项目 W1.机器学习策略(1)

训练/开发/测试集划分6.开发集和测试集的大小7.什么时候该改变开发/测试集和指标8.人类的表现水准9.可避免偏差10.理解人的表现11.超过人的表现12.改善你的模型的表现测试题作业参考：吴恩达视频课深度学习笔记

Michael阿明·2020-09-15 05:41

深度学习，周志华，机器学习，西瓜书，TensorFlow，Google，吴军，数学之美，李航，统计学习方法，吴恩达，深度学习笔记，pdf下载

1.机器学习入门经典，李航《统计学习方法》2.周志华的《机器学习》pdf3.《数学之美》吴军博士著pdf4.Tensorflow实战Google深度学习框架.pdf5.《TensorFlow实战》黄文坚高清完整PDF6.复旦大学邱希鹏老师编写的讲义《神经网络与深度学习》pdf7.图像处理、分析与机器视觉（第三版）.pdf下载8.深度学习2017讲义9.TensorFlowMachineLearni

剑之所致，心之所往·2020-09-15 04:36

理解mini-batch梯度下降法对loss的影响

核心思想：batchsize太大->loss很快平稳，batchsize太小->loss会震荡（需要理解mini-batch）根据吴恩达深度学习笔记中的内容总结mini-batch梯度下降法的作用和原理

wujieer96·2020-09-14 23:29

【Deep Learning 】深度模型中的优化问题（六）之RMSprop(自适应算法2)

以下节选自个人深度学习笔记。内容整合来源于网络与个人理解。RMSprop口RMSprop是一种改进的Adagrad,通过引入一个衰减系数ρ，让r每回合都衰减一定比例。

Lindsay.Lu丶·2020-09-14 19:59

吴恩达深度学习笔记(41)-深度解析指数加权平均数

理解指数加权平均数（Understandingexponentiallyweightedaverages）上个笔记中，我们讲到了指数加权平均数，这是几个优化算法中的关键一环，而这几个优化算法能帮助你训练神经网络。本笔记中，我希望进一步探讨算法的本质作用。回忆一下这个计算指数加权平均数的关键方程。v_t=βv_(t-1)+(1-β)θ_t比如β=0.9的时候，得到的结果是红线，如果它更接近于1，比如

极客Array·2020-09-14 18:16

[CS231n@Stanford] Assignment1-Q3 (python) Softmax实现

softmax.pyimportnumpyasnpfromrandomimportshuffledefsoftmax_loss_naive(W,X,y,reg):"""Softmaxlossfunction,naiveimplementation(withloops)InputshavedimensionD,thereareCclasses,andweoperateonminibatchesofN

youknowzjz·2020-09-14 08:51

[CS231n@Stanford] Assignment1-Q4 (python) Two layer neural network实现

neural_net.pyimportnumpyasnpimportmatplotlib.pyplotaspltclassTwoLayerNet(object):"""Atwo-layerfully-connectedneuralnetwork.ThenethasaninputdimensionofN,ahiddenlayerdimensionofH,andperformsclassificati

youknowzjz·2020-09-14 08:51

cs231n assignment1--two_layer_net

神经网络部分。要先把理论知识搞的比较清楚才好写作业。梯度推导参考：http://www.jianshu.com/p/004c99623104multiclass梯度推导：调整参数部分，一开始想要把参数综合起来找一个最优参数，结果发现一次训练跑了一个小时，于是我就对每个参数进行单独训练，找到一个最好的参数，保留下来，换另一个参数。最后的测试正确率有54.8%importnumpyasnpimport

zt_1995·2020-09-14 08:46

全球名校课程作业分享系列(4)--斯坦福计算机视觉与深度学习CS231n之双层神经网络完成图像多分类

课程作业原地址：CS231nAssignment1作业及整理：@林凡莉&&@Molly&&@寒小阳时间：2018年1月。

寒小阳·2020-09-14 08:35

全球名校课程作业分享系列(3)--斯坦福计算机视觉与深度学习CS231n之softmax图像多分类

课程作业原地址：CS231nAssignment1作业及整理：@林凡莉&&@Molly&&@寒小阳时间：2018年1月。

寒小阳·2020-09-14 08:34

cs231n：assignment1——Q4: Two-Layer Neural Network

自己写的cs231n的作业,希望给点意见,支出错误和不足.谢谢参数调了好久，有一次调到57+%，当时没记参数,后来调不回来了two_layer_netipynb内容ImplementingaNeuralNetworkForwardpasscomputescoresForwardpasscomputelossBackwardpassTrainthenetworkLoadthedataTrainane

Ruff_XY·2020-09-14 08:52

cs231n：assignment1——Q3: Implement a Softmax classifier

Jupyternotebooksoftmaxipynb内容SoftmaxexerciseSoftmaxClassifierInlineQuestion1softmaxpy内容linear_classifierpy内容Jupyternotebooksoftmax.ipynb内容:SoftmaxexerciseCompleteandhandinthiscompletedworksheet(includ

Ruff_XY·2020-09-14 08:51

CS231n Assignment1--Q3

Q3:ImplementaSoftmaxclassifier作业代码已上传至我github:https://github.com/jingshuangliu22/cs231n,欢迎参考、讨论、指正。

lovefreedom22·2020-09-14 07:11

cs231n assignment1 Q4 softmax梯度推导

本文推导了斯坦福课程cs231n（2017）assignment1Q4的反向传播梯度网络结构为输入–全连接层–ReLU–全连接层–softmaxX−H=XW1+b1−R=max(0,H)−F=RW2+b2

tue2015·2020-09-14 07:34

cs231n作业1--two_layer_net

已有很多人写了关于cs231n作业的博客，而且写的特别好。我写此只是为了加强理解与记忆。

Sun-Flower·2020-09-14 07:20

cs231n：assignment1——Q3: Implement a Softmax classifier （MemoryError: ）

在这个作业里，当运行第一步的获取数据的时候，出现了MemoryError:的错误，主要原因如下：加载数据代码：importrandomimportnumpyasnpfromcs231n.data_utilsimportload_CIFAR10importmatplotlib.pyplotaspltfrom

qq_29750461·2020-09-14 07:04

Stanford-CS231n-assignment1-two_layer_net附中文注释

先记录一个很好用的画神经网络图的网站：http://alexlenail.me/NN-SVG/index.html然后因为对神经网络的几个层的名字到底应该标注在哪有点疑惑，现在看了几段代码才弄清楚，所以标注在图上记录一下，如下图（激活函数以ReLU为例），如果错误欢迎指正神经网络各层名上图中的神经网络可叫做双层（应该是双全连接层）神经网络或者单隐藏层（onehiddenlayer）网络。网络的前向

不跑步就等肥·2020-09-14 07:24

【学习笔记】cs231n-assignment1-Softmax

以下是我完成斯坦福cs231n-assignment1-Softmax这份作业的做题过程、思路、踩到的哪些坑、还有一些得到的启发和心得。希望下面的文字能对所有像我这样的小白有所帮助。

KammyIsTheBest·2020-09-14 06:16

【学习笔记】cs231n-assignment1-two_layer_net

以下是我完成斯坦福cs231n-assignment1-two_layer_net这份作业的做题过程、思路、踩到的哪些坑、还有一些得到的启发和心得。希望下面的文字能对所有像我这样的小白有所帮助。

KammyIsTheBest·2020-09-14 06:16

cs231n assignment1_Q3_softmax

前言其实svm和softmax的一个大区别在他们的损失函数不同，然后其梯度求导就会不同。首先，先来回顾一下softmaxsoftmax所谓softmax，把它拆开看，soft&max，可以理解为是带soft一点的max。那就会有纯max，纯max就好比一个评分函数中，得分最高的那个就是所求的分类，那么带有soft的max呢它是通过一种概率的方式，来把得分转变为概率的形式来展现，得分最高的那类自然概

进击的吃恩程sy·2020-09-14 05:45

cs231n assignment1_Q4_two_layer_net

Atwo-layerfully-connectedneuralnetwork.ThenethasaninputdimensionofN,ahiddenlayerdimensionofH,andperformsclassificationoverCclasses.WetrainthenetworkwithasoftmaxlossfunctionandL2regularizationontheweig

进击的吃恩程sy·2020-09-14 05:45

【傻瓜攻略】深入学习入门之激活函数（四）

参考：http://cs231n.github.io/neural-networks-1/2.tanh（反正切）函数这个函数的取值范围为[-1,+1]，其实看图也可以发现这个函数与上一章所述的sigmoid

lyy_sha·2020-09-14 00:09

Adam优化算法原理详解（吴恩达深度学习笔记）

在介绍Adam之前首先介绍一下momentum和RMSprop优化算法。一、momentum1、指数加权平均数指数加权平均数不仅考虑了当前数值也涵盖了以前的数据对现在的影响。解释指数加权平均值名称的由来：指数加权平均值的应用：使用这种方法进行数据的估计可能不是最精确的，但是这种方法计算简单，节省内存。指数加权平均数因为设置的第0个值为0，所以对于前几个数都会出现严重的偏差，所以引入了偏差修正。2.

爱笑的李·2020-09-13 16:26

深度学习笔记（35）滑动窗口的卷积实现

深度学习笔记（35）滑动窗口的卷积实现1.卷积实现2.减少计算成本1.卷积实现为了构建滑动窗口的卷积应用，首先要知道如何把神经网络的全连接层转化成卷积层假设对象检测算法输入一个14×14×3的图像，图像很小

氢键H-H·2020-09-13 10:58

吴恩达神经网络和深度学习笔记

Python广播运算cal=A.sum（axis=0）矩阵A竖直相加，每一列相加，如果axis=1就是每一行求和用reshape指令来确定矩阵的形式，如果不是非常清楚矩阵的行列的话，用reshape自己定义一下用一个m*n的矩阵加减乘除一个1*n的矩阵，Python会把后者复制成一个m*n的矩阵，然后逐个元素计算避免Python程序和NUMPY出现bug的方法：1.避免使用秩为1的定义，如a=np

刘爱然·2020-09-13 03:26

CS231n课后作业小结

参考资料：https://www.jianshu.com/p/004c99623104Assignment1：主要是实现softmax、hinge等损失函数以及两层神经网络。最大的收获是捋清楚了softmax函数的导数。下面是过程。首先，几个公式说明，第个类别的预测概率为：其中，，，，为样本数，为的维度，为样本的类别数。第个样本对应的损失函数为：其中，为第个样本对应的类别。计算softmax函数导

hola_f·2020-09-13 01:20

Highway network——《Training Very Deep Networks》一些总结

最近在家里听斯坦福CS231n的课程，很系统的学习了一些深度学习的知识，很受启发。其中，我对深度学习中的梯度流的概念印象深刻。讲到RNN时，提到LSTM能够解决普通RNN的梯度消失和梯度爆炸的问题。

hola_f·2020-09-13 01:19

推荐频道

CS231n深度学习笔记

【Tensorflow与深度学习笔记day01】Tensorflow与深度学习介绍+关于 TensorFlow+什么是数据流图（Data Flow Graph）?+Tensorflow的特征

TensorFlow+深度学习笔记1

Coursera deeplearning.ai 深度学习笔记1-4-Deep Neural Networks-深度神经网络原理推导与代码实现

深度学习笔记（21） 边缘检测

深度学习笔记2--TensorFlow基础

batch normalization 正向传播与反向传播

吴恩达老师深度学习笔记第二课（第二周）

吴恩达老师深度学习笔记第四课第二周

吴恩达老师深度学习笔记第四课第三周

吴恩达老师深度学习笔记第二课（第三周）

深度学习笔记（17）：Batch Norm简介

吴恩达老师深度学习笔记第三课第二周

吴恩达深度学习笔记(54)-测试时的 Batch Norm

如何切换路径在Jupyter里调用本地文件

深度学习笔记——深度学习框架TensorFlow（二）

CS231n（1）：图片分类笔记与KNN编程作业

04.卷积神经网络 W1.卷积神经网络

矩阵求导详解

【CS231n】A Few Useful Things to Know about Machine Learning全文翻译

[深度学习笔记][CNN/GCN]Graph Convolutional Network学习笔记

[深度学习笔记][CNN/GCN]卷积神经网络基础

CS231n ---Image Classification

python笔记

03.结构化机器学习项目 W1.机器学习策略(1)

深度学习，周志华，机器学习，西瓜书，TensorFlow，Google，吴军，数学之美，李航，统计学习方法，吴恩达，深度学习笔记，pdf下载

理解mini-batch梯度下降法对loss的影响

【Deep Learning 】深度模型中的优化问题（六）之RMSprop(自适应算法2)

吴恩达深度学习笔记(41)-深度解析指数加权平均数

[CS231n@Stanford] Assignment1-Q3 (python) Softmax实现

[CS231n@Stanford] Assignment1-Q4 (python) Two layer neural network实现

cs231n assignment1--two_layer_net

全球名校课程作业分享系列(4)--斯坦福计算机视觉与深度学习CS231n之双层神经网络完成图像多分类

全球名校课程作业分享系列(3)--斯坦福计算机视觉与深度学习CS231n之softmax图像多分类

cs231n：assignment1——Q4: Two-Layer Neural Network

cs231n：assignment1——Q3: Implement a Softmax classifier

CS231n Assignment1--Q3

cs231n assignment1 Q4 softmax梯度推导

cs231n作业1--two_layer_net

cs231n：assignment1——Q3: Implement a Softmax classifier （MemoryError: ）

Stanford-CS231n-assignment1-two_layer_net附中文注释

【学习笔记】cs231n-assignment1-Softmax

【学习笔记】cs231n-assignment1-two_layer_net

cs231n assignment1_Q3_softmax

cs231n assignment1_Q4_two_layer_net

【傻瓜攻略】深入学习入门之激活函数（四）

Adam优化算法原理详解（吴恩达深度学习笔记）

深度学习笔记（35） 滑动窗口的卷积实现

吴恩达神经网络和深度学习笔记

CS231n课后作业小结

Highway network——《Training Very Deep Networks》一些总结

深度学习笔记（21）边缘检测

深度学习笔记（35）滑动窗口的卷积实现