CS231n深度学习笔记

深度学习笔记（三）

几个经典的网络架构：1.AlexnetAlexnet是2012年在比赛中夺冠的一个网络。它有几个缺点：（1）11x11的filter，大刀阔斧的提取特征，这样是不好的，卷积核一般是越小越好（2）步长为4，过大；（3）没有加pad填充。Alexnet是一个8层的网络，有5层的卷积和3层的全连接。2.VggVgg是一个2014年出现的网络，它有不同的几个版本，下图中红色框起来的是比较主流的一个版本。它
邱宇-·2022-11-20 11:38

深度学习笔记（一）

计算机视觉：图像表示：计算机眼中的图像一张图像被表示成三维数组（三维矩阵）的形式，每个像素的值从0到255，图像中数值越大表示该点越亮，图像中数值越小表示该点越暗；例如：300*100*3，其中300是图像的长，100是宽，3表示颜色通道的数目，一张JPG图像或者RGB图像，其颜色通道数都是3；计算机视觉面临的挑战：照射角度改变、形状改变、部分遮蔽、背景混入机器学习常规套路：1、收集数据并给定标签
邱宇-·2022-11-20 11:38

2020-4-5 深度学习笔记17 - 蒙特卡罗方法 3 ( 马尔可夫链蒙特卡罗方法MCMC-先验分布/后验分布/似然估计，马尔可夫性质)

第十七章蒙特卡罗方法中文英文2020-4-4深度学习笔记17-蒙特卡罗方法1(采样和蒙特卡罗方法-必要性和合理性)2020-4-4深度学习笔记17-蒙特卡罗方法2(重要采样–采样数量一定，提高准确度，减少方差
没人不认识我·2022-11-20 10:43

深度学习笔记1——正则化

深度学习笔记——正则化前言一、参数范数惩罚1.1L²参数正则化1.2L¹参数正则化二、数据集增强三、半监督学习四、多任务学习五、提前终止（earlystopping）六、参数绑定和参数共享（parametersharing
angkoryy·2022-11-20 10:19

深度学习笔记（十六）正则化（L2 dropout 数据扩增 Earlystopping）

如果训练的模型过拟合，也就是高方差，我们首先想到的是正则化。高方差的解决方法有准备充足的数据，但是有时候我们无法找到足够的数据。下文详细说明正则化方法，包括L2正则化（菲罗贝尼乌斯）、dropout机制、数据扩增、Earlystopping。一、逻辑回归中的正则化需要求得损失函数J(w,b)J(w,b)J(w,b)的最小值，已知J(w,b)=1m∑i=1mL(y^(i),y(i))J(w,b)=\
Mr.zwX·2022-11-20 10:45

神经网络与深度学习笔记（六）L2正则化

文章目录前言最小化代价函数正则化在神经网络中的L2L_2L2正则化为什么L2L_2L2正则化可以防止过拟合，减少方差？前言前面提到过高方差问题主要的两种方式：获取更多的数据去训练。然而这种方式局限在于，数据并不是总是很容易获得的或者数据获取的代价很大。正则化。这就是这篇文章需要来讨论的主题。最小化代价函数正则化使用L2L_2L2正则化的最小化代价函数：min(w,b)ȷ(w,b)=1m∑i=1mȷ
沧夜2021·2022-11-20 10:34

YOLOv5基础知识点——激活函数

_哔哩哔哩_bilibili深度学习笔记：如何理解激活函数？
MUTA️·2022-11-20 07:10

李沐基于Pytorch的深度学习笔记（1）

首先，本文是李沐老师的视频的笔记，里面的编程部分是我用Pycharm编写的，希望对大家有所参考。1数据结构与数据操作:1.1机器学习和深度学习的数据结构，基本都是N维数组1.2创建一个数组创建数组需要具备的条件：①形状：3*4/4*5…………，就像矩阵的行列比一样②数据类型：int、float、long、以及int32、float64这种细分领域的类型，非常多③元素的值：例如X1=10，X2=1.
chenyuhan1997·2022-11-20 06:13

0824深度学习笔记--李沐《动手学深度学习》

目录简单数据操作元素访问元素基本操作数据预处理简单数据操作N维数组是机器学习和神经网络的主要数据结构元素访问比如数组[[1,2,3,4],[5,6,7,8],[9,10,11,12],[13,14,15,16]]访问一个元素：[1,2]）（7）访问一行元素：[1,:]（[5,6,7,8]）访问一列元素：[:,1]（2，6，10，14）子区域：[1:3,1:]（表示第1行到第3行的开区间结束，即第1
不玩游戏的小菜鸡·2022-11-20 06:12

【深度学习】李沐的深度学习笔记来了！

转载自|机器之心去年年初，机器之心知识站上线了亚马逊资深首席科学家李沐博士的「动手学深度学习」中文系列课程。这门课从3月持续到8月，超过28000人参与了直播，课程回放在B站的播放量达到了上百万次。这门课程基于李沐等人编写的《动手学深度学习》第二版。《动手学深度学习》既有开源项目，也有纸质书，它覆盖了90年代至今重要的模型，特别是每一章都是一个Jupyter记事本，提供了所有模型的完整实现，并在真
风度78·2022-11-20 06:09

李宏毅深度学习笔记-P1机器学习介绍

好了，今天开始了李宏毅先生机器学习课程的自学，千里之行始于足下，P1介绍篇章是一个介绍性的概括章节，主要讲清楚了这门学科的几个基本问题。总结起来这一节主要说了两个问题，when&what，如下图1所示是机器学习发展的大致脉络，就我看来主要有两个时间点，第一个是19世纪80年代，此时AI界开始使用机器学习的方法来实现人工智能的目标（个人理解是放弃了handcrafted的规则推导，使用的是以概率论为
yzz19920820·2022-11-20 06:44

李宏毅深度学习笔记-P3&P4-回归

第二部分的内容主要讲的是有监督学习（supervisedlearning）的任务之一：回归-regression，本篇主要介绍了如何通过梯度下降法（gradientdescent）得到目标函数，并使用正则化（regularization）的方法解决训练数据过拟合（overfitting）的问题，对目标函数进行修正，从而在检验测试数据时得到更好的结果。回归（regression）是有监督学习的一种t
yzz19920820·2022-11-20 05:18

【图像识别】卷积神经网络CNN详细概述

参考：https://cs231n.github.io/convolutional-networks/目录一基本概念1.1普通神经网络1.2卷积神经网络二卷积神经网络的层2.1卷积层2.1.1概述2.1.2
望天边星宿·2022-11-20 05:44

李沐动手学深度学习笔记---AlexNet

简介：更深更大的LeNet主要改进为：丢弃法Dropout、Relu、MaxPooling；激活函数从sigmoid变成了Relu；隐藏全连接层后加入丢弃层；数据增强架构：总体架构：代码实现：importtorchfromtorchimportnnfromd2limporttorchasd2lnet=nn.Sequential(#这⾥，我们使⽤⼀个11*11的更⼤窗⼝来捕捉对象。#同时，步幅为4，
天天向上inger·2022-11-20 03:52

李沐-动手学深度学习笔记-卷积神经网络

参考GitHub文章目录基本理论卷积层卷积层里的填充和步幅多个输入和输出通道做个总结：池化层代码实现：和别人的交流基本理论概念纠正：严格来说，卷积是二维交叉相关。（详见更多在沐神评论区）卷积层根据不同的需求选择不同的矩阵，可以得到不同的效果：唯一的区别是：卷积多了-号，但是因为对称性会导致没啥区别都一样。代码：两层for循环核心就是：遍历输入和卷积核矩阵每个元素相乘再相加。#互相关运算import
东方-教育技术博主·2022-11-20 03:16

吴恩达深度学习笔记——结构化机器学习项目（Structuring Machine Learning Projects）

深度学习笔记导航前言传送门结构化机器学习项目（MachineLearningStrategy）机器学习策略概述正交化（orthogonalization）评价指标数字评估指标的单一性满足指标与优化指标数据集划分数据集区分数据集划分比例什么时候改变指标
亦梦亦醒乐逍遥·2022-11-19 23:32

【Nan‘s 吴恩达深度学习笔记】第四课第一周 卷积神经网络

【Nan‘s吴恩达深度学习笔记】第四课第一周卷积神经网络ConvolutionalNeuralNetworks1.1计算机视觉(Computervision)边缘检测垂直边缘过滤器选择PaddingValid
Liareee·2022-11-19 22:22

吴恩达深度学习笔记 course4 week2 作业1

这周新使用了一个新框架,它是一个比较高级的框架,比起低级框架有更多的限制使用keras要注意的是:1.Keras框架使用的变量名和我们以前使用的numpy和TensorFlow变量不一样。它不是在前向传播的每一步上创建新变量（比如X,Z1,A1,Z2,A2,…）以便于不同层之间的计算。在Keras中，我们使用X覆盖了所有的值，没有保存每一层结果，我们只需要最新的值，唯一例外的就是X_input，我
banghu8816·2022-11-19 22:15

深度学习笔记1-model大致分类

深度学习笔记1-model大致分类前言一、Supervisedlearning（监督学习）1.什么是监督学习？
henrychur·2022-11-19 21:29

深度学习笔记（1）

importmatplotlib.pyplotaspltimportnumpyasnpfromsklearnimportsvm,datasetsfromsklearn.metricsimportprecision_recall_curvefromsklearn.metricsimportaverage_precision_scorefromsklearn.preprocessingimportla
雪吟灵·2022-11-19 21:39

深度学习笔记1——常见激活函数、MP、BP

1、常见的深度学习框架1.1TensorFlow最流行的深度学习框架，接口过于复杂抽象1.2Keras缺少灵活性1.3Caffe缺少灵活性1.4PyTorch新增自对求导系统2、万能近似定理是深度学习最根本的理论依据。它声明了在给定网络具有足够多的隐藏单元的条件下，配备一个线性输出层和一个带有任何“挤压”性质的激活函数(如logisticsigmoid激活函数)的隐藏层的前馈神经网络，能够以任何想
卖strawberry的小女孩·2022-11-19 20:07

【深度学习笔记001 深度学习入门导读】

2016年Google人工智能程序阿尔法围棋（AlphaGo）对战世界围棋选手李世石，最终以4:1的成绩获得胜利，这惊人的一幕将国内外研究和学习人工智能的热题推向了新的高潮。然而，何为深度学习？本文将揭开深度学习的面纱。•1什么是深度学习及深度学习的基本思想？•2人工智能是如何发展而来？•3机器学习的相关技术有哪些？•4Deeplearning与NeuralNetwork的异同？•5Deeplea
DaveBobo·2022-11-19 19:07

吴恩达深度学习笔记——神经网络与深度学习（Neural Networks and Deep Learning）

文章目录前言传送门神经网络与深度学习（NeuralNetworksandDeepLearning）绪论梯度下降法与二分逻辑回归（GradientDescendandLogisticsRegression）forwardpropagationbackwardpropagation(withChainRule)vectorization损失函数和成本函数推导（LossFunction|CostFunc
亦梦亦醒乐逍遥·2022-11-19 19:30

吴恩达深度学习笔记——改善深层神经网络：超参数调整，正则化，最优化（Hyperparameter Tuning）

深度学习笔记导航前言传送门改善深层神经网络：超参数调整，正则化，最优化（ImprovingDeepNeuralNetworks:HyperparameterTuning,Regularization,andOptimization
亦梦亦醒乐逍遥·2022-11-19 19:00

深度学习笔记-吴恩达

深度学习-吴恩达文章目录深度学习-吴恩达前言一、神经网络1.随机初始化2.深层神经网络的前向传播3.核对矩阵的维数4.为什么使用深层表示5.搭建深层神经网络块6.前向传播与反向传播7.参数与超参数前言随着人工智能的不断发展，深度学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了深度学习的基础内容。一、神经网络1.随机初始化问题：为何初始化参数（w和b）不能为0？假设输入为两个特征，
Mr. 嘿·2022-11-19 19:59

吴恩达深度学习笔记整理（五）

目录优化算法Mini-batch梯度下降理解mini-batch梯度下降法怎么选择适合的batchsize？指数加权平均数理解指数加权平均数公式：指数加权平均的偏差修正动量梯度下降法RMSpropAdam优化算法学习率衰减为什么衰减？局部最优局部最优解鞍点优化算法Mini-batch梯度下降深度学习的优势是可以利用一个巨大的数据集来训练神经网络，而在巨大的数据集基础上进行训练速度很慢。这时，我们可
梦想的小鱼·2022-11-19 18:32

[深度学习]动手学深度学习笔记-6

Task-3——循环神经网络进阶6.1长短期记忆（LSTM）6.1.1理论知识理解理解LSTM网络6.1.2LSTM的从零开始实现以下附上代码：导入相应的包importnumpyasnpimporttorchfromtorchimportnn,optimimporttorch.nn.functionalasFimportsyssys.path.append("..")importd2lzh_pyt
田纳尔多·2022-11-19 18:48

CS231n笔记八：CNN经典框架

一、AlexNet二、VGGNetSmallerfilters，Deepernetworks.1、VGGNet中用到的卷积核都是3*3的，尺寸非常小，为何？？？答：对于三个3*3的卷积核（步长为1），其感受野（effectiverespectivefield)和一个7*7的卷积核是一样的，都是7*7的感受野。但小卷积核可以使网络更深（本来一层7by7layer，现在变成3层3by3layers），
兮兮Cici_Melon·2022-11-19 16:43

深度学习笔记（十一）网络 Inception, Xception, MobileNet, ShuffeNet, ResNeXt, SqueezeNet, EfficientNet, MixConv...

1.Abstract本文旨在简单介绍下各种轻量级网络，纳尼？！好吧，不限于轻量级2.Introduction2.1Inception在最初的版本Inception/GoogleNet，其核心思想是利用多尺寸卷积核去观察输入数据。举个栗子，我们看某个景象由于远近不同，同一个物体的大小也会有所不同，那么不同尺度的卷积核观察的特征就会有这样的效果。于是就有了如下的网络结构图：图1:Inceptionmo
weixin_30674525·2022-11-19 15:37

【CS231n assignment 2022】Assignment 3 - Part 3，Transformer

orz相关文章目录：【CS231nassignment2022】Assignment2-Part1，全连接网络的初始化以及正反向传播【CS231nassignment2022】Assignment2-P
睡晚不猿序程·2022-11-19 13:04

CNN学习笔记——图像分类

CNN学习笔记——图像分类笔记参考来源：CS231n课程笔记翻译图像分类笔记1、什么是图像分类对于输入图像，从已有的固定标签集合中找出一个分类标签给该输入图像。
iccc with neee·2022-11-19 12:55

CNN学习笔记（1）

2卷积神经网络CNN，基本是入门3基本根据斯坦福的机器学习公开课、cs231n、与七月在线寒老师讲的5月dl班所写，4神经网络由大量的神经元相互连接而成人工神经网络ANNArtificialneuralnetworks
沉辰尘_0821·2022-11-19 12:50

深度学习笔记003-卷积神经网络基础

卷积神经网络主要解决深度学习中图像处理的问题，通过卷积，减少参数量（因为直接拿所有像素进行全连接权值太多，不合适）。卷积神经网络的特点是参数共享和稀疏连接（参数共享：一个像素能被多个卷积核卷积）（系数连接：卷积后的结果只与卷积所覆盖的像素有关，与其他区域的像素点无关）卷积神经网络中的知识点：1.paddingpadding主要是在原图像的周围补上一圈0（具体几圈可以自己设置）通过补零，可以保证图像
地表最菜研究生·2022-11-19 08:48

python深度学习笔记2--机器学习基础

一、机器学习分支监督学习：给定一组样本，机器学习可以学会将输入数据映射到已知目标[标注]主要包括分类和回归还有更多奇异的变体如序列生成目标检测图像分割无监督学习：没有目标的情况下寻找输入数据的有趣变换常见无监督学习方法降维和聚类自监督学习没有人工标注的标签强化学习二、评估机器学习模型机器学习的目的：得到可以泛化（generalize）的模型，即在前所未见的数据上表现很好的模型难题：过拟合——随着训
小杜今天学AI了吗·2022-11-19 08:16

[深度学习]动手学深度学习笔记-2

Task-1线性回归；Softmax与分类模型；多层感知机1.1线性回归原理1.1.1线性回归的基本要素我们以一个简单的房屋价格预测作为例子来解释线性回归的基本要素。这个应用的目标是预测一栋房子的售出价格（元）。我们知道这个价格取决于很多因素，如房屋状况、地段、市场行情等。为了简单起见，这里我们假设价格只取决于房屋状况的两个因素，即面积（平方米）和房龄（年）。接下来我们希望探索价格与这两个因素的具
田纳尔多·2022-11-19 08:44

JAVASE深度学习笔记 - - 泛型使用详解

泛型所谓泛型就是变量类型的参数化，简单来理解就是（在不创建新的类型的情况下，通过泛型指定的不同类型来控制形参具体限制的类型）。也就是说在泛型使用过程中，操作的数据类型被指定为一个参数，这种参数类型可以用在类、接口和方法中，分别被称为泛型类、泛型接口、泛型方法。从使用的角度来讲的话就是，为了提高安全性，使用泛型的基础之上程序编译期间没有问题的话，那么执行期间一定没有问题。总结性的来讲：泛型技术是给编
JerryXZR·2022-11-19 08:42

HALCON 20.11：深度学习笔记(7)---术语表

HALCON20.11：深度学习笔记(7)---术语表HALCON20.11.0.0中，实现了深度学习方法。
机器视觉001·2022-11-19 08:38

HALCON 21.11：深度学习笔记---术语表(7)

HALCON21.11：深度学习笔记---术语表(7)HALCON21.11.0.0中，实现了深度学习方法。
机器视觉001·2022-11-19 08:38

李宏毅深度学习笔记（CNN）

卷积神经网络（CNN）为什么使用CNN？CNN可以很好用于图像的处理，这主要基于两个假设：图像中同样的特征片段可能出现在不同的位置。图像上不同小片段，以及不同图像上的小片段的特征是类似的，也就是说，我们能用同样的一组分类器来描述各种各样不同的图像。最底层特征都是局部性的，局部特征远小于图像本身。也就是说，我们用10x10这样大小的过滤器就能表示边缘等底层特征对像素进行子采样不会改变图像CNN架构最
在水一方_果爸·2022-11-19 07:41

深度学习笔记 —— PyTorch 神经网络基础

importtorchfromtorchimportnnfromtorch.nnimportfunctionalasF'''模型构造'''#nn.Sequential定义了一种特殊的Modulenet=nn.Sequential(nn.Linear(20,256),nn.ReLU(),nn.Linear(256,10))X=torch.rand(2,20)print(net(X))#自定义块#任何
Whisper_yl·2022-11-19 07:08

深度学习整合资料

1.CS230深度学习吴恩达2.CS229机器学习吴恩达3.CS231n讲计算机视觉的，涉及比较多的深度学习，也适合入门https://cs231n.github.io/课件网站
weixin_50810484·2022-11-19 06:37

2020李宏毅机器学习与深度学习笔记——课程入门

课程入门机器学习就是自动找函式，任何与人工智能有关的问题都可以看作是在找它的函式f。eg.语音识别f(一段语音)=“语音内容”图像识别f(一张图片)=“图片内容”下围棋f(棋局)=“下一跳nextmove”对话系统f(你对机器说的话)=“机器的回答”第一个问题：你想让机器帮你找什么样的函式？Regression：找输出是数值的BinaryClassifcation：只有yes和no两种输出Mult
gohna·2022-11-19 02:19

Datawhale李宏毅深度学习笔记Task01

Datawhale李宏毅深度学习笔记Task01机器学习介绍人工智能、深度学习、机器学习关系机器学习的框架learningmap为什么需要机器学习？暑假到了，开始深度学习第一天打卡。
Deserant·2022-11-19 02:29

Datawhale李宏毅深度学习笔记Task02

回归回归定义regression是找到一个function，通过输入特征x，输出一个y（scalar）。模型步骤1.model假设，选择model（线性、非线性；一元、多元）y=b+w⋅xcpy=b+w·x_{cp}y=b+w⋅xcp2.model评估，model的好坏判断（损失函数）3.model优化，从model集里面挑选出最好的function（梯度下降）步骤1：随机选取一个w0步骤2：计算
Deserant·2022-11-19 02:29

Datawhale李宏毅深度学习笔记Task03

视频P5-P8P5误差从哪里来？Averageerror随着模型复杂增加呈指数上升趋势。更加复杂的模型并不能给测试集带来更好的效果，主要原因是bias和varianceError=Bias+Variance参考https://www.zhihu.com/question/27068705https://datawhalechina.github.io/leeml-notes/#/chapter5/
Deserant·2022-11-19 02:29

深度学习笔记 7 几种典型的卷积神经网络

目录1.LeNet介绍1.1结构：LeNet-5共包含8层1.2代码实现2.AlextNet2.1AlexNet结构2.2代码实现3.VGG-Net3.1网络结构3.2代码实现4Inception网络4.1为什么提出Inception4.2Inception-v14.3Inception-v24.4Inceptionv34.5Inception-v45残差网络ResNet5.1ResNet解决的是
李同学_道阻且行·2022-11-19 01:07

深度学习笔记 5 卷积、池化

目录1.卷积1.1卷积的目的1.2卷积的基本属性1.3卷积的特点2.卷积分类与计算2.1标准卷积2.2反卷积2.3空洞卷积2.4深度可分离卷积2.5分组卷积3.池化1.卷积卷积（Convolution），也叫褶积，通过两个函数f和g生成第三个函数的一种数学算子，表征函数f与g经过翻转和平移的重叠部分函数值乘积对重叠长度的积分。1.1卷积的目的卷积是为了提取图像特征，通过卷积层，可以自动提取图像的高
李同学_道阻且行·2022-11-19 01:37

深度学习笔记--Transformer中position encoding的源码理解与实现

1--源码importtorchimportmathimportnumpyasnpimporttorch.nnasnnclassPos_Embed(nn.Module):def__init__(self,channels,num_frames,num_joints):super().__init__()#根据帧序和节点序生成位置向量pos_list=[]fortkinrange(num_frame
憨豆的小泰迪·2022-11-17 17:46

深度学习笔记（十三）---多分类任务中的softmax以及各激活函数的适用场景

目录参考文献：1.多分类任务中的softmax1.1关于多分类1.2如何多分类1.3代价函数1.4使用场景1.5为什么使用softmax进行归一化2.激活函数概念：2.1.什么是激活函数？2.2.为什么要使用激活函数？2.3.常用的激活函数有哪些？2.3.1sigmoid函数2.3.3ReLu函数2.3.4激活函数的选择参考文献：[1]softmax的多分类[2]详解sigmoid与softmax
Jayden yang·2022-11-17 07:09

[深度学习基础] 斯坦福CS231n李飞飞计算机视觉Lecture 8笔记

内容列表Lecture8SpatialLocalizationandDetection目标检测RegionProposalsR-CNNSPPNetFastR-CNNFasterR-CNNMaskR-CNNYOLO小结Lecture8SpatialLocalizationandDetection目标检测要了解目标检测问题，先要了解图像的分类与定位问题，可以看到下图中，分类与预测一般是同一个网络下，经
gogogo！·2022-11-16 07:48
上一页 17 18 19 20 21 22 23 24 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他