E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
dropout
浅谈LDO和DC/DC电源的区别
LDO是low
dropout
voltageregulator的缩写，就是低压差线性稳压器。DC-DC，其实内部是先把DC直流电源转变为交流电电源AC。
lee_d16888
·
2020-06-24 04:31
模电相关
AAAI 2020 | 反向R？削弱显著特征为细粒度分类带来提升
论文提出了类似于
dropout
作用的diversificationblock，通过抑制特征图的高响应区域来反向提高模型的特征提取能力，在损失函数方面，提出专注于top-k类别的gradient-boostingloss
晓飞的算法工程笔记
·
2020-06-24 04:44
晓飞的算法工程笔记
recurrent neural network regularization
本文介绍了lstm的regularization:
dropout
.lstm:符号意思：对lstm进行rugularization，第一需要达到regularization的效果，第二不能丧失lstm的记忆能力
longxiao666
·
2020-06-24 01:18
Tensorflow2.0入门教程15：CNN网络添加BN层
BN(BatchNormalization)层的作用：1，加速收敛；2，控制过拟合，可以少用
Dropout
或者不用
Dropout
；3，降低网络对初始化权重的不敏感；4，允许使用比较大的学习率。
itluojie
·
2020-06-23 19:43
CNN
Tensorflow2.0
BN
踩坑:pytorch中eval模式下结果远差于train模式介绍
我的模型中，eval模式和train模式不同之处在于BatchNormalization和
Dropout
。
Dropout
比较简单，在train时会丢弃一部分连接，在eval时则不会。
·
2020-06-23 17:15
Keras版的GCN代码学习
train.pyfrom__future__importprint_functionfromkeras.layersimportInput,
Dropout
fromkeras.modelsimportModelfromkeras.optimizersimportAdamfromkeras.regularizersimportl2fromkegra.layers.graphimportGraphCon
JenKinJia
·
2020-06-23 17:17
Python
12种主要的
Dropout
方法：如何应用于DNNs，CNNs，RNNs中的数学和可视化解释
作者：AxelThevenot编译：ronghuaiyang导读深入了解DNNs，CNNs以及RNNs中的
Dropout
来进行正则化，蒙特卡洛不确定性和模型压缩的方法。
Congqing He
·
2020-06-23 13:24
过拟合的解决方法：正则化、
Dropout
、batch normalization
1.正则化周志华老师的《机器学习》中写道：“正则化可理解为一种‘罚函数法’，即对不希望得到的结果施以惩罚，从而使得优化过程趋向于希望目标。从贝叶斯的角度来看，正则化项可认为是提供了模型的先验概率。”正则化是一种回归的形式，它将系数估计（coefficientestimate）朝零的方向进行约束、调整或缩小。也就是说，正则化可以在学习过程中降低模型复杂度和不稳定程度，从而避免过拟合的危险L2正则化：
IdemoX
·
2020-06-23 11:08
深度学习
神经网络基础结构演进趋势洞察
最近整体看了几十篇神经网络基础结构的文章，作为备忘，简单整理记录如下：名称推出时间核心创新点AlexNet2012深度学习开山之作，ReLU、
DropOut
、池化VGG2014.9小尺寸卷积核，全3*3
foreseerwang
·
2020-06-23 08:04
深度学习
Tensorflow Python API 翻译（nn）
激活函数表示在神经网络中，我们有很多的非线性函数来作为激活函数，比如连续的平滑非线性函数（sigmoid，tanh和softplus），连续但不平滑的非线性函数（relu，relu6和relu_x）和随机正则化函数（
dropout
chuange6363
·
2020-06-22 23:36
全连接层和激活层
因此，可以引入
dropout
操作，来随机删除神经网络中的部分神经元，来解决此问题。还可以进行局部归一化、数据增强等操作，来增加鲁棒性。
choushi5845
·
2020-06-22 22:14
7.深度学习练习：Regularization
www.deeplearning.ai/deep-learning-specialization/目录1-Package2-Non-regularizedmodel3-L2Regularization（掌握）4-
Dropout
10点43
·
2020-06-22 21:30
深度学习
TensorFlow2.0入门到进阶2.10 —— 批归一化、
dropout
、激活函数
文章目录1、批归一化2、
dropout
3、激活函数3.1原理部分：3.2各直观图像激活函数3.3代码1、批归一化原理部分：一文轻松搞懂Keras神经网络（理论+实战）批归一化其实就是在每经过一层神经网络训练后
努力改掉拖延症的小白
·
2020-06-22 20:10
keras 多任务多loss实例
记录一下：#Threelossfunctionscategory_predict1=Dense(100,activation='softmax',name='ctg_out_1')(
Dropout
(0.5
·
2020-06-22 18:17
pytorch笔记13--过拟合&
dropout
导致过拟合的原因：训练网络的数据量太少；网络神经元太多；解决过拟合：增加训练时的数据量；正规化；
dropout
（每次随机丢弃一定数量的neuron，防止对神经元的过分依赖）1.训练过程用两个不同的网络测试
赵 XiaoQin
·
2020-06-22 17:19
pytorch
dropout
的实现方法
dropout
详解
dropout
的实现方法算法实现概述：1、其实
Dropout
很容易实现，源码只需要几句话就可以搞定了，让某个神经元以概率p，停止工作，其实就是让它的激活值以概率p变为0。
勿在浮沙筑高台LS
·
2020-06-22 16:28
NLP
《深度学习原理与TensorFlow实践》学习笔记（三）
图像识别的经典课题计算机视觉图像识别课题卷积神经网络原理前深度学习时代卷积操作Convolution池化PoolingReLURectifiedLinearUnits多层卷积
Dropout
经典模型介绍及
UCAS-WQ
·
2020-06-22 15:42
深度学习
Keras 使用 Lambda层详解
fromtensorflow.python.keras.modelsimportSequential,Modelfromtensorflow.python.keras.layersimportDense,Flatten,Conv2D,MaxPool2D,
Dropout
·
2020-06-22 08:35
Tensorflow-keras实战（一）
目录理论部分1.Tensorflow-keras简介2.分类问题、回归问题、损失函数3.神经网络、激活函数、批归一化、
Dropout
4.Wide&deep模型5.超参数搜索实战部分1.Keras搭建分类模型
XB_please
·
2020-06-22 08:04
深度学习
深度学习和机器学习——试题
问题1写出常见的正则化和防止过拟合的技术，平时调参的经验解答：防止过拟合：earlystopping参数正则化问题2
dropout
为什么解决overfitting，L1和L2regularization
Vic时代
·
2020-06-22 07:10
有意思的问题
用Python做深度学习（五）
Visionlayer,CommonLayer:InnerProduct,Convolution,Pooling,
DropOut
Activation/NeronLayer:ReLU,Sigmoid,TanH
壹碗
·
2020-06-22 05:47
model.train()与model.eval()的用法
2.用法（区别）在经过一番查阅之后，总结如下：如果模型中有BN层(BatchNormalization）和
Dropout
，需要在训练时添加model.train()
钱思惘
·
2020-06-22 03:09
Pytorch
神经网络
python
pytorch
迁移学习——Inception-V3模型
例如第一个得到广泛关注的AlexNet，它本质上就是扩展LeNet的深度，并应用一些ReLU、
Dropout
等技巧。
F.D.I.O.E.H.R
·
2020-06-22 02:54
神经网络
使用keras，手动搭建卷积模型
1importnumpyasnp2importtensorflowastensorflow34fromkeras.layersimportConv2D,MaxPooling2D,GlobalAveragePooling2D5fromkeras.layersimport
Dropout
Nicole_Li1095
·
2020-06-22 02:21
LSTM模型 轨迹经纬度预测
我们只取前两列纬度和经度作为输入数据我们设定用前六个位置信息预测下一个位置，则两个样本的输入输出数据如下所示：创建LSTM网络训练模型：importnumpyasnpfromkeras.layers.coreimportDense,Activation,
Dropout
fromkeras.layersimportLSTMfromkeras.modelsimportSeque
Muzi_Water
·
2020-06-22 02:05
Python
keras构建LSTM模型，预测带高度的经纬度位置
高度作为输入其轨迹经纬度如下图所示：用keras创建一个三层的LSTM网络训练模型如下图所示：importnumpyasnpfromkeras.layers.coreimportDense,Activation,
Dropout
fromkeras.layersimportLSTMfromkeras.modelsimportSequential
Muzi_Water
·
2020-06-22 02:05
Python
Tensorflow
keras
Dropout
为什么解决过拟合，以及
Dropout
的缺点
Dropout
为什么解决过拟合：（1）取平均的作用：先回到标准的模型即没有
dropout
，我们用相同的训练数据去训练5个不同的神经网络，一般会得到5个不同的结果，此时我们可以采用“5个结果取均值”或者“
烟雨人长安
·
2020-06-22 01:39
深度学习
深度学习
[Read Paper] Maxout Networks
Weconsidertheproblemofdesigningmodelstoleveragearecentlyintroducedapproximatemodelaveragingtechniquecalled
dropout
.Wedefine
LinJM-机器视觉
·
2020-06-22 00:02
深度学习
Epoch和Batch，权重衰减和
Dropout
，Softmax和Logistic，IOU的基本概念
由于是从Word文档直接复制过来，其中格式如果乱码或者不通顺，请评论区告知我目录一、卷积网络基本概念1、Epoch和Batch2、权重衰减（weightdecay）和
Dropout
（清理掉无用的神经元）
Lininggggggg
·
2020-06-22 00:57
#
机器学习
dropout
取平均的作用：先回到标准的模型即没有
dropout
，我们用相同的训练数据去训练5个不同的神经网络，一般会得到5个不同的结果，此时我们可以采用“5个结果取均值”或者“多数取胜的投票策略”去决定最终结果。
Leo_Adam
·
2020-06-22 00:48
懂你英语Level6 Unit3 Part2 Reading Hedy Lamarr
HedyLamarrwasbornHedwigEvaNariaKieslerin1914inVienna,Austria.Bythetimeshewasateenager,shehaddecidedto
dropout
ofschoolandseekfameasanactress.ShefirstappearedinaGermanfilmin1930
已注销啦
·
2020-06-21 22:20
循环神经网络的
Dropout
循环神经网络（RNNs）是基于序列的模型，对自然语言理解、语言生成、视频处理和其他许多任务至关重要。模型的输入是一个符号序列，在每个时间点一个简单的神经网络（RNN单元）应用于一个符号，以及此前时间点的网络输出。RNNs是强大的模型，在许多任务中表现出色，但会快速过拟合。RNN模型中缺少正则化使他难以处理小规模数据，为避免这种情况研究者经常使用提早停止，或者小规模的或未充分定义的模型。Dropou
Ftwhale
·
2020-06-21 20:52
深度学习
[总结] 该如何设计神经网络 [1] - 模块方法功能汇总
查询列表经典的网络结构卷积层（Convolution）：提取特征池化层（Pooling）:减少参数全连接层：实现分类
Dropout
的机制：预防过拟合正则化（Regularization）：防止过拟合白化
傅立叶传奇
·
2020-06-21 20:35
计算机视觉
30天干掉tensorflow2.0-day19 模型层layers
例如，layers.Dense,layers.Flatten,layers.Input,layers.DenseFeature,layers.
Dropout
layers.Conv2D,layers.MaxPooling2D
Elenstone
·
2020-06-21 19:09
Tensorflow
[Python人工智能] 七.什么是过拟合及
dropout
解决神经网络中的过拟合问题
从本专栏开始，作者正式开始研究Python深度学习、神经网络及人工智能相关知识。前一篇文章通过TensorFlow实现分类学习，以MNIST数字图片为例进行讲解；本文将介绍什么是过拟合，并采用droput解决神经网络中过拟合的问题，以TensorFlow和sklearn的load_digits为案例。本专栏主要结合作者之前的博客、AI经验和"莫烦大神"的视频介绍，后面随着深入会讲解更多的Pytho
Eastmount
·
2020-06-21 19:13
LOD与DC-DC区别及应用
LDO：LOW
DROPOUT
VOLTAGELDO（是low
dropout
voltageregulator的缩写，整流器）低压差线性稳压器，故名思意，为线性的稳压器，仅能使用在降压应用中。
DreamingCatcher
·
2020-06-21 19:14
硬件设计
单片机5V转3.3V电平，有19种方法技巧供参考！
压差为几百个毫伏的低压降（Low
Dropout
，LDO）稳压器，是此类应用的理想选择。图1-1是基本LDO系统的框图，标注了相应的电流。
嵌入式资讯精选
·
2020-06-21 19:28
AlexNet网络具体介绍
AlexNet网络1、AlexNet网络的创新点1.1、使用了ReLU作为激活函数1.2LRN(局部相应归一化)1.3
Dropout
1.4使用了重叠池化层1.5并行使用了多GPU训练2、AlexNet网络结构
晨辰臣
·
2020-06-21 18:48
深度学习
深度学习
神经网络
计算机视觉
猫狗分类-kaggle数据集-小型卷积网络
猫狗分类猫狗分类-（小型卷积神经网络-6层）数据准备数据集目录结构网络模型数据预处理训练（利用生成器拟合模型）-30轮训练可视化数据增强增加
dropout
层，防止过拟合经过数据增强和增加
dropout
层后再拟合
MP-214
·
2020-06-21 17:44
深度学习
深度学习中的超参数优化
应该使用多大的
dropout
比率？还有很多，这些在架构层面的参数叫做超参数（hyperparameter），以便将其与模型参数区分开来，后者通过反向传播进行训练。
幸运六叶草
·
2020-06-21 16:38
深度学习
LDO选型参考(原理、参数)
选型时的注意事项1.LDO基本原理LDO是Low
Dropout
Regulator的缩写，意思是低压差线性稳压器。低压差是指输入电压-输出电压的值比较低。
AirCity123
·
2020-06-21 16:40
笔记
吴恩达深度学习——深度学习的实用指南
文章目录引言构建数据偏差与方差训练神经网络的基本方法正则化为什么正则化可以减少过拟合
Dropout
正则化为什么
Dropout
会生效其他正则化方法提前停止归一化输入梯度消失与梯度爆炸神经网络的权重初始化梯度的数值逼近梯度检验关于梯度检测实现的注意事项参考引言本文是吴恩达深度学习第二课
愤怒的可乐
·
2020-06-21 15:16
人工智能
读书笔记
循环神经网络预测股票价格
8importosimporttimeimportmathimportnumpyasnpimportpandasaspdimporttushareastsimporttensorflowastfimportmatplotlib.pyplotaspltfromtensorflow.keras.layersimport
Dropout
xiaozhanfeng
·
2020-06-21 14:33
Python
tensorflow
优化深层网络--激活函数、正则化以及权重初始化
优化深层网络–第一篇目录1.激活函数（sigmoid、tanh、relu、relu变体）2.正则化（l1、l2、
dropout
）3.权重初始化（0、随机数、x、he）参考文献1、常用激活函数的比较2、cs231n
天作。
·
2020-06-21 13:47
深度学习_计算机视觉
第02周-用米氏方程解决单细胞转录组
dropout
现象
用米氏方程解决单细胞转录组
dropout
现象米氏方程（Michaelis-Mentenequation）:v=Vmax×[S]/（Km+[S])在假定存在一个稳态反应条件下推导出来的，其中Km值称为米氏常数
小梦游仙境
·
2020-06-21 12:44
转自老大的文献笔记
[STAT-157] ModelSelect,
dropout
, bp
课程Youtube：DeepLearningUCBerkeleySTAT-157课本：动手学深度学习代码：d2l-ai3.11.模型选择、欠拟合和过拟合在前几节基于Fashion-MNIST数据集的实验中，我们评价了机器学习模型在训练数据集和测试数据集上的表现。如果你改变过实验中的模型结构或者超参数，你也许发现了：当模型在训练数据集上更准确时，它在测试数据集上却不一定更准确。这是为什么呢？3.11
gdtop818
·
2020-06-21 12:39
UCB-STAT157
UCB-STAT157
【卷积神经网络发展历程】从LeNet、AlexNet到ResNet、SENet
随着ReLU和
dropout
的提出，以及GPU和大数据带来的历史机遇，CNN在2012年迎来了历史突破–AlexNet，从此CNN呈现爆炸式发展。
大姨妈V
·
2020-06-21 08:15
深度学习
从零开始学习卷积神经网络
在神经网络中使用
dropout
一、什么是
dropout
dropout
是解决神经网络模型过拟合的好办法，那什么是
dropout
呢？简而言之，它就是随机的将输入的张量中元素置为0，
dropout
可以理解为一种集成模型。
庞加莱
·
2020-06-21 08:20
深度学习
Pytorch 小知识点
Dropout
behavesdifferentintrainandtestmode?BatchNormbehavesdifferentintrainandtestmode?
肆不肆傻
·
2020-06-21 07:31
神经网络炼丹术：神经网络调参
学习率自适应使用方式二丶激活函数sigmodtanhReLuELU使用方式三丶网络初始化权重初始值隐藏层激活值的分布四丶批归一化BatchNormalization五丶拟合问题欠拟合过拟合：正则化技术权重衰弱调节层数与参数规模
Dropout
yilyil
·
2020-06-21 06:23
#
Python
上一页
44
45
46
47
48
49
50
51
下一页
按字母分类：
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他