E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
dropout
卷积神经网络-ResNet
importtensorflowastfimportnumpyasnpimportosfrommatplotlibimportpyplotaspltfromtensorflow.keras.layersimportConv2D,BatchNormalization,Activation,MaxPool2D,
Dropout
xiaozhanfeng
·
2020-06-30 01:23
tensorflow
Python
卷积神经网络-VGGNet
importtensorflowastfimportnumpyasnpimportosfrommatplotlibimportpyplotaspltfromtensorflow.keras.layersimportConv2D,BatchNormalization,Activation,MaxPool2D,
Dropout
xiaozhanfeng
·
2020-06-30 01:23
tensorflow
Python
卷积神经网络
python
神经翻译笔记3扩展d. 神经网络的泛化
文章目录神经翻译笔记3扩展d.神经网络的泛化数据增强参数范数惩罚$L^2$正则化$L^1$正则化在TensorFlow中使用参数范数惩罚提前终止方法概览提前终止与$L^2$正则的关系集成方法集成方法概览参数平均
Dropout
TimsonShi
·
2020-06-29 23:50
神经翻译笔记
神经翻译笔记4扩展b. RNN的正则化方法
文章目录神经翻译笔记4扩展b.RNN的正则化方法层归一化对
dropout
的扩展集大成的方法：AWD-LSTM正则化方法不同形式的
dropout
变长的反向传播嵌入共享嵌入维度与隐藏层维度分离激活单元正则化与时序激活单元正则化优化方法其它技术与实验参考文献神经翻译笔记
TimsonShi
·
2020-06-29 23:18
神经翻译笔记
正则化
rnn
神经翻译笔记4扩展a第二部分. RNN在TF2.0中的实现方法略览
4扩展a第二部分.RNN在TF2.0中的实现方法略览文章目录神经翻译笔记4扩展a第二部分.RNN在TF2.0中的实现方法略览相关基类`tf.keras.layers.Layer``recurrent.
Dropout
RNNCellMixin
TimsonShi
·
2020-06-29 23:17
神经翻译笔记
字节跳动（抖音团队）面经
3.对推荐有什么了解4.BN5.L1L2正则的区别6.防止过拟合的方法7.
dropout
的理解8.为什么数据量多了方差就变小9.算法题求一个数组的众数众数
wzt_gjt
·
2020-06-29 22:13
深度学习基础--各种
Dropout
--Swapout
#Swapout:Learninganensembleofdeeparchitectures 生成
dropout
和随机深度（stochasticdepth）方法来防止特定层或所有层中单元的共适应。
whitenightwu
·
2020-06-29 22:06
深度学习基础
深度学习基础--各种
Dropout
--Targeted
Dropout
更详细的资料整理到了个人的github上，地址为https://github.com/whitenightwu/11-Algorithm_and_Data/02-深度学习（部件）\类
dropout
Targeted
Dropout
whitenightwu
·
2020-06-29 22:33
深度学习基础
BMS8110复习（十二）：Lecture 12 - Single Cell Sequencing
Challengesforsingle-celldataanalysisGene
dropout
ConfoundingeffectsHighvar
wxw060709
·
2020-06-29 22:48
生物信息学
神经网络介绍--数据预处理、权重初始化及正则化
normalization)PCA和白化(whiten)常见的陷阱权重初始化陷阱：全零初始化使用小随机数初始化用1/sqrt（n）标准化方差稀疏初始化初始化偏差批量标准化正则化L2正则化L1正则化最大范数约束
Dropout
wutao02
·
2020-06-29 21:00
算法学习
神经网络
机器学习
公开课
吴恩达 深度学习课程2018开放 (Stanford CS230)
课程介绍从官网课程介绍，这次课程和去年的课程差别不算太大，仍然包括CNNs,RNNs,LSTM,Adam,
Dropout
,BatchNorm,Xavier/Heinitialization等深度学习的基本模型
iTensor
·
2020-06-29 20:52
深度学习
TensorFlow
Win 7下MatConvNet使用DAG网络方法记录
imagenet-resnet-50-dag.mat');net=dagnn.DagNN.loadobj(net);net.removeLayer('fc1000');net.removeLayer('prob');
dropout
Block
学为好人
·
2020-06-29 19:26
编程相关
Tensorflow的可视化工具Tensorboard的使用——标量（scalar）的使用
scalar是用来显示accuracy，crossentropy，
dropout
等标量变化趋势的函数。通过scalar可以看到这些量随着训练
自律者自由
·
2020-06-29 18:58
机器学习
ResNet18的基本原理及TensorFlow 2.0实现
背景介绍随着LeNet-5，AlexNet，VGG等神经网络结构的出现，卷积神经网络逐渐从单纯的只拥有卷积操作和下采样的神经网络发展为具有maxpooling、
dropout
以及非线性函数的神经网络。
A Peaceful Tree
·
2020-06-29 14:16
Dropout
与学习率衰减-基于keras的python学习笔记（九）
https://blog.csdn.net/weixin_44474718/article/details/86510278在机器学习中存在两类比较严重的问题（解决方法）：过拟合（
dropout
）和学习时间开销非常大
人工智障之深度瞎学
·
2020-06-29 13:25
深度学习
AlexNet论文学习笔记（超详解）
ReLU（RectifiedLinearUnits）LRN（LocalResponseNormalization）OverlappingPooling网络特色和训练技巧DataAugmentation
Dropout
Veritaswhs
·
2020-06-29 08:18
#
CV
baseline论文
神经网络
pytorch
深度学习
卷积
计算机视觉
tensorflow实践常用函数
tf.constant5.tf.Variable&&tf.get_variable()6.tf.truncated_normal7.tf.nn.conv2d&&tf.nn.max_pool&&tf.nn.
dropout
tf.cast
dlut_yan
·
2020-06-29 08:01
tensorflow
吴恩达深度学习第二课第一周作业及学习心得体会——初始化权重、L2正则化、
dropout
概述学习课程后，再第一周第四课作业的基础上完成该周作业，现将心得体会记录如下。初始化权重代码更改在之前的建立神经网络的过程中，提到权重w不能为0，而将它初始化为一个随机的值。然而在一个深层神经网络中，当w的值被初始化过大时，进入深层时呈指数型增长，造成梯度爆炸；过小时又会呈指数级衰减，造成梯度消失。Python中将w进行随机初始化时，使用numpy库中的np.random.randn()方法，ra
袁野_0073
·
2020-06-29 05:30
2020-2-14 深度学习笔记7 - 深度学习中的正则化4（稀疏表示-稀疏化激活单元(元素稀疏)，Bagging和其他集成方法，
Dropout
-廉价Bagging近似）
第七章深度学习中的正则化官网链接2020-2-9深度学习笔记7-深度学习中的正则化1（参数范数惩罚和范数惩罚约束）2020-2-12深度学习笔记7-深度学习中的正则化2（欠约束，数据集增强，噪声鲁棒性，输出目标注入噪声）2020-2-13深度学习笔记7-深度学习中的正则化3（半监督,多任务,提前终止-解决过拟合,参数绑定与参数共享）稀疏表示前文所述的权重衰减直接惩罚模型参数。另一种策略是惩罚神经网
没人不认识我
·
2020-06-29 05:01
深度学习
python
IT
【pytorch】model.train和model.eval用法及区别详解
使用PyTorch进行训练和测试时一定注意要把实例化的model指定train/eval，eval()时，框架会自动把BN和
DropOut
固定住，不会取平均，而是用训练好的值，不然的话，一旦test的batch_size
suu_fxhong
·
2020-06-29 02:36
Pytorch
Ner
importcodecsimportrandomimportnumpyasnpfromgensimimportcorporafromkeras.layersimportDense,GRU,Bidirectional,Spatial
Dropout
1D
我想了很多事情
·
2020-06-29 02:21
【学习笔记】动手学深度学习task03
文章目录一、过拟合、欠拟合及其解决方案1.过拟合、欠拟合的概念2.模型选择3.权重衰减3.1L2范数正则化（regularization）3.2丢弃法（
dropout
）二、梯度消失、梯度爆炸1.梯度消失和梯度爆炸
大象大象你的鼻子怎么那么长
·
2020-06-29 01:29
深度学习
LSTM做文本生成（基于word2vec)
Kerasimportosimportnumpyasnpimportnltkfromkeras.modelsimportSequentialfromkeras.layersimportDensefromkeras.layersimport
Dropout
fromkeras.layersimportLSTMfromkeras.callbacksimpor
勤奋的郑先生
·
2020-06-29 01:05
关于训练神经网路的诸多Trick
方法：使用
Dropout
Dropo
zzcse
·
2020-06-29 01:47
深度学习
【微软AutoML】AutoML工具 NNI 安装及使用体验
众所周知，调参在炼丹术中是非常重要的，神经网络的大小、层数、学习率、
Dropout
等等都是超参数，都需要人为确定，而这个过程几乎是玄学。
Somedaywilldo
·
2020-06-28 23:25
ML
AutoML
如何判断模型过拟合？那些手段解决过拟合？
dropout
另一种非常流行的神经网络正则化方法是
dropout
。这个想法实际上非常简单——神经网络的每个单元（属于输出层的那些单元）都被赋予在计算中被暂时忽略的概率p。
ChengLaun
·
2020-06-28 22:43
特征提取网络
CNN参数设置经验
CNN中比较重要的参数有：学习率、优化器、迭代次数、批次大小、激活函数、隐含神经元层数、权重初始化、
Dropout
方法、正则化、批归一化、学习率：采用哪种学习率取决于所选择优化算法的类型，如SGD、Adam
略张
·
2020-06-28 21:47
利用Keras进行多类分类
:UTF-8-*-importnumpyasnpimportpandasaspdfromkeras.modelsimportSequentialfromkeras.layersimportDense,
Dropout
fromkeras.wrappers.scikit_learnimportKerasClassifierfromkeras
倪四条
·
2020-06-28 21:45
python学习
Maxout Networks原理及源码
全篇大部分转载自：MaxoutNetworks，深度学习（二十三）Maxout网络学习作者：hjimce一、
Dropout
Gooddfellow在GAN本作中提到过一句话，自深度学习复苏以来，我们享受着计算资源的大幅度提升和
gdtop818
·
2020-06-28 20:03
GAN
深度学习paper
Adversarial
Network
paper_GAN
深度学习-提升训练质量的技巧合集
索引：欠拟合过拟合如何检测过拟合如何过拟合动量梯度下降学习率自适应提前停止
Dropout
随机梯度下降欠拟合underfitting就是模型的复杂度小于真实的复杂度，因此模型不能够表达真实的情况。
临远科技-熊冰
·
2020-06-28 19:57
【Python】keras使用Lenet5识别mnist
importnumpyasnpfromkeras.preprocessingimportimagefromkeras.modelsimportSequentialfromkeras.layersimportDense,
Dropout
weixin_34309543
·
2020-06-28 16:45
Deep learning：四十一(
Dropout
简单理解)
前言训练神经网络模型时，如果训练样本较少，为了防止模型过拟合，
Dropout
可以作为一种trikc供选择。
weixin_34128411
·
2020-06-28 11:11
【Python】keras卷积神经网络识别mnist
importnumpyasnpfromkeras.preprocessingimportimagefromkeras.modelsimportSequentialfromkeras.layersimportDense,
Dropout
weixin_34049032
·
2020-06-28 10:32
keras01 - hello world ~ 搭建第一个神经网络
importnumpyasnpfromkeras.datasetsimportmnistfromkeras.modelsimportSequential,Modelfromkeras.layers.coreimportDense,Activation,
Dropout
fromkeras.utilsimportnp_utilsimportmatplotlib.pyplotaspltimportmatp
weinierbian
·
2020-06-27 14:56
深度学习
神经网络解决过拟合的方法
总结simplermodelstructureregularizationdataaugmentation
dropout
Bootstrap/BaggingensembleearlystoppingutilizeinvarianceBayesian
wchzh2015
·
2020-06-27 14:18
机器学习与深度学习
浅谈keras 模型用于预测时的注意事项
一些正则机制，如
Dropout
，L1/L2正则项在测试模式下将不被启用。另外，训练误差是训练数据每个batch的误差的平均。
·
2020-06-27 10:29
头部姿态估计——adaptive gradient methods
HeadposeestimationinthewildusingConvolutionalNeuralNetworksandadaptivegradientmethods》2017，MassimilianoPatacchiola,AngeloCangelosi.adaptivegradientmethods本文使用4种最新的网络结构来训练头部姿态估计，作者也探讨
dropout
Peanut_范
·
2020-06-27 07:44
人脸属性与多任务
AlexNet神经网络简介与代码实战
2.模型结构3.模型特点AlexNet中包含了几个比较新的技术点，也首次在CNN中成功应用了ReLU、
Dropout
和LRN等Trick。同时Al
时光碎了天
·
2020-06-27 06:03
深度学习CNN基本模型
深度学习CNN基本模型
十个原因可能导致 训练集明明很高，验证集，测试集 validation accuracy stuck 准确率 很低 损失不减小
主要包括1.数据量小，网络复杂2.learningrate比较高，又没有设置任何防止过拟合的机制解决方法主要包括1.简化模型，利用现有深度学习手段增加数据（翻转，平移，随机裁剪，imgaug）2.利用
dropout
TinaO-O
·
2020-06-27 06:56
keras
keras
从入门开始
CS231n笔记5--Weights Update 与
Dropout
WeightsUpdate与
Dropout
WeightsUpdate与
Dropout
参数更新WeightsUpdate学习率是怎么来的随机梯度下降-StochasticGradientDescentBatch
LiemZuvon
·
2020-06-27 04:07
机器学习
深度学习
梯度下降
tensorflow学习笔记（四）：激活函数
tf.nn.tanh()tf.nn.elu()tf.nn.bias_add()tf.nn.crelu()tf.nn.relu6()tf.nn.softplus()tf.nn.softsign()tf.nn.
dropout
ke1th
·
2020-06-27 03:39
tensorflow
tensorflow学习笔记
正则化方法：L1和L2 regularization、数据集扩增、
dropout
本文是《Neuralnetworksanddeeplearning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在trainingdata上的error渐渐减小，但是在
wepon_
·
2020-06-27 03:30
Machine
Learning
在TensorFlow中实现文本分类的CNN
在TensorFlow中实现文本分类的CNN在TensorFlow中实现文本分类的CNN数据和预处理模型实现1输入占位符2向量层3卷积层和池化层4
Dropout
层5得分和预测6loss和Accuracy7
最小森林
·
2020-06-27 02:53
自然语言处理
深度学习
Tensorflow contrib.layers 模块介绍
也有些函数是提供归一化，卷积层，
dropout
层（注：
Dropout
是在训练过程中以一定概率1-p将隐含层节点的输出值清0），‘one-hot’编码等。
技术蚂蚁
·
2020-06-27 00:18
tensorflow
TensorFlow keras
dropout
层
将输入数据的形状进行修改成神经网络要求的数据形状keras.layers.Dense(128,activation=tf.nn.relu),#定义隐藏层，128个神经元的网络层keras.layers.
Dropout
高颜值的杀生丸
·
2020-06-26 23:12
Pooled GRU + FastText 实现多标签的代码阅读
embedingkerasTextPreprocessingTokenizerkeras.preprocessing.sequence.pad_sequenceskeras.layers.Inputkeras.layers.Embeddingkeras.layers.Spatial
Dropout
1Dkeras.layers.Densekeras.layers.Bidirectionalk
抖腿大刘
·
2020-06-26 22:56
kaggle
deep
learning
机器学习
code
reading
基于的BERT的一些改进模型及思路
基于的BERT的一些改进模型及思路被遗弃的NSPUnderfitted的BERT数据和批大小的作用Drop掉
dropout
减少参数的技术嵌入层的参数化方法--矩阵分解层间共享参数改头换面的MLM动态掩码判别器的优势总结
triplemeng
·
2020-06-26 20:48
深度学习
人工智能
BERT
句子嵌入
第4篇 Fast AI深度学习课程——深度学习在回归预测、NLP等领域的应用
主要内容如下：
DropOut
策略，以及Fast.AI附加层架构分析。结构化时间序列的处理与预测。IMDB影评倾向性分析。
suredied
·
2020-06-26 16:48
深度学习
Fast
AI
人工智能
Fast.AI
避免过拟合的方法，正则化，
dropout
，Batch normalization
避免过拟合的方法，正则化，
dropout
，Batchnormalization目录避免过拟合的方法，正则化，
dropout
，Batchnormalization一、铺垫1.奥卡姆剃刀原则2.简单模型上的过拟合
sunflower_sara
·
2020-06-26 15:43
机器学习
在训练过程中加入
Dropout
Dropout
是在训练过程中，随机地忽略部分神经元——也就是说，在正向传播的过程中，这些被忽略的神经元对下游神经元的贡献效果暂时消失，在反向传播中，这些神经元也不会有任何权值的更新。
Samuel_0
·
2020-06-26 15:22
Keras
上一页
42
43
44
45
46
47
48
49
下一页
按字母分类：
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他