E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kaiming
RetinaNet: Focal loss在目标检测网络中的应用
来自Microsoft的SunJian团队与现在Facebook的Ross/
Kaiming
团队在当前视觉目标分类、检测领域有着北乔峰、南慕容一般的独特地位。
manofmountain
·
2022-02-12 16:41
Masked Autoencoders Are Scalable Vision Learners
作为学术菜鸡的我跪着看完了
kaiming
大佬的论文，先po一个大佬主页：KaimingHe在讲MaskedAutoencodersAreScalableVisionLearners这个之前，由于笔者对Transformer
Daft shiner
·
2021-11-22 13:25
Transformer
pytorch
计算机视觉
技术干货 | 基于MindSpore更好的理解Focal Loss
今天更新一下恺明大神的FocalLoss，它是
Kaiming
大神团队在他们的
华为云
·
2021-05-24 11:12
技术交流
MindSpore
Focal
Loss
函数
样本
图像物体检测
技术干货 | 基于MindSpore更好的理解Focal Loss
今天更新一下恺明大神的FocalLoss，它是
Kaiming
大神团队在他们的论文FocalLossforDenseObjectDetection提出来的损失函数，利用它改善了图像物体检测的效果。
华为云
·
2021-04-19 14:25
技术交流
开源社区
MindSpore
Focal
Loss
损失函数
图像物体检测
采样
Resnet网络论文阅读笔记
DeepResidualLearningforImageRecognitionKaimingHeXiangyuZhangShaoqingRenJianSun参考文献和链接：DeepResidualLearnDeepResidualLearningforImageRecognition,He-
Kaiming
写代码无bug的仙女
·
2021-03-27 22:35
深度学习
论文阅读笔记
深度学习
resnet
一文搞懂深度网络初始化（Xavier and
Kaiming
initialization）
最近时不时就有网友发私信让我帮忙debug程序，对于这些来信，我的回复通常都是一句话：“先跑通论文作者的开源代码，在此基础上再逐步修改数据集和模型。”你或许会觉得我在摆谱，净说些高大上的政治正确的空话，但这还真不是。和其他的软件程序不同，神经网络是个系统工程，数据、参数、模型内部结构、训练策略、学习率等等，这些因素不管哪一部分出错，它都不会报错，只是会输出一些不是你想要的结果而已。参数初始化就是这
A君来了
·
2020-12-23 15:06
深度学习模型需要调哪些参数
Commonpractiseforinitialization.forlayerinmodel.modules():ifisinstance(layer,torch.nn.Conv2d):torch.nn.init.
kaiming
_normal
烟雨风渡
·
2020-12-19 09:40
pytorch
深度学习
调参
学习率
过拟合
批次大小
论文笔记：Dark Channel Prior -
Kaiming
He（2）
目录HazeRemovalUsingDarkChannelPrior4.2.SoftMatting前一篇博客介绍了论文的摘要、引言、背景以及暗通道先验部分，接下来继续介绍文章中余下的部分。HazeRemovalUsingDarkChannelPrior4.2.SoftMatting注意到公式（1）与图像抠图方程（imagemattingequation）有着相似的形式，所以我们采用了一个softm
雪清Fand
·
2020-09-15 16:22
图像处理
学习笔记
计算机视觉
算法
论文笔记：Dark Channel Prior -
Kaiming
He（1）
目录摘要1.Introduction2.Background3.DarkChannelPrior4.HazeRemovalUsingDarkChannelPrior4.1.EstimatingtheTransmission4.2.SoftMatting论文标题：SingleImageHazeRemovalUsingDarkChannelPrior第一作者：何凯明Article·January201
雪清Fand
·
2020-09-15 16:21
图像处理
学习笔记
算法
计算机视觉
权重初始化方式
常见的四种初始化方式初始化为常数或者0初始化Xavier初始化
Kaiming
初始化相同点：四种更新方式的权重均值都为0后三种初始化的目的是，设计初始化权重的方差，使得每层的输出值的方差与输入值的方差是一样的
你吃过卤汁牛肉吗
·
2020-09-14 20:37
深度学习
深度学习基础理论
Path Aggregation Network for Instance Segmentation解读
COCO2017instancesegmentation的冠军，读了这篇论文再加上之前读论文的体会，和朱神交流后得到一个感悟:同样一个work的小改动，你不能挖的深或者看得很浅，那你就是trick，而别人就能给科研界带来启发，ResNet很简单，但是
kaiming
爆米花好美啊
·
2020-09-13 16:38
深度学习
论文学习笔记
detection
阅读笔记之解决正负样本不均衡---《Focal loss for Dense Obiect Detection》
目录一、论文信息二、阅读笔记三、个人理解四、相似文章推荐五、代码实现一、论文信息论文：《FocallossforDenseObiectDetection》论文信息：RBG和
Kaiming
大神在ICCV2017
走呀去看海
·
2020-08-26 15:41
损失函数
focal
loss
样本不平衡
论文《deep residual learning for image recognition》-
Kaiming
He
文章中的源码https://github.com/KaimingHe/deep-residual-networks开头便提到神经网络越深，越难以训练优化。**ResNet出现的主要原因(目的)**是解决深层网络中的退化现象，属于优化难题，SGD的优化更困难。degradationproblem:即随着网络的depth增加，trainerror非但没有降低，反而增加了。Inthispaper,wea
五取蕴_41121879
·
2020-08-22 02:49
深度学习论文：Deep Residual Learning for Image Recognition
论文：He,
Kaiming
,etal."Deepresiduallearningforimagerecognition."
你好再见z
·
2020-08-22 01:07
Deep
Learning
Mask RCNN 论文阅读 #paper reading
这篇文章便给出了一个很简单、可扩展，并且稳定性高的模型——MaskRCNN，来进行实例分割，这个模型还是以FasterRCNN为基础的（手动佩服
Kaiming
奔跑的汉堡包
·
2020-08-21 20:40
【论文阅读】Aggregated Residual Transformations for Deep Neural Networks Saining（ResNext）
这篇文章是
kaiming
大神的组的工作，在resnet上继续改进。
DechaoMeng
·
2020-08-20 18:21
论文阅读
经典分类CNN模型系列其四：Resnet
它的提出始于2015年，作者中间有大名鼎鼎的三位人物He-
Kaiming
,Ren-Shaoqing,Sun-Jian。绝对是华人学者的骄傲啊。
manofmountain
·
2020-08-20 10:56
【机器学习】权重初始化
【机器学习】权重初始化简单线性模型的权重初始化深度学习中的权重初始化标准初始化Xavier初始化
Kaiming
初始化随机初始化+BNpretrain初始化简单线性模型的权重初始化全0初始化，常用于简单的线性模型中
郑壮强
·
2020-08-19 03:16
机器学习
目标检测-Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks
FasterR-CNN:TowardsReal-TimeObjectDetectionwithRegionProposalNetworksTPAMI.2016Ren,Shaoqing，He,
Kaiming
丽宝儿
·
2020-08-17 12:49
物体检测
权值的初始化
权值的初始化1.梯度消失与爆炸2.Xavier方法与
Kaiming
方法3.常用初始化方法1.梯度的消失和爆炸为什么梯度消失和爆炸为什么可怕？
Major_s
·
2020-08-14 19:37
[pytorch]权重初始化方法
[pytorch]权重初始化方法初始化方法常数初始化均匀分布正态分布稀疏初始化Xaivier均匀分布Xaivier正态分布
Kaiming
均匀分布
Kaiming
正态分布应用的实例单层网络使用apply初始化权重初始化的方法封装在
超喜欢萱萱子的可可子
·
2020-08-13 22:56
pytorch_权值初始化
权值初始化梯度消失与爆炸梯度爆炸初始化网络权值方差梯度消失Xavier初始化（适用饱和函数）
Kaiming
初始化（适用于非饱和）十种初始化方法梯度消失与爆炸梯度爆炸要使网络输出不能太大不能太小初始化网络权值方差为了使输出方差为
2017133130
·
2020-08-13 22:43
pytorch
Pytorch神经网络初始化
kaiming
分布
函数的增益值torch.nn.init.calculate_gain(nonlinearity,param=None)提供了对非线性函数增益值的计算。增益值gain是一个比例值，来调控输入数量级和输出数量级之间的关系。fan_in和fan_outpytorch计算fan_in和fan_out的源码def_calculate_fan_in_and_fan_out(tensor):dimensions
于小勇
·
2020-08-13 21:25
Pytorch
torch.nn.init.
kaiming
_normal_
torch.nn.init.
kaiming
_normal_(tensor,a=0,mode='fan_in',nonlinearity='leaky_relu')[source]FillstheinputTensorwithvaluesaccordingtothemethoddescribedinDelvingdeepintorectifiers
于小勇
·
2020-08-13 21:25
Pytorch
pytorch权重初始化之
kaiming
_normal初始化
importtorchimporttorch.nnasnnw=torch.empty(2,3)#torch.nn.init.
kaiming
_normal_(tensor,a=0,mode='fan_in
是鲤鱼呀
·
2020-08-13 17:49
深度学习
二维卷积神经网络的初始化为0及其他初始化方式对比
今天想结合实验及公式讨论下，二维卷积神经网络下，初始化为0初始化为常数
kaiming
初始化3种初始化方式的结果。并分析复杂模型不能初始化为0的根本原因。
kendyChina
·
2020-08-13 12:45
深度学习
初始化
学习笔记|Pytorch使用教程13(权值初始化)
使用Pytorch版本为1.2梯度消失与爆炸Xavier方法与
Kaiming
方法常用初始化方法一.梯度消失与爆炸梯度推导公式：H2=H1∗W2ΔW2=∂L0ss∂W2=∂L0ss∂out∗∂out∂H2
NotFound1911
·
2020-08-13 10:02
Pytorch
自学
Pytorch
权值初始化
PyTorch复杂模型初始化
forminself.modules():ifisinstance(m,nn.Conv2d):nn.init.
kaiming
_normal_(m.weight,mode='
Snoopy_Dream
·
2020-08-13 10:46
pytorch
【学习笔记】Pytorch深度学习-权值初始化
【学习笔记】Pytorch深度学习-权值初始化梯度爆炸和消失Xavier和
Kaiming
方法常用的初始化方法前面学习了搭建网络模型的各个层级与结构，想要训练得到1个良好的网络模型，正确的权值初始化方法可以加快模型的收敛
白桃乌龙茶
·
2020-08-13 10:07
深度学习
神经网络
Pytorch中的参数初始化
文章目录1.参数初始化（WeightInitialization）1.1常数初始化1.2均匀分布初始化1.3正态分布初始化1.4Xavier均匀分布1.5Xavier正态分布1.6
kaiming
均匀分布
我是天才很好
·
2020-08-12 13:23
pytorch
ILSVRC15 夺冠神器，ResNet论文阅读
论文地址：https://arxiv.org/pdf/1512.03385.pdf作为ILSVRC15年的冠军，
Kaiming
大神一贯落实着不发则已，一发惊人的论文生产准则。
奔跑的汉堡包
·
2020-08-11 03:53
openCV+python实现图像去雾
Kaiming
早在09年以MSRA实习生的身份获得CVPRbestpaper，其成果就是给图像去雾。当时并没有用深度学习，却能实现让人震惊的效果。先看下效果：左边是原图，右边是去雾霾之后的图。
木盏
·
2020-08-08 17:41
Computer
Vision
python
[PyTorch]PyTorch中模型的参数初始化的几种方法（转）
[PyTorch]PyTorch中模型的参数初始化的几种方法（转）~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~本文目录1.xavier初始化2.
kaiming
初始化3.实际使用中看到的初始化
急流勇进
·
2020-08-04 07:42
Pytorch：参数初始化 笔记
权重初始化方式包括ImageNet预训练参数，
kaiming
_uniform方式以及多种权重初始化方式。这篇笔记主要记录一下Pytorch中内置的各种权重初始化方式的原理与使用。
huangpg丶
·
2020-08-04 03:29
PyTorch
深度学习--第11篇: Pytorch权值初始化
Pytorch权值初始化参考博客背景知识1.梯度消失和爆炸2.Xavier初始化2.1Xavier均匀分布初始化2.2Xavier正态分布初始化3.
Kaiming
初始化3.1
Kaiming
正态分布初始化
w风的季节
·
2020-08-03 22:31
深度学习
pytorch ——模型创建与nn.Module
创建好模型后，需要对模型进行权值初始化，pytorch提供了丰富的初始化方法，Xavier，
Kaiming
，均匀分布，正态分布等。以上一切都会基于nn.Module进
努力努力努力努力
·
2020-08-03 22:54
pytorch
pytorch学习六--模型创建步骤与nn.module
模型模块包括两部分：模型创建与权值初始化；模型创建又包括构建网络层（卷积层、池化层、激活函数层等）和拼接网络层（LeNet、AlexNet、ResNet等）；权值初始化有Xavier、
Kaiming
、均匀分布
Rachel_nana
·
2020-08-03 14:46
python
pytorch
PyTorch学习笔记（三）参数初始化与各种Norm层
3.7PyTorchversion:1.4.0IDE:PyCharm文章目录0.写在前面1.初始化1.1Xavier初始化1.1.1Xavier均匀分布1.1.2Xavier正态分布1.1.3计算增益值gain1.2
kaiming
longrootchen
·
2020-08-03 10:49
PyTorch学习笔记
Pytorch神经网络初始化
kaiming
分布
函数的增益值torch.nn.init.calculate_gain(nonlinearity,param=None)提供了对非线性函数增益值的计算。增益值gain是一个比例值，来调控输入数量级和输出数量级之间的关系。fan_in和fan_outpytorch计算fan_in和fan_out的源码def_calculate_fan_in_and_fan_out(tensor):dimensions
winycg
·
2020-08-02 14:59
深度学习与pytorch
PyTorch 学习笔记（四）：权值初始化的十种方法
本文截取自《PyTorch模型训练实用教程》，获取全文pdf请点击：https://github.com/tensor-yu/PyTorch_Tutorial文章目录Xavier，
kaiming
系列；其他方法分布
TensorSense
·
2020-08-02 12:41
PyTorch
deep-learning
PyTorch学习笔记
经典分类CNN模型系列其四：Resnet
它的提出始于2015年，作者中间有大名鼎鼎的三位人物He-
Kaiming
,Ren-Shaoqing,Sun-Jian。绝对是华人学者的骄傲啊。
城市中迷途小书童
·
2020-07-31 22:39
深度学习——激活函数ReLu、LReLu、PReLu原理解析
深度学习——激活函数ReLu、LReLu、PReLu原理解析简介论文链接：https://arxiv.org/abs/1502.01852由于项目需要，需要了解msra权重初始化方法原理，正好
Kaiming
jmujsc
·
2020-07-29 19:37
计算机视觉
深度学习
深度之眼【Pytorch】-Xavier、
Kaiming
初始化（附keras实现）
pytorch训练营二期学习笔记，详细课程内容移步：深度之眼https://ai.deepshare.net/index目录背景知识Xavier初始化1.Xavier均匀分布初始化2.Xavier正态分布初始化
Kaiming
风后奇门‘
·
2020-07-15 07:16
Pytorch
Keras
深度学习框架
2020年3月15日-18日学习笔记
个人学习笔记，可能存在错误，仅供参考，部分内容来自网上，侵删目录1任务2Python及Qt2.1Qt2.2模型、python学习2.2.1初始化方法（xavier和
kaiming
）2.2.2PyTorch
远方的河岸
·
2020-07-14 19:04
笔记
2d和3d cnn 解决医疗影像分析问题
文章目录项目介绍预处理方法augmentation(flip,resize,crop)spacingclassweight交叉验证模型权值初始化方法Xavier正态分布
kaiming
正态分布方法2维的方法
huangbx_tx
·
2020-07-09 17:47
深度学习
作业
一文读懂自监督学习
Sherlock来源丨https://zhuanlan.zhihu.com/p/108625273仅作学术交流，如有侵权，请联系删文导读：最近self-supervisedlearning变得非常火，首先是
kaiming
视学算法
·
2020-07-06 11:38
Weight Initialization in Neural Networks: A Journey From the Basics to
Kaiming
我想邀请您加入我的探索，通过不同的方法初始化神经网络中的图层权重。通过各种简短的实验和思想练习，我们将逐步发现为什么在训练深度神经网络时足够的重量初始化非常重要。在此过程中，我们将介绍研究人员多年来提出的各种方法，并最终深入研究最适合您最有可能使用的当代网络架构的方法。接下来的例子来自我自己重新实现的一套笔记本，JeremyHoward在最新版本的fast.ai的深度学习第二部分课程中介绍了这一课
Adam坤
·
2020-07-06 03:14
概念理解
神经网络
AI程序员
算法
2019-03-04~2019-03-29
分享计算机视觉每天的arXiv文章2019-03-29[1]
Kaiming
新文论文题目：TensorMask:AFoundationforDenseObjectSegmentation作者：XinleiChen
Astonc
·
2020-07-06 03:13
学习
Focal loss论文详解
FocalLossforDenseObjectDetectionICCV2017RBG和
Kaiming
大神的新作。
逍遥王可爱
·
2020-07-05 05:20
深度学习
Focal Loss(ICCV2017最佳学生论文)
Kaiming
包揽了ICCV2017的最佳论文（MaskR-CNN）和最佳学生论文（FocalLoss）。
木盏
·
2020-07-04 21:29
AI数学
Computer
Vision
paper
focal
loss
AI
CV
paper
上一页
1
2
3
4
5
下一页
按字母分类：
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他