百度飞桨深度学习笔记第25页

深度学习笔记（七）—— 初始化权值[Weight Initialization]

这是深度学习笔记第七篇，完整的笔记目录可以点击这里查看。首先说一个误区，那就是将所有权值都初始化为0。

zeeq_·2022-08-07 07:01

深度学习笔记-013 模型权重保存

保存模型参数state_dict就是一个简单的Python字典，它将模型中的可训练参数（比如weights和biases，batchnorm的running_mean、torch.optim参数等）通过将模型每层与层的参数张量之间一一映射，实现保存、更新、变化和再存储。首先定义模型的保存位置和文件名（以.pth结尾）再save模型权重到固定路径PATH='./my_net.pth'torch.sa

地表最菜研究生·2022-08-07 07:28

深度学习笔记-10.几种权重初始化方法

深度学习中神经网络的几种权重初始化方法https://zhuanlan.zhihu.com/p/25110150https://blog.csdn.net/attitude_yu/article/details/81458172https://www.cnblogs.com/hutao722/p/9796884.html目录梯度爆炸和梯度消失的原因一、常数初始化(constant)二、随机分布初始

业余狙击手19·2022-08-07 07:27

深度学习笔记(6.DNN初始化权重和损失nan坑)

前言权重初始化程序实现比较简单，修改dnn代码很少。不同初始化方式对结果影响很大。这部分根据课件实现了3中初始化方法，基本就是copy代码。但是这部分遇到了一个大坑，梯度爆炸还是消失。导致random随机初始化调试了好久才和课件上边的结果对上。这个目前还说不清楚，只能给出实验结果和程序修改过程，说一下大致数据变化。代码已更新程序地址：https://github.com/Constellation

迷茫猿小明·2022-08-07 07:11

吴恩达深度学习笔记-超参数调试、Batch正则化(第6课)

超参数调试一、调试处理二、为超参数选择合适的范围三、超参数训练的实践:PandasVSCaviar四、正则化网络的激活函数五、将BatchNorm拟合进神经网络六、BatchNorm为什么奏效？七、测试时的batchnorm八、softmax回归九、训练一个softmax分类器十、深度学习框架十一、Tensorflow一、调试处理在模型训练中需要调试许多超参数，例如：(1)学习率α；(2)动量下降

郭少的研究生笔记·2022-08-07 07:09

深度学习笔记-----归一化方法BN

1,概述1.什么是归一化：归一化又称规范化，并不是一个完全定义好的数学操作，通常是指将数据进行偏移和尺度缩放。是数据预处理中常用的手段。一般是将输入的数据约束固定到一定的范围如【0,1】。没有固定的数学表达式，根据需求定义将数据规定到一定范围内的数学表达式；2.归一化方法的目的：实际上是通过采取不同的变换方式使各层的的输入数据近似满足独立的分布条件，并将各层的输出限定在一定的范围3.在深度学习中常

YOULANSHENGMENG·2022-08-07 07:09

深度学习经典数据集汇总

深度学习数据集Author：louwillFrom：深度学习笔记很多朋友在学习了神经网络和深度学习之后，早已迫不及待要开始动手实战了。第一个遇到的问题通常就是数据。

louwill12·2022-08-04 20:27

【深度学习】深度学习经典数据集汇总

深度学习数据集Author：louwillFrom：深度学习笔记很多朋友在学习了神经网络和深度学习之后，早已迫不及待要开始动手实战了。第一个遇到的问题通常就是数据。

风度78·2022-08-04 20:25

AVH部署实践 (一) | 在Arm虚拟硬件上部署飞桨模型

针对深度学习算法在工业化落地过程中的应用与挑战，百度飞桨与Arm合作，针对ArmCortex-M处理器的深度学习应用场景，完成了飞桨模型在Cortex-M硬件上的适配。

飞桨PaddlePaddle·2022-08-02 12:52

全国人工智能师资培训高校行走进大湾区-深圳大学站

飞桨PaddlePaddle·2022-08-02 12:22

使用百度飞桨 EasyDL 完成垃圾分类

一、EasyDL产品介绍EasyDL从2017年11月中旬起，在国内率先推出针对AI零算法基础或者追求高效率开发的企业用户的零门槛AI开发平台，提供从数据采集、标注、清洗到模型训练、部署的一站式AI开发能力。对于各行各业有定制AI需求的企业用户来说，无论您是否具备AI基础，EasyDL设计简约，极易理解，最快5分钟即可上手学会，15分钟完成模型训练。采集到的原始图片、文本、音频、视频、OCR、表格

飞桨PaddlePaddle·2022-08-02 12:21

使用百度飞桨EasyDL实现电商UGC图片自动分类

项目说明业务背景运动潮牌鞋类越来越受年轻人欢迎，近几年运动鞋类销量也持续增高，也出现不少用户自主交易的电商平台。用户每天上传几万张鞋子照片，包括：鞋子外观、外盒或者鞋标，后台需要将鞋类照片进行分类处理，以便用户进行图像搜索时实现精准搜索。现阶段主要依赖人工进行分类后建立数据底库的形式来建设功能应用，其中耗费的人力成本过高，且识别效果不理想。某电商企业希望通过建立AI图像分类的能力来实现以图搜商品、

飞桨PaddlePaddle·2022-08-02 12:21

百度飞桨EasyDL助力制造业流水线AI升级

“到2025年，70%规模以上的制造业企业基本实现数字化网络化，建成500个以上引领行业发展的智能制造示范工厂。制造业企业生产效率、产品良品率、能源资源利用率等显著提升，智能制造能力成熟度水平明显提升。”不久前，工信部、国家发展改革委等八部门发布《“十四五”智能制造发展规划》，提出推动制造业实现数字化转型、网络化协同、智能化变革等举措。作为制造强国建设的主攻方向，加快发展智能制造对巩固实体经济根基

飞桨PaddlePaddle·2022-08-02 12:50

百度飞桨EasyDL X 韦士肯：看轴承质检如何装上“AI之眼”

随着AI技术在智能制造领域的落地，AI质检正在迎来快速发展。IDC《中国AI赋能的工业质检解决方案市场分析2021》报告显示，从2019-2024年，工业质检软件和服务市场的年均复合增长率将保持在30%以上。目前AI视觉检测在3C电子领域相对成熟，但在汽车零部件方面的应用却较少。以轴承行业为例，我国轴承产业规模已居世界轴承总量第三位。然而，在成品轴承外观检测上，目前基本依赖于人工，AI质检只能“望

飞桨PaddlePaddle·2022-08-02 12:20

Json格式的数据集标签转化为有效的txt格式(data_coco)

以百度飞桨平台第17届全国大学生智能汽车竞赛百度创意组数据集为例，我们将学习如何将json格式的数据集标签转

鱼仔的猫·2022-08-02 07:11

01.吴恩达神经网络与深度学习笔记（详细+不断更新）

人工智能交流群~小白零基础学习群Q711703402目录第一周：深度学习概论1.1深度学习与机器学习的关系1.2什么是神经网络？1.3用神经网络进行监督学习1.神经网络创造应用案例2.机器学习对结构化与非结构化数据的应用1.4为什么神经网络会兴起？（1遍过）1.5关于这门课可以学到什么？深度学习最重要的基础第二周：神经网络的编程基础2.1二分类1.什么是二分类2.补充：图片在计算机中如何表示3.本

玉一·2022-07-30 07:11

深度学习笔记（四）——pytorch实现神经网络案例

利用pytorch的nn工具箱，构建一个神经网络神经网络核心组件及其关系图神经网络的核心组件神经网络关键组件相互关系图神经网络实例背景说明神经网络结构代码示例导入必要的模块定义一些超参数下载数据并对数据进行预处理可视化源数据构建模型训练模型可视化训练及测试损失值如何构建神经网络构建网络层前向传播反向传播训练模型参考文献神经网络核心组件及其关系图神经网络的核心组件（1）层：神经网络的基本结构，将输入

小白成长之旅·2022-07-28 07:46

深度学习笔记（二）图像分类实践

深度学习笔记（二）图像分类实践使用keras中的ResNet模型进行图像处理记忆预测importkeras#importtensorflowfromkeras.applications.resnet_v2importpreprocess_input

小菜·2022-07-21 18:29

一分钟教会您使用Yolov5训练自己的数据集并测试

3.数据集下载：使用百度飞桨提供的3种水果检测的小数据集，百度网盘链接：https://pan.baidu

DK数据工作室·2022-07-20 07:30

深度学习笔记[1]: CNN for CV斯坦福CS231n (1)

XiaoPing88Eric·2022-07-19 19:52

百度飞桨EasyDL图像分类：收费口车辆类型自动识别

项目说明业务背景随着城市化进程的不断推进，中国汽车的保有量一直保持上升态势，截止至2022年3月底，全国汽车保有量达3.07亿，汽车保有量的不断上升。不同车辆类型的分类在智能交通系统、公共安全等领域扮演着重要角色，例如高速收费口的车辆类型识别、停车场收费口的车辆类型识别、日常交通监控中的车辆类型识别等。业务难点以收费口管理场景为例，依据不同的车辆类型具有不同的收费标准，依靠人工判断并计算费用效率低

飞桨PaddlePaddle·2022-07-19 19:19

“先导杯”来啦！召唤科学计算界的最强大脑，36万奖池等你来拿！

AIforScience开放应用赛题为契合当下整个行业AI与高端算力融合的趋势，更好地实现AI应用，百度飞桨发布AIforScience开放应用赛题，提供赛桨PaddleScienc

飞桨PaddlePaddle·2022-07-19 19:18

百度飞桨EasyDL助力汽车零部件企业快速解锁AI应用

近日，百度飞桨邀请了百度智能云智慧工业事业部行业解决方案总监张宁宁、辨影科技创始人王京京、上海实极机器人自动化有限公司软件部经理罗锋、柳州源创电喷装备开发部部长蒙东辉、百度智能云资深解决方案工程师邱煜

飞桨PaddlePaddle·2022-07-19 19:48

百度飞桨EasyDL助力制造企业智能化转型

随着工业4.0时代的到来，如何借助人工智能这把利剑，实现传统生产方式的转型升级，站在新一轮工业革命浪潮的潮头，成为每个工业制造企业不得不思考的问题。工业具备大量的数据积累，工业的生产、质检、管理等各个环节都在持续、大量、快速地产生着数据，是人工智能应用的蓝海。当下，以机器视觉为代表的AI技术，正在被广泛地应用于3C电子、食品制造、汽车零部件制造等多个领域，包括缺陷瑕疵检测、生产环境安全等多项功能，

飞桨PaddlePaddle·2022-07-19 19:47

金融、生物医药、集成电路，上海巨头行业用AI加持核心竞争力

百度飞桨（张江）人工智能产业赋能中心一周年开放日将于7月13日13:55-15:00举行，届时赋能中心负责人将连线上海智慧金融、生物医药、集成电路企业代表，共探产业智能化转型升级“高速路”。

飞桨PaddlePaddle·2022-07-19 19:16

一文了解百度飞桨EasyDL如何实现海洋馆动物自动识别

项目说明业务背景作为展览馆，如何进一步通过互动有趣方式吸引参观者进行沉浸式参观是近来的发展趋势。以海洋馆为例，观展人面对海洋馆大型鱼缸内的众多鱼类，经常由于海洋认知知识缺乏而眼花缭乱。当前这家海洋馆针对该情况，面向观展人提供了拍图识物的功能，面向眼前的海洋生物进行拍照，就能立刻知晓该生物的类型，同时推广关于该海洋生物的百度百科介绍信息，帮助观展人进一步了解海洋生物。业务难点由于海洋生物的识别具有特

飞桨PaddlePaddle·2022-07-19 19:46

Graphcore 联合百度飞桨提交 MLPerf Training 2.0，IPU 性能再下一城

最近，AI芯片厂商Graphcore联合国内知名的深度学习平台百度飞桨，共同提交了MLCommons的AI基准评测MLPerfTraining2.0，提交的模型集合评测结果比以往测试和其他芯片平台，都有较大的提升

CSDN云计算·2022-07-19 07:21

【百度飞桨】手写数字识别模型部署Paddle Inference

从完成一个简单的『手写数字识别任务』开始，快速了解飞桨框架API的使用方法。模型开发『手写数字识别』是深度学习里的HelloWorld任务，用于对0~9的十类数字进行分类，即输入手写数字的图片，可识别出这个图片中的数字。本任务用到的数据集为MNIST手写数字数据集，用于训

湾仔码农·2022-07-16 20:00

深度学习笔记（四）：卷积神经网络week2--深度卷积网络：实例探究

1.为什么要进行实例探究（Whylookatcasestudies）本周课程将主要介绍几个典型的CNN案例。通过对具体CNN模型及案例的研究，来帮助我们理解知识并训练实际的模型。典型的CNN模型包括：LeNet-5AlexNetVGG除了这些性能良好的CNN模型之外，我们还会介绍ResidualNetwork（ResNet）。其特点是可以构建很深很深的神经网络（目前最深的好像有152层）。另外，还

还好江南·2022-07-13 07:38

深度学习笔记(十三):IOU、GIOU、DIOU、CIOU、EIOU、Focal EIOU、alpha IOU损失函数分析及Pytorch实现

文章目录IOU-lossGIOU-lossDIOU-lossCIOU-lossEIOU-loss和FocalEIOU-lossalphaIOU总对比参考链接：IOU-loss算法作用：Iou的就是交并比，预测框和真实框相交区域面积和合并区域面积的比值，计算公式如下，Iou作为损失函数的时候只要将其对数值输出就好了。算法代码：defIou_loss(preds,bbox,eps=1e-6,reduc

ZZY_dl·2022-07-12 07:28

HALCON 21.11：深度学习笔记---异常检测(9)

HALCON21.11：深度学习笔记---异常检测(9)HALCON21.11.0.0中，实现了深度学习方法。本章介绍了如何使用基于深度学习的异常检测。通过异常检测，我们想要检测图像是否包含异常。

机器视觉001·2022-07-12 07:58

HALCON 20.11：深度学习笔记(9)---异常检测

HALCON20.11：深度学习笔记(9)---异常检测HALCON20.11.0.0中，实现了深度学习方法。本章解释了如何使用基于深度学习的异常检测。通过异常检测，我们想要检测图像是否包含异常。

机器视觉001·2022-07-12 07:27

人均月薪7.6万！腾讯一季度营收超千亿；突破 1nm！台积电祭出“半金属”取代硅材料；苹果与微软竞争再升温 | EA周报...

周报看点1、腾讯前三个月总酬金成本超204.01亿元员工平均每月薪酬7.6万元2、百度CTO王海峰：百度飞桨开发者数量达320万，同比增长70%3、华为正式进军显示器市场，面向办公和游戏场景4、取代亚马逊

EAWorld·2022-07-11 09:56

深度学习笔记------注意力机制

目录1.什么是注意力机制1.1Encoder-Decoder框架（编码-解码框架）1.2注意力的基础模型2空间注意力模型2.1什么是空间注意力模型2.2典型的空间注意力模型3通道注意力机制3.1什么是通道注意力3.2通道注意力机制典型网络4空间和通道混合注意力机制5，总结1.什么是注意力机制当我们人类在看东西时，一般会将注意力集中注视着某个地方，而不会关注全部所有信息。例如当我们一看到下面这张猫的

YOULANSHENGMENG·2022-07-10 13:54

深度学习笔记（40） YOLO

深度学习笔记（40）YOLO1.YOLO对象检测算法2.构造训练集3.预测3.非极大值抑制1.YOLO对象检测算法之前已经学到对象检测算法的大部分组件：博文组件作用深度学习笔记（32）目标定位目标定位标记目标位置深度学习笔记

氢键H-H·2022-07-03 07:12

YOLOv5 使用入门

YOLOv5使用入门1.源码准备2.例子3.运行1.源码准备在很早之前，在《深度学习笔记（40）YOLO》提及到YOLO目标检测目前已经出到了YOLOv5，源码放在Github上$gitclonehttps

氢键H-H·2022-07-03 07:27

百度AI Studio图神经网络7日打卡营——学习总结

文章目录前言一、GNN理论学习二、PGL实战1.关于百度飞桨PGL框架2.DeepWalk与node2vec3.GCN与GAT4.GraphSage5.比赛：论文引用网络节点分类6.拔高：新冠疫苗项目总结前言前阵子对百度

苏打悠·2022-07-02 07:19

动手学深度学习笔记（一）——权重衰退

一直在csdn上学习别人发的博客，第一次尝试自己写博客，今天周日，在实验室小学一会，发现自己有些不明白的点突然想明白了，想记录一下在学习过程中遇到的难点或者有些迷惑的地方，希望自己以后能掌握牢固，并把自己的一些看法分享给大家，欢迎一起讨论。目录一、引言二、权重衰退的作用和原因1、为什么权重矩阵稀疏可以防止过拟合?2、为何权重参数w减小就可以防止过拟合?其他缓解过拟合的方法：三、权重衰退的实现通过限

SaltyFish_Go·2022-07-01 07:03

跟着李沐大神动手深度学习笔记——权重衰退

使用均方范数作为硬性限制如下所示，其中l是我们要优化的损失函数，w和b是两个参数。w为权重，b为偏移，使用均方范数作为柔性限制以上可以通过拉格朗日乘子来证明，超参数λ\lambdaλ控制了正则项的重要程度。其中，w∗w^*w∗表示www的最优解。λ=0:\lambda=0:λ=0:无作用，即不会影响w的取值，等价于之前的θ−>∞\theta->\inftyθ−>∞λ−>∞\lambda->\inf

非生而知之者·2022-07-01 07:41

深度学习笔记（4）: Xavier神经网络参数初始化方法

代码：defxavier_init(fan_in,fan_out,constant=1):low=-constant*np.sqrt(6.0/(fan_in+fan_out))high=constant*np.sqrt(6.0/(fan_in+fan_out))returntf.random_uniform((fan_in,fan_out),minval=low,maxval=high,dtype

梅津太郎·2022-07-01 07:19

深度学习笔记 —— 权重衰退 + 丢弃法

硬性限制柔性限制“罚”（即后一项）的引入，使得最优解往原点走，使得w的绝对值会小一些，从而降低了整个模型的复杂度为什么要用权重衰退呢？因为数据中有噪音存在，往往使得w比较大，从而使模型得到的解与最优解相比，w会比较大。当我们采用权重衰退的方法以后，会把w拉小，因此更容易将解拉到最优解附近。此处噪音不是指固定噪音，而是随机噪音。加入了噪音，但并不希望期望有所改变dropout是一个正则项，正则项只在

Whisper_yl·2022-07-01 07:10

【深度学习笔记】自建交通标志分类数据集转换为MNIST数据格式

文章目录前言一、自建交通标志分类数据集并做预处理1.RGB图像转灰度图像2.灰度图像缩放为28*28尺寸二、转换为MNIST数据格式1.转换代码如下2.转换过程打印如下3.最终转换结果总结前言提示：个人分类数据集预处理：MNIST是经典的手写数字分类数据集，数据集中的图像是灰度图像，图像格式为png，图像尺寸为28*28，最主要的是MNIST数据集格式如下图所示。我们怎么把自己制作的分类数据集中j

雨果先生·2022-06-30 07:58

【深度学习笔记】飞桨PP-PicoDet算法训练自己数据（过程超详细）

前言最近在研究目标检测算法–PP-PicoDet算法（百度自研**)，2021年11月份新鲜出炉。官方介绍说，性能优于YOLOV5、YOLOX等算法，主要是轻量化部署贡献很大，比如在相同的精度下，PP-PicoDet推理速度高出YOLOv5s44%，可谓NB，所以作者第一步先搭建环境，试跑一下，记录使用PP-PicoDet算法在paddle框架下训练模型的整个过程，供大家参考交流，欢迎提问。PP-

雨果先生·2022-06-30 07:28

【深度学习笔记】目标检测之区域入侵判断代码

应用背景目标检测应用落地时，经常会有区域入侵的判断需求，本文主要记录一种简单高效的判断方法。不过区域划分目前只能是矩形，还不支持不规则区域。思路判断目标框是否与矩形区域有重叠。区域入侵代码代码片.#include#includeusingnamespacestd;typedefstructrectangle{floatcenterX;floatcenterY;floatwidth;floathei

雨果先生·2022-06-30 07:57

百度飞桨paddlehub——人脸口罩检测模型应用之进门戴口罩自动检测+语音合成提醒

一、简介PaddleHub是飞桨生态的预训练模型应用工具，开发者可以便捷地使用高质量的预训练模型结合Fine-tuneAPI快速完成模型迁移到部署的全流程工作。PaddleHub提供的预训练模型涵盖了图像分类、目标检测、词法分析、语义模型、情感分析、视频分类、图像生成、图像分割、文本审核、关键点检测等主流模型。更多详情可查看：https://github.com/PaddlePaddle/Padd

sinat_34618200·2022-06-25 08:03

深度学习笔记七：循环神经网络RNN(基本理论)

参考:RECURRENTNEURALNETWORKSTUTORIAL,PART1–INTRODUCTIONTORNNSACriticalReviewofRecurrentNeuralNetworksforSequenceLearning李宏毅机器学习(2017)为了印象更加直观,这里贴一个前面例子的动图.到这里,关于RNN最基本的概念和运算方式就讲完了.---------------------本

喜欢打酱油的老鸟·2022-06-23 22:40

基于Seq2Seq的机器翻译-PyTorch

动手学深度学习笔记一、机器翻译1.下载和预处理数据集2.构建词表3.加载数据集二、编码器-解码器架构三、Seq2Seq1.编码器2.解码器3.损失函数4.训练5.预测6.预测序列的评估一、机器翻译机器翻译指将序列从一种语言自动翻译成另一种语言

葫芦娃啊啊啊啊·2022-06-23 07:40

深度学习笔记（三十四）经典卷积神经网络：LeNet-5 AlexNet VGG-16

文章目录一、LeNet-5二、AlexNet三、VGG-16一、LeNet-5CONV16个过滤器，过滤器尺寸为5，步长为1，填充为0POOL1过滤器尺寸为2，步长为2CONV216个过滤器，过滤器尺寸为5，步长为1，填充为0POOL2过滤器尺寸为2，步长为2FC3全连接层120个神经元FC4全连接层84个神经元OUTPUT输出层10个神经元Softmax回归需要注意的几点：在LeNet-5中，池

Mr.zwX·2022-06-23 07:02

用RNN & CNN进行情感分析 - PyTorch

动手学深度学习笔记一、情感分析及数据集1.读取数据集2.预处理数据集二、利用RNN进行情感分析1.使用RNN表示单个文本2.加载预训练的词向量3.训练和评估模型4.预测三、利用CNN进行情感分析1.一维卷积

葫芦娃啊啊啊啊·2022-06-23 07:12

基于Transformer实现更精准的脑出血多标签分类

在医疗影像分析领域，灵医智惠也具备了丰富的技术积累，并基于百度飞桨打造了AI影像能力中台EasyMIA（EasyMedicalImagesAnalysis）。目前，EasyMIA已经覆盖眼底影像、

飞桨PaddlePaddle·2022-06-20 07:45

推荐频道

百度飞桨深度学习笔记