深度学习基础知识

深度学习基础知识⑥

深度学习中的超参数调节我们平时一直都在说“调参、调参”，但实际上，不是调“参数”，而是调“超参数”。参数（Parameter）和超参数（HyperParameter）是指什么呢？参数是我们训练神经网络最终要学习的目标，最基本的就是神经网络的权重W和biasb，我们训练的目的，就是要找到一套好的模型参数，用于预测未知的结果。这些参数我们是不用调的，是模型在训练的过程中自动更新生成的。超参数是我们控制
微笑感染黑暗的街头·2022-04-28 07:25

深度学习基础知识④

深度残差网络深度卷积网络一开始面临的最主要的问题是梯度消失和梯度爆炸。那什么是梯度消失和梯度爆炸呢？所谓梯度消失，就是在深层神经网络的训练过程中，计算得到的梯度越来越小，使得权值得不到更新的情形，这样算法也就失效了。而梯度爆炸则是相反的情况，是指在神经网络训练过程中梯度变得越来越大，权值得到疯狂更新的情形，这样算法得不到收敛，模型也就失效了。由上图我们可以看到56层的普通卷积网络不管是在训练集还是
微笑感染黑暗的街头·2022-04-28 07:55

「深度学习一遍过」必修26：机器学习与深度学习基础知识汇总

本专栏用于记录关于深度学习的笔记，不光方便自己复习与查阅，同时也希望能给您解决一些关于深度学习的相关问题，并提供一些微不足道的人工神经网络模型设计思路。专栏地址：「深度学习一遍过」必修篇目录1Boosting与Bagging2卷积层、激活层、池化层作用3卷积神经网络特性4正则化相关知识5评测指标相关知识6参数初始化方法7归一化相关知识8最优化方法相关知识9激活函数相关知识10优化目标相关知识问答环
荣仔！最靓的仔！·2022-04-28 07:40

深度学习基础知识之激活函数

在深度视觉的三大基本任务中，我们构建一个卷积神经网络，激活函数是必不可少的，例如sigmoid，relu等，下面我们来介绍下激活函数。什么是激活函数？神经网络中每层的输入是上一层的输出，每层输出是下一层的输入，所以在多层神经网络中，上层节点的输出和下层节点的输入之间具有一个函数关系，这个函数称为激活函数。如图所示：除输入层外，每个神经元被分成两部分，第一部分我们认为就是上一层的输出；第二部分就是经
柏拉图工作室-AI学科·2022-04-26 07:52

深度学习基础 初学者版

这篇博客是我根据实验室面经，加上自己的理解，再加上几百篇博客的参考来的深度学习基础知识总结。大佬勿喷！。过拟合（overfitting）：学习能力过强，以至于把训练样本所包含的不太一般
踏实钻研·2022-04-24 07:39

深度学习基础知识汇总，以及模型调试技巧

深度学习模型中的数学组成部分：卷积提取图像中的局部特征，每个卷积核的权重可以被调整，以提取给定数据集和任务的最佳特征。传递函数（激活函数），如由ReLU，使非线性关系的学习成为可能。池化，如最大池化（下采样），以产生空间的粗特征映射，减小图像尺寸。深度学习模型通常使用a-c中三个操作的迭代组合来产生图像的低维表示。空洞卷积（膨胀卷积）是标准卷积的Convolutionmap的基础上注入空洞，以此来
程序媛JD·2022-04-23 07:10

深度学习_深度学习基础知识_Adam优化器详解

Adam介绍Adam优化器结合了AdaGrad和RMSProp两种优化算法的优点。对梯度的一阶矩估计（FirstMomentEstimation，即梯度的均值）和二阶矩估计（SecondMomentEstimation，即梯度的未中心化的方差）进行综合考虑，计算出更新步长。Adam的优势实现简单，计算高效，对内存需求少。参数的更新不受梯度的伸缩变换影响。超参数具有很好的解释性，且通常无需调整或仅需
【WeThinkIn】的主理人·2022-04-01 07:49

深度学习基础知识整理

本文是在七月的BAT机器学习面试1000题系列进行修改。前言July我又回来了。之前本博客整理过数千道微软等公司的面试题，侧重数据结构、算法、海量数据处理，详见：微软面试100题系列，今17年，近期和团队整理BAT机器学习面试1000题系列，侧重机器学习、深度学习。我们将通过这个系列索引绝大部分机器学习和深度学习的笔试面试题、知识点，它将更是一个足够庞大的机器学习和深度学习面试库/知识库，通俗成体
子季鹰才·2022-03-28 15:14

【githubgirl】将 AI 艺术创作类的开源项目整合到了一起，包括图像风格迁移、图像卡通话

GitHub：github.com/ml4a/ml4a另外作者在每个项目里面，都配套了JupyterNotebook，便于开发者掌握深度学习基础知识与开发技巧。
githubgirl·2022-03-13 07:48

深度学习基础知识：基于人脸的常见表情识别(1)

神经网络1.感知机2.多层感知机与反向传播卷积神经网络1.全连接神经网络的2大缺陷2.卷积神经网络的崛起卷积神经网络的基本网络层1.什么是卷积？2.填充（Padding）3.步长（Stride）4.池化5.卷积和池化输出尺寸计算6.为什么要用卷积来学习呢？7.卷积神经网络的优势在哪？本训练营以理论结合实战的方式，帮助大家从0完成一个人脸常见表情的识别，接下来是本训练营的理论部分。不要觉得理论枯燥哦
xatop·2022-03-02 07:04

基于数值微分的反向传播-python实现

深度学习基础知识和各种网络结构实战...基于数值微分的反向传播-python实现深度学习前言一、基于数值微分的反向传播1.1定义激活函数1.2计算基于小批次损失函数的损失值1.3梯度下降1.4两次神经网络类
CC-Mac·2022-02-26 07:15

深度学习-服务端训练+android客户端物体识别实战（caffe入门教程+mobilenet+ncnn+android）

文章目录背景物体识别简介自动驾驶淘宝京东使用物体识别技术公司业务需求深度学习简介深度学习的位置深度学习概念深度学习优势深度学习基础知识感知机激活函数多层感知机卷积神经网络卷积层*池化层模型训练前向传播*
sinat_28371057·2022-02-21 07:35

python深度学习tensorflow和fme结合，实现档案扫描件数据自动分类

文章目录前言一、深度学习基础知识简介1、什么是深度学习2、深度学习的原理3、深度学习应用场景二、深度学习环境搭建1.深度学习库的安装2.CUDA和对应版本的cudnn下载三、实战教学1.基础数据集的准备
努力的悟空·2021-11-14 23:28

深度学习 | 寄己训练寄己 | 自编码器（4.5）

最近在恶补深度学习基础知识，以下为根据公众号“阿力阿哩哩”的《寄己训练寄己｜自编码器》而总结的内容。可以结合作者在哔哩大学的视频。
running snail szj·2021-11-14 10:00

深度学习基础知识（人工智能）

导读：人工智能时代已经到来，AlohaGO的击败李世石成为了围棋界的神话，让许多人震惊不已。那么AlphaGo是怎么产出的呢?它是源自于人工智能的深度学习。这是小编的其他文章,希望对大家有所帮助,点击即可阅读人工智能常用的十大算法人工智能数学基础（一）人工智能数学基础(二)人工智能数学基础（三）人工智能数学基础（四）为了方便大家学习交流，我建了一个扣裙：966367816（学习交流、大牛答疑、大厂
AI引路星·2021-10-11 13:42

【深度学习基础知识 - 22】sigmoid、tanh、relu激活函数

sigmod、tanh、relu都是深度学习任务中常见的激活函数，主要作用是让模型获得非线性表达能力，这篇文章简单对它们做一个介绍。sigmoidsigmoid激活函数的取值分布在0到1之间，在深度学习再度被人们关注的初期是最常被采用的激活函数，但是由于网络层数的加深，采用sigmoid激活函数常常会导致梯度消失。另外，它的均值是0.5，并不是以0为中心的，因此也不便于计算。但是如果在输出层想将输
雁宇up·2021-08-22 08:36

神经网络基础-前馈神经网络

深度学习基础知识和各种网络结构实战...神经网络基础-补充深度学习前言一、基于MNIST数据集前馈神经网络总结前言一、基于MNIST数据集前馈神经网络#开发时间；2021/6/8000815:43#KNN
CC-Mac·2021-06-10 23:13

CH1 统计学习方法概论|1.8分类问题《统计学习方法》-学习笔记

2.TP/FN/FP/TN3.精确率Precision、召回率Recall和F1值4.总结参考链接:1、谈谈准确率（P值）、召回率（R值）及F值2、深度学习基础知识04-二分类问题3、准确率、精确率和召回率前言
努力奋斗的durian·2021-05-12 03:20

10分钟入门深度学习基础知识汇总

最基本的深度学习相关干货知识汇总：深度学习知识梳理（干货满满详解DNN/CNN/RNN）之神经网络基础（一）深度学习知识梳理（干货满满详解DNN/CNN/RNN）之深度学习网络结构（二）深度学习知识梳理（干货满满详解DNN/CNN/RNN）之深度学习网络模型（三）深度学习知识梳理（干货满满详解DNN/CNN/RNN）之模型训练（四）深度学习知识梳理（干货满满详解DNN/CNN/RNN）之评估与调参
熊猫小妖·2021-04-29 19:59

记录一些深度学习基础知识

batchnormalization与layernormalization索引：NLP中batchnormalization与layernormalizationBN、LN可以看作横向和纵向的区别。经过归一化再输入激活函数，得到的值大部分会落入非线性函数的线性区，导数远离导数饱和区，避免了梯度消失，这样来加速训练收敛过程。BatchNorm这类归一化技术，目的就是让每一层的分布稳定下来，让后面的层
changreal·2020-09-13 11:29

零基础入门深度学习（六）：图像分类任务之LeNet和AlexNet

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实践自然语言处理领
飞桨PaddlePaddle·2020-08-25 17:33

【一】零基础入门深度学习：用numpy实现神经网络训练

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实
机器学习算法与Python学习-公众号·2020-08-20 05:41

深度学习7日入门cv疫情特辑学习心得

整个课程的内容还是比较丰富的，参加课程前还是需要掌握基本的python和深度学习基础知识。其中几次作业虽然标题不一样，数据不一样，本质上都是分类任务。
Letitia_xx·2020-08-14 20:55

零基础入门深度学习（十二）：自然语言处理的变迁

从本课程大纲为：numpy实现神经网络构建和梯度下降算法深度学习基础知识计算机视觉领域主要方向的原理、实践自然语言处理领域主要方向的原理、实践个性化推荐算法的原理、实践前面的
飞桨PaddlePaddle·2020-08-14 16:11

零基础入门深度学习（四）：卷积神经网络基础之池化和Relu

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络
飞桨PaddlePaddle·2020-08-14 16:11

【一】零基础入门深度学习：用numpy实现神经网络训练

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实
AI科技前线·2020-08-14 15:32

3小时掌握深度学习（经典算法+实战案例）-CSDN公开课-专题视频课程

3小时掌握深度学习（经典算法+实战案例）—669人已学习课程介绍系列课程旨在帮助同学们掌握深度学习基础知识点，对复杂的神经网络模型进行通俗解读，逐步迈向深度学习两大核心模型-卷积与递归神经网络。
CSDN学院官方账号·2020-08-13 13:42

零基础入门深度学习（二）：用一个案例掌握深度学习方法

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实践自
飞桨PaddlePaddle·2020-08-11 02:08

深度学习_深度学习基础知识_激活函数

激活函数一.激活函数的意义为什么需要激活函数激活函数对模型学习、理解非常复杂和非线性的函数具有重要作用。激活函数可以引入非线性因素。如果不使用激活函数，则输出信号仅是一个简单的线性函数。线性函数一个一级多项式，线性方程的复杂度有限，从数据中学习复杂函数映射的能力很小。没有激活函数，神经网络将无法学习和模拟其他复杂类型的数据，例如图像、视频、音频、语音等。激活函数可以把当前特征空间通过一定的线性映射
CV-GANRocky·2020-08-10 14:10

零基础入门深度学习（三）：卷积神经网络基础之初识卷积

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络
Cry2engine·2020-08-10 13:28

零基础入门深度学习（九）：目标检测之常用数据预处理与增广方法

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实践自然语言处理领
飞桨PaddlePaddle·2020-08-08 13:43

零基础入门深度学习（三）：卷积神经网络基础之初识卷积

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络
lovenlper·2020-08-05 01:13

零基础入门深度学习（四）：卷积神经网络基础之池化和Relu

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络
lovenlper·2020-08-05 01:13

零基础入门深度学习（二）：用一个案例掌握深度学习方法

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实践自
lovenlper·2020-08-05 01:13

深度学习基础知识（七）--- 各种优化方法

深度学习常用的优化方法参考资料：《DeepLearning》、pytorch文档深度学习中，优化算法的目标函数通常是一个基于训练集的损失函数，优化的目标在于降低训练误差。这意味着用训练集上的经验分布代替真实分布。最小化这种平均训练误差的训练过程，被称为经验风险最小化（empiricalriskminimization）1.StochasticGradientDescent虽然是讲随机梯度下降，但是
Teeyohuang·2020-08-04 12:57

深度学习基础知识（五）--- dropout

dropout可以看作是一种实用的bagging的方法，即模型平均思想的一种运用。因为模型平均要对训练集有放回的采样，得到多个不同的训练集，再训练多个不同的模型，在测试阶段由多个不同的模型表决或者平均来做出最终预测。但是对于深度神经网络而言，训练多个不同的模型可能不切实际，会耗费大量时间和计算力，dropout对神经元随机失活，也就是说前传的过程中可能这个神经元以及它后面的路径并不会被使用，相当于
Teeyohuang·2020-08-04 12:57

深度学习基础知识（四）--- 激活函数

激活函数也就是一些非线性单元，如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网络有多少层，输出都是输入的线性组合。如果使用的话，激活函数给神经元引入了非线性因素，使得神经网络可以任意逼近任何非线性函数，这样神经网络就可以应用到众多的非线性模型中。参考文章：https://zhuanlan.zhihu.com/p/251104501.sigmoidsigmoid作激活函数的优缺点：①梯
Teeyohuang·2020-08-01 10:17

深度学习基础知识了解

深度学习应用1.计算机视觉2.自然语言处理3.强化学习1.计算机视觉①图片识别(ImageClassification)是常见的分类问题。神经网络的输入为图片数据，输出值为当前样本属于每个类别的概率，通常选取概率值最大的类别作为样本的预测类别。图片识别是最早成功应用深度学习的任务之一，经典的网络模型有VGG系列、Inception系列、ResNet系列等。②目标检测(ObjectDetection
yongjieM·2020-07-28 09:43

深度学习_深度学习基础知识_Mish激活函数

Mish激活函数的示意图：Mish激活函数的公式：也可以用下面的公式表示：Mish激活函数的优点：以上无边界(即正值可以达到任何高度)避免了由于封顶而导致的饱和。理论上对负值的轻微允许允许更好的梯度流，而不是像ReLU中那样的硬零边界，而且平滑的激活函数允许更好的信息深入神经网络，从而得到更好的准确性和泛化。
【WeThinkIn】的主理人·2020-07-25 15:53

深度学习_深度学习基础知识_图像数据集不均衡问题的处理方法

数据集不均衡带来的问题首先我们考虑一个二分类问题，比如区分一张图片里的是一只猫还是一只狗。若数据搜集的时候只找到了1000张猫的图片和40000张狗的图片作为训练集。如果直接把这41000张图片放在一起，然后用mini-batch的方法进行训练，就会出现数据不均衡的问题。比如每次迭代的样本数量为100个，那么平均下来每次样本中猫的数量通常只有1、2个。这样的结果是计算损失函数时，狗的图片比重太大，
CV-GANRocky·2020-07-14 05:00

面试复习提纲

目录1机器学习及深度学习基础知识1.1模型分类1.2交叉验证1.3评价指标1.4正则化（Regularization）1.5特征工程1.5.1样本不平衡问题1.5.2特征选择的方法1.5.3数据预处理1.6
Hirosora·2020-07-09 11:42

深度学习基础知识（六）--- 损失函数

1.L1损失（绝对损失函数）和L2损失（平方损失函数）L1范数损失函数，也被称为最小绝对值偏差（LAD），最小绝对值误差（LAE）。总的说来，它是把目标值（Yi）与估计值（f(xi)）的绝对差值的总和（S）最小化：L2范数损失函数，也被称为最小平方误差（LSE）。总的来说，它是把目标值（Yi）与估计值（f(xi)）的差值的平方和（S）最小化：2.MSE-loss（MeanSquareError）均
Teeyohuang·2020-07-07 00:05

零基础入门深度学习（十三）：词向量的深度解析

从本课程大纲为：numpy实现神经网络构建和梯度下降算法深度学习基础知识计算机视觉领域主要方向的原理、实践自然语言处理领域主要方向的原理、实践个性化推荐算法的原理、实践上
飞桨PaddlePaddle·2020-07-04 07:22

零基础入门深度学习（七）：图像分类任务之VGG、GoogLeNet和ResNet

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理
飞桨PaddlePaddle·2020-07-01 12:53

深度学习&机器学习相关资料汇总

机器学习&深度学习基础知识1、吴恩达-deeplearning.ai链接：http://mooc.study.163.com/smartSpec/detail/1001319001.htm（
AI之路·2020-06-27 09:54

深度学习基础知识题库大全

1、梯度下降算法的正确步骤是什么？a.计算预测值和真实值之间的误差b.重复迭代，直至得到网络权重的最佳值c.把输入传入网络，得到输出值d.用随机值初始化权重和偏差e.对每一个产生误差的神经元，调整相应的（权重）值以减小误差A.abcdeB.edcbaC.cbaedD.dcaeb解析：正确答案D，考查知识点-深度学习。2、已知：-大脑是有很多个叫做神经元的东西构成，神经网络是对大脑的简单的数学表达。
小锋学长·2020-06-26 17:49

考察深度学习基础知识的45道题目（附答案）

HelpfulResourcesFundamentalsofDeepLearning–StartingwithArtificialNeuralNetworkPracticalGuidetoimplementingNeuralNetworksinPython(usingTheano)ACompleteGuideonGettingStartedwithDeepLearninginPythonTutor
Timmy_Y·2020-06-24 15:09

零基础入门深度学习（三）：卷积神经网络基础之初识卷积

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络
dadliao·2020-06-23 02:22

浅层机器学习和深度学习基础知识总结

机器学习算法机器学习算法是一类从数据中自动分析获得规律，并利用规律对未知数据进行预测的算法。"学习"的目的是"减熵"(减少不确定性)※在信息论中，熵表示的是不确定性的量度机器学习大致等同于找到一个好的函数(function)/模型(model):y=f(x)机器学习的"六步走":收集数据→准备数据→选择/建立模型→训练模型→测试模型→调节参数机器学习的"关键三步":●找一系列函数来实现预期的功能:
aa123kk78011·2020-06-22 11:24

零基础入门深度学习（一）：用numpy实现神经网络训练

从本课程中，你将学习到：深度学习基础知识numpy实现神经网络构建和梯度下降算法计算机视觉领域主要方向的原理、实践自然语言处理领域主要方向
Cry2engine·2020-06-21 18:26
上一页 1 2 3 4 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他