深度学习基础课程笔记

深度学习基础知识(激活函数,损失函数)

深度学习基础知识激活函数:作用是在线性变换后加入线性变换。非线性的激活函数可以使神经网络逼近复杂函数。如果没有激活函数,多层神经网络就跟单层神经网络没有区别。
Ferbc·2022-12-24 01:51

javaSE基础复习之常用API

课程笔记Day12API的使用Object类Math类日期时间类包装类第一章API的使用第01节基础理论1.什么是API?
阳光宅男dh·2022-12-23 21:47

精简CUDA教程——CUDA Driver API

精简CUDA教程——CUDADriverAPItensorRT从零起步迈向高性能工业级部署（就业导向）课程笔记，讲师讲的不错，可以去看原视频支持下。
Adenialzz·2022-12-23 13:50

深度学习基础网络_深度学习网络的基础

深度学习基础网络Un-crumplingpaperballsiswhatmachinelearningisallabout,itseekstofindneatrepresentationsforcomplex
yuan xiong·2022-12-23 10:49

深度学习基础网络整理----AlexNet

核函数是将低维特征映射成为高维特征的方法；全连接层：全连接层的所有神经元都有权重进行连接卷积层：又称卷积核|滤波器|内核，用于对输入的图像结构进行特征提取通道：指滤波器的个数，输出的通道层数只与当前滤波器的通道个数有关步长：滤波器每次移动的步长池化：池化（pooling）的本质就是下采样。Pooling对于输入的FeatureMap，选择某种方式对其进行降维压缩，以加快运算速度,局部连接：卷积核的
czy_0912·2022-12-23 10:15

【人工智能】深度学习专项课程精炼图笔记！必备收藏

本文为人工智能学习笔记记录,参考机器之心，AI有道，Google资源目录深度学习基础1.深度学习基本概念2.logistic回归3.浅层网络的特点4.深度神经网络的特点5.偏差与方差6.正则化7.最优化
SophiaCV·2022-12-23 09:03

课程笔记-00开营仪式-paddlepaddle李宏毅机器学习特训营

课程特色·课程有课程群，每个阶段有助教直播讲解，与作业难点解析。·通过实践作业、考试、打卡、时间完成比赛。·表现突出的同学有机会获得前往台湾的机会。课程形式：录播视频理论讲述+自我锻炼学习能力作业实践课后针对关键知识强化变成动手能力直播讲解助教结合课程讲解作业难点打比赛通过比赛检验自身技术助教老师：李老师、晓沐老师等晓沐老师：计算机视觉物体检测语义分割和三维重建与部署有相当多的经验课程学习计划课程
Jason_____Wang·2022-12-23 01:53

向量范数和矩阵范数的理解

机器学习的数学基础重点推荐——MIT的机器学习数学基础课如果只需要快速了解，请参考——矩阵范数计算完整的MIT数学基础课程笔记可以参考：MIT18.06线性代数笔记这是个非常棒的手动演算流程，本文也将编码进行验算
陈振斌·2022-12-22 15:39

记录一次使用卷积神经网络进行图片二分类的实战

（这里就假定读者都是有一定的深度学习基础了，一些简单的概念，例如k折交叉验证，就不再具体阐述了）参考资料采用的是沐神的《动手深度学习》，谷歌
qzero233·2022-12-22 10:35

吴恩达机器学习课程笔记——Ch9 神经网络

Chapeter9NeuralNetworks（神经网络：示例）已经不能倍速看了==真实....课程笔记总览传送门：https://blog.csdn.net/weixin_42900928/article
A_waken·2022-12-22 09:17

【DL】5 BERT入门——李宏毅机器学习课程笔记(ELMO，BERT，GPT)

ELMO，BERT，GPT1.Review2.ELMO3.BERT3.1训练BERT3.2使用BERT3.3ERNIE3.4BERT学到了什么4.GPT小结视频地址1.Review如何让电脑读人类的词汇？最早采用1-of-NEncoding，显然一个词用一个向量表示不合理，之后采用Word-Class，但是这种分类还是太粗糙了，再后来采用WordEmbedding同一个词汇可能有不同的意思：Hav
Yang SiCheng·2022-12-22 06:29

【DL】3 Transformer入门——李宏毅机器学习课程笔记

Transformer1.为什么要使用Self-attention？2.Self-Attention2.1基本思想2.2平行化(矩阵)计算2.3Multi-headSelf-attention2.4PositionalEncoding3.Transformer结构4.Attention可视化5.应用场景小结1.为什么要使用Self-attention？Transformer的中文意思是’变形金刚’
Yang SiCheng·2022-12-22 06:58

【深度学习基础】01激活函数：Sigmoid、Tanh、ReLU、Softmax系列及对应的变体

目录Sigmoid系列1.优点：输出[0,1]、平滑易于求导2.缺点：计算量大、梯度消失、不易收敛3.Sigmoid变体：HardSigmoid、Swish、Tanh系列1.优点：缓解梯度消失和不易收敛问题2.缺陷：运算复杂、仍存在梯度消失3.Tanh变体：HardTanh、TanhShrinkReLU系列1.优势：收敛速度快、避免梯度消失、稀疏性2.缺点：收敛效果差、梯度爆炸、神经元坏死3.Re
TianleiShi·2022-12-21 08:40

深度学习基础(1):线性回归

线性回归(linearregression)1.概念：线性回归用于拟合标签与各个特征成线性关系的训练数据集，求出各个特征的权重(w1,w2)和偏差(b)，对给定新的特征实现标签的预测2.表达式：y＝xw＋b，w为加权组成的列向量，x为行代表样本，列代表特征的二维矩阵，b代表偏差(offset)3.定义损失函数l=(xw+b-y)**2/2(平方损失)4.算法:小批量随机梯度下降。定义一个批量大小(
hinstru·2022-12-21 07:47

深度学习基础--传统机器学习与深度学习的区别

传统机器学习与深度学习的区别  1）传统机器学习：利用特征工程(featureengineering)，人为对数据进行提炼清洗  2）深度学习：利用表示学习(representationlearning)，机器学习模型自身对数据进行提炼，不需要选择特征、压缩维度、转换格式等对数据的处理。深度学习对比传统方法来说，最大的优势是自动特征的提取  现实中遇到的绝大部分机器学习问题，基于原始特征（Inpu
whitenightwu·2022-12-21 07:39

NVIDIA深度学习基础-理论与实践入门课程笔记及测验参考代码

1.使用MNIST数据集进行图像分类1.1MNIST数据集在深度学习的历史当中，对MNIST数据集里的70000张手写体数字的图像进行0到9的正确分类是一个重大的进展。如今，这个问题被认为是微不足道的，但是使用MNIST进行图像分类已经成为深度学习的一个HelloWorld练习。以下是MNIST数据集中包含的40张图像：1.2训练和测试数据及其标签在处理用于深度学习的图像时，我们既需要图像本身（通
柃歌·2022-12-20 18:08

深度学习基础知识每日更 upupup

深度学习基础知识点总结提示：菜鸟入门日记，若总结有错误，各路大佬多多指教！
chong墩儿·2022-12-20 12:06

深度学习基础汇总

文章目录神经网络模型的发展历程前馈神经网络激活函数反向传播算法模型的训练数据归一化参数初始化损失函数模型优化数据增广/模型泛化卷积神经网络卷积核激活层和池化层循环神经网络RNNBPTT（随时间反向传播）LSTMGRU迁移学习神经网络模型的发展历程MP模型是最早的神经网络模型，描述的是一个神经元的工作机制。根据神经元的结构可知：神经元是一个多输入单输出的信息处理单元，并对信息的处理是非线性的。在这个
右边是我女神·2022-12-20 07:38

深度学习基础知识（一）--- 权重初始化

1、为什么需要权重初始化？①为了使神经网络在合理的时间内收敛②为了尽量避免在深度神经网络的正向（前向）传播过程中层激活函数的输出梯度出现爆炸或消失。2、如何进行初始化？①如果将每个隐藏单元的参数都初始化为0那么在正向传播时每个隐藏单元将根据相同的输入计算出相同的值，并传递至输出层。在反向传播中，每个隐藏单元的参数梯度值相等。因此，这些参数在使用基于梯度的优化算法迭代后值依然相等。这样所有隐层的单元
Teeyohuang·2022-12-20 07:30

深度学习基础知识---梯度弥散 梯度爆炸

目录1梯度弥散、梯度爆炸的成因2解决方式2.1.pretrain+finetune2.2梯度裁剪2.3权重正则化2.5BatchNormalization正则化2.6残差结构shortcut2.7LSTM1梯度弥散、梯度爆炸的成因神经网络的层（主要是隐藏层）越多，对输入特征抽象层次越高。因为在神经网络中，后一层神经元的输入是前一层输出的加权和，前一层的特征在后一层就被抽象出来了，学习的过程其实就是
thequitesunshine007·2022-12-20 07:29

深度学习基础知识——上采样

上采样，转置卷积，上池化上采样（unsampling）GAP上采样（unsampling）GAPGlobalaveragepooling就是平均所有的featuremap，然后将平均后的featuremap喂给softmax进行分类。GAP直接从featuremap的通道信息下手，比如我们现在的分类有N种，那么最后一层的卷积输出的featuremap就只有N个通道，然后对这个featuremap进
黑洞是不黑·2022-12-20 04:36

【一起入门NLP】中科院自然语言处理第15课-预训练语言模型：预训练+精调范式（第三范式）

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录预训练语言模型概述预训练语言模型预训练-精调范式预训练语言模型分类经典的预训练语言模型
vector<>·2022-12-19 20:11

【一起入门NLP】中科院自然语言处理第14课-Transfomer以及Transfomer架构生成模型

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录Transformer模型结构Transformer训练训练过程
vector<>·2022-12-19 20:41

【一起入门NLP】中科院自然语言处理第11课-NLP基础任务②：文本匹配问题

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录文本匹配概述文本匹配方法文本匹配概述文本匹配是一个很宽泛的概念
vector<>·2022-12-19 20:40

【一起入门NLP】中科院自然语言处理第13课-NLP基础任务④：序列生成问题（Seq2Seq）

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录1.序列生成问题概述2.生成式-序列生成模型基于RNN结构生成模型
vector<>·2022-12-19 20:40

【一起入门NLP】中科院自然语言处理第7课-语言模型-神经语言模型（NNLM+RNNLM）

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录1.神经语言模型概述2.DNN语言模型（NNLM）3.RNN
vector<>·2022-12-19 20:10

【一起入门NLP】中科院自然语言处理第8课-语言模型-词向量

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录1.词表示概述离散表示分布式表示2.经典词向量表示模型1.NNLM
vector<>·2022-12-19 20:10

【一起入门NLP】中科院自然语言处理第9课-NLP中的注意力机制（Attention）

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录传统注意力机制注意力结构软注意力机制硬注意力机制注意力机制优势与不足注意力模块应用注意力编码机制单一向量编码不同序列间编码同一序列自编码
vector<>·2022-12-19 20:10

【一起入门NLP】中科院自然语言处理第10课-NLP基础任务①：文本分类问题

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录文本分类任务概述序列结构文本分类方法图结构文本分类方法文本分类评价指标二分类评价指标
vector<>·2022-12-19 20:10

【一起入门NLP】中科院自然语言处理第4课-卷积神经网络CNN

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录概述CNN结构卷积层池化层采样（Pooling）方法：卷积层与池化层的连接方式全连接层结构特性
vector<>·2022-12-19 20:10

【一起入门NLP】中科院自然语言处理第6课-语言模型-传统语言模型(n-gram)

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门NLP吧目录1.语言模型基本概念2.语言模型参数估计3.参数的数据平滑4
vector<>·2022-12-19 20:40

【一起入门NLP】中科院自然语言处理第12课-NLP基础任务③：序列标注问题（马尔可夫模型）

专栏介绍：本栏目为“2021秋季中国科学院大学胡玥老师的自然语言处理”课程记录，不仅仅是课程笔记噢～一起来看看吧这里写目录标题序列标注问题概述马尔可夫模型隐马尔可夫模型神经网络序列标注模型序列标注问题概述在自然语言处理任务中
vector<>·2022-12-19 20:39

【一起入门NLP】中科院自然语言处理期末考试*总复习*：考前押题+考后题目回忆

明天期末考试，胡玥老师亲自出题，整理一下我觉得最最最重点的地方押押题目录题型第三章：深度学习基础第四章：语言模型+词向量第五章：注意力机制第六章：NLP基础任务第七章：预训练语言模型设计题实验复习2021
vector<>·2022-12-19 20:04

0x00000006 MMClassification 源码阅读 01 总览

c.回顾深度学习基础b
0xCCCC·2022-12-19 19:18

Gilbert Strang的线性代数课程笔记-第八课

第八课的主题为：矩阵的秩(r)与矩阵的解之间的关系解的组成完整的解由特解和零解两部分组成Xc=Xp+Xn特解Xp：即求解Ax=b，设所有自由变量为0，解支点变量的值零解Xn：即求解Ax=0（求零空间）秩与解的关系假设有m行n列的矩阵A，且有方程Ax=b（关于矩阵的行最简化阶梯形态R，见上一课）已知矩阵的秩r≤m且r≤n当r=m=n时，方程有唯一解。且R=I当r=n
JunyiChen_robot·2022-12-19 19:37

Gilbert Strang的线性代数课程笔记-第九课

第九课的主题为：向量间的独立性与向量基的概念向量之间的相互独立性若有一组向量v1,v2,...,vn当这组向量以任意形式组合均不构成零向量时，这组向量之间相互独立（允许的特例：所有系数均为0时，允许构成零向量）例子1：对于向量v1,v2与系数c1,c2若仅当c1=c2=0时c1v1+c2v2=0，其余情况c1v1+c2v2≠0时那么v1与v2相互独立例子2：对于向量v1,零向量v2与系数c1,c2
JunyiChen_robot·2022-12-19 19:07

[吴恩达机器学习课程笔记] week three 无监督学习

无监督学习定义在聚类问题中，我们给出一个训练集{x1,…,xm}，期望将数据分成一些有凝聚力的“簇”。这里的xi通常属于实数；但是数据集并没有标签y给出，所以这就是一个无监督学习问题。K-means算法最常用的基于欧式距离的聚类算法，其认为两个目标的距离越近，相似度越大。K的数量选择最好的办法：手动选择。牧师-村民模型K-means有一个著名的解释：牧师—村民模型：有四个牧师去郊区布道，一开始牧师
mossfan·2022-12-19 10:29

【数开】黑马-大数据开发

黑马大数据开发-课程笔记1、Hadoop1.1、介绍Hadoop1.2、Hadoop特性优点1.3、hadoop集群中hadoop都需要启动哪些进程，他们的作用分别是什么？
浪里小飞侠·2022-12-18 22:24

【一起入门MachineLearning】中科院机器学习第*课-非线性分类：决策树

专栏介绍：本栏目为“2021秋季中国科学院大学周晓飞老师的机器学习”课程记录，不仅仅是课程笔记噢～如果感兴趣的话，就和我一起入门MachineLearning吧目录定义决策树的关键问题1.问题数2.划分
vector<>·2022-12-18 16:08

[Machinie Learning] 吴恩达机器学习课程笔记——Week5

MachineLearningbyAndrewNg吴恩达机器学习课程学习笔记——Week5本人学习笔记汇总合订本✓课程网址standfordmachinelearning参考资源课程笔记python版作业学习提纲
Carsick Car·2022-12-18 14:36

[深度学习基础]2.pycharm联合annaconda生成虚拟环境测试yoloV7

“戏过曼巴晃过神”1.环境说明2.yoloV7的准备和说明2.1yoloV7源码2.2权重文件3.anaconda生成配套虚拟环境4.Pycharm联合conda虚拟环境1.环境说明承接上一篇，我们的软件如下（我拿笔记本跑）：python:3.9pycharm:22.3GPU:GTX3060CUDA:11.4为什么进行此说明，原因是虚拟环境安装相关包的时候，pytorch等需要按需更改2.yolo
终问鼎·2022-12-18 14:08

【计算机视觉】基础图像知识点整理

本文是计算机视觉专业课的课程笔记，图片来自于老师课件，选取了部分个人认为有价值的知识点，可用于查阅复习。
zstar-_·2022-12-18 12:59

OpenCV基础课程笔记13提取水平竖直线

写在前面一般提取水平竖直线都是相对于二值图像来说的，要先对原始图像二值化处理。代码只跑找到竖线的算法（横线换一个结构体就行了）代码#include#includeusingnamespacestd;usingnamespacecv;intmain(){Matsrc=imread("A:\\专用\\TestForTheCV\\class13水平垂直线.jpg");imshow("图片",src);M
爱和九九·2022-12-18 10:07

深度学习精炼图笔记

这不仅仅是一份课程笔记，同时还是一套信息图与备忘录。从深度学习基础、卷积网络和循环网络三个方面介绍该笔记.一、深度学习基础1.深度学习基本概
可基大萌萌哒的马鹿·2022-12-18 09:39

22张深度学习精炼图笔记总结

这不仅仅是一份课程笔记，同时还是一套信息图与备忘
Evan-yzh·2022-12-18 09:09

深度学习基础-----全连接层的反向传播过程

【Python实现卷积神经网络】：全连接层的正向传播与反向传播+python实现代码_Jack_Kuo的博客-CSDN博客_全连接层反向传播https://microsoft.github.io/ai-edu/%E5%9F%BA%E7%A1%80%E6%95%99%E7%A8%8B/A2-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%9F%BA%E6%9C%AC%
King的王国·2022-12-18 09:58

Python深度学习基础（三）——全连接层以及反向传递的理解与手动实现

全连接层以及反向传递的理解与手动实现全连接层简介实现原理正向传递反向传递代码实现全连接层简介全连接层又被称为密连接层，通常可以用Affine或Dense表示实现原理正向传递全连接层在正向传递时和感知机完全一致，都是直接将输入值乘以权值在加上偏置即可，这里尤为注意的是我们使用的是矩阵。公式非常简单y=x⋅w+by=x\cdotw+by=x⋅w+b反向传递对于正向传递的表达式，我们可以将整个正向传递过
艾醒(AiXing-w)·2022-12-18 09:25

机器/深度学习基础——性能度量

机器/深度学习——性能度量性能度量反映了任务需求，也便于评价一个模型的"好坏"。分类任务中常用的性能度量1、错误率与精度错误率：分类错误的样本数占样本总数的比例精度(acc):分类正确的样本数占样本总数的比例2、查准率、查全率、F1、P-R曲线混淆矩阵：TP+FN+FP+TN=样本总数查准率（precision）：P=TPTP+FPP=\frac{TP}{TP+FP}P=TP+FPTP查全率(re
FlyDremever·2022-12-17 15:26

深度学习入门——前馈神经网络

前馈神经网络作为深度学习基础中的基础，是很多同学入门深度学习的必经之路。由于马上要迎来考试复习周，在这里简单记录一下学习心得。
Leo_SC_Liu·2022-12-17 15:15

深度学习基础入门笔记集合

文章目录第一讲Overview4/18第二讲线性模型【穷举】4/19第三讲梯度下降算法【贪心】4/19第四讲反向传播【神经网络、弹性】4/20第五讲用PyTorch实现线性回归4/21第六讲逻辑斯蒂回归二分类【logisticregression】4/22第七讲处理多维特征的输入4/23--5.14第八讲加载数据集4/24第九讲多分类问题第十讲卷积神经网络CNN基础篇5/3第十一讲卷积神经网络高级
影刃南墙·2022-12-17 11:21
上一页 31 32 33 34 35 36 37 38 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他