深度学习基础课程笔记第37页

深度学习基础学习-RNN与LTSM、GRU

最近看文献看到了LTSM（LongShortTermMemory）相关的文献，所以把了解到的内容做一个记录RNN循环神经网络（RecurrentNeuralNetwork,RNN），以序列（sequence）数据为输入，在序列的演进方向进行递归（recursion）且所有节点（循环单元）按链式连接的递归神经网络（recursiveneuralnetwork）。因为与时间序列相关，所以多用于自然语言

小夭。·2022-12-13 10:58

深度学习基础16（softmax回归使用pytorch框架简洁实现）

softmax回归的简洁实现深度学习框架的高级API能够使实现softmax线性回归变得更加容易。同样，通过深度学习框架的高级API也能更方便地实现softmax回归模型。importtorchfromtorchimportnnfromd2limporttorchasd2lbatch_size=256train_iter,test_iter=d2l.load_data_fashion_mnist(

lj_FLR·2022-12-13 09:35

Python深度学习基础（四）——损失函数

损失函数前言损失函数均方误差（MSE）L2范式与闵可夫斯基距离交叉熵误差（cross_entropy_error）极大似然损失函数（LR）应用场景总结前言在进行深度学习的过程中我们需要有一个评判标准来评价模型，损失函数就是通过比较预测值与真实值的来对模型当前的权值进行评价的损失函数均方误差（MSE）均方误差也被称作最小二乘法，常用于解决回归问题公式这里原本的公式应该为E=1n∑k(yk−tk)2E

艾醒(AiXing-w)·2022-12-13 09:03

Udacity机器人软件工程师课程笔记（八）-ROS Turtlesim 包的相关命令

Stan Fu·2022-12-13 08:12

3.深度学习（一）

文章目录第三章深度学习基础3.1基本概念3.1.1神经网络组成？3.1.2神经网络有哪些常用模型结构？3.1.3如何选择深度学习开发平台？3.1.4为什么使用深层表示?

abolition cc·2022-12-12 10:42

【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Task Tips

文章目录一、深度学习步骤回顾二、常规指导三、训练过程中Loss很大3.1原因1：模型过于简单3.2原因2：优化得不好3.3原因1or原因2？四、训练过程Loss小。测试过程Loss大4.1原因1：过拟合Overfitting4.2原因2：Mismatch五、N折交叉验证六、Whengradientissmall...6.1Batch6.2Momentum七、AdaptiveLearningRate

WSKH0929·2022-12-12 08:46

通俗理解卷积神经网络

通俗理解卷积神经网络（cs231n与5月dl班课程笔记）1前言2012年我在北京组织过8期machinelearning读书会，那时“机器学习”非常火，很多人都对其抱有巨大的热情。

gldbys·2022-12-12 01:09

深度学习基础

一、网络基础1.感知机单个感知机能够实现逻辑与、或，能实现自我学习。多个感知机组合能够实现逻辑异或。2.神经网络就是一个巨大的复合函数！！！多个感知机连在一起形成级联神经网络为“多层前馈神经网络”。3.激活函数激活函数能将输出转化为非线性，使得神经网络能够解决任意非线性问题。阶跃函数sigmoid函数用来做二分类，将任意实数映射到（0,1）区间。优点：平滑，易于求导。缺点：激活函数计算量大，容易出

青年君·2022-12-12 00:35

[Machinie Learning] 吴恩达机器学习课程笔记——Week2

MachineLearningbyAndrewNg吴恩达机器学习课程学习笔记——Week2本人学习笔记汇总合订本✓课程网址standfordmachinelearning参考资源课程笔记python版作业学习提纲

Carsick Car·2022-12-11 23:06

Linux 入门基础（苏勇）课程笔记

这是网易云课堂上苏勇老师讲的Linux入门基础的笔记。笔记是在CentOS系统下记录的，只能用英文，可能单词的使用会有错误。笔记相对简单，基本上只记录了有关的命令操作，并没有关于原理性的知识。此笔记可以用作课程学习时的参考，也可在平时使用Linux时作为参考。######################Lesson3BasicBash######################hostnameun

疯狂的芒果·2022-12-11 19:00

台大李宏毅老师——深度学习课程笔记五（Deep Learning BackPropagation)

文章目录IntroductionNeuralNetworkBackpropagationIntroductionDeepLearning的神经网络就是一个functionNeuralNetwork现在用的激活函数已经是tanh或者leakyRelu了。ResNet用了特殊的结构，不是单纯的叠加层数其实本质用的MatrixOperation。但是我现在想不起来batch是怎么做运算的。batch应该

大叔爱学习.·2022-12-11 18:52

李宏毅机器学习课程笔记2：Classification、Logistic Regression、Brief Introduction of Deep Learning

台湾大学李宏毅老师的机器学习课程是一份非常好的ML/DL入门资料，李宏毅老师将课程录像上传到了YouTube，地址：NTUEEML2016。这篇文章是学习本课程第4-6课所做的笔记和自己的理解。Lecture4:Classification:ProbabilisticGenerativeModel以根据宝可梦各属性值预测其类型为例说明分类问题。训练数据是若干宝可梦的各属性值及其类型。1、分类问题不

鹅厂程序小哥·2022-12-11 17:43

【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Introduction

文章目录一、深度学习的概念二、函数的类型三、深度学习的步骤3.1定义一个参数未知的函数表达式3.2定义一个损失函数3.3采用梯度下降法求解使得函数表达式的Loss最小的参数四、视频播放量预测案例4.1案例介绍和思路分析4.2线性函数表达式14.3改进1：使用前一段时间的播放量来预测明天的播放量4.4改进2：采用非线性函数表达式4.5多层神经网络一、深度学习的概念让机器自动寻找一个函数如下图所示：语

WSKH0929·2022-12-11 17:32

Apollo 星火计划课程笔记 ---- SLAM

Apollo定位和建图高精地图和SLAM有什么关系？高精地图制作技术栈:设备组装:GNSS-INS惯性导航系统RTK-GNSS服务商和接收器地图坐标存储和召回搞清楚处理数据的格式定位参考点用WGS84坐标计算的时候，將WGS84坐标系转换为(x+x_0,y+y_0,h)，也就是UTM平面坐标和高程。EQDC平面坐标和高程。每个参考点存储在一个点云瓦片(Tile)文件，召回和存储互逆。地图瓦片文件是

Tianchao龙虾·2022-12-11 14:54

Apollo 星火计划课程笔记 ---- Perception

ApolloPerception感知系统:传感器：Lidar,Camera,Radar,Ultrasonic,Phone地图:高精地图机器输出:道路信息：不强求在线识别，可以来自高精地图；场景理解，分割；障碍物信息:障碍物检测(位置，类别，形状大小)，障碍物跟踪(轨迹，速度),传感器融合(更安全)信号灯信息:camera识别颜色，其他信息来自地图；v2x是终极途径。Part-1多个维度看问题感知技

Tianchao龙虾·2022-12-11 14:54

Apollo 星火计划课程笔记 ---- Scenarios

ApolloScenarios场景模块场景可以是地图中有一定特征的路段，比如路口，也可以是无人车想要完成的一系列复杂的动作，比如借道避让。最大期望算法(ExpectationMaximum)EM流程参考线。什么是参考线？就是高精地图所提供的道路的中心线，在此基础上做平滑得到的一条线。它是理想状态下没有障碍物的一条线。要保证平滑，所以在运动的时候，汽车不会横向摆动上图有个错误，应该是(ss˙s¨\q

Tianchao龙虾·2022-12-11 14:24

深度学习基础----GAE和VGAE

就看这一个就行了：PytorchGeometricTutorial配合PyG的文档食用：torch_geometric.nn—pytorch_geometricdocumentation只有一个地方不理解，那个KL的实现如何理解，和我在别的地方看到的不一样：按我自己的理解就是：GAE其实就是GCN之后把得到的embedding经过内积(decoder)后送入交叉熵损失函数。VGAE会经过两个GCN

无意识积累中·2022-12-11 14:52

深度学习基础----mAP和CMC，Recall和Precision，ROC和AUC，NDCG

就Re-ID的任务来说：已知：一个在训练集上训练好的模型，一个query(用于查询的集)，一个gallery（在其中搜索结果，或test）求：mAP,CMCmAP:meanAveragePrecision针对:检索问题。是就query和gallery来讨论直述：每一张查询图片在查找集（query和gallery特征的相似度排序）里的匹配程度。由匹配正确的图片和它们的排序位置决定。主要是特征信息提取

无意识积累中·2022-12-11 14:52

深度学习基础----自监督学习入门

自监督学习初探一.自监督学习的解释:解释一:自监督学习让我们能够没有大规模标注数据也能获得优质的表征，反而我们可以使用大量的未标注数据并且优化预定义的pretext任务。然后我们可以使用这些特性来学习缺乏数据的新任务。解释二:self-supervisedlearning是无监督学习里面的一种，主要是希望能够学习到一种通用的特征表达用于下游任务。其主要的方式就是通过自己监督自己，比如把一段话里面的

无意识积累中·2022-12-11 14:22

深度学习基础----ROC曲线和AUC值

这个链接里的视频就很好：【小萌五分钟】机器学习|模型评估:ROC曲线与AUC值_哔哩哔哩_bilibili

无意识积累中·2022-12-11 13:51

深度学习基础----Exponential Moving Average

pytorch实现的时候非常需要的基础知识：（参考：pytorch拷贝和梯度回传的问题-知乎）pytorch实现：（参考一下博客：深度学习性能提升技巧--指数加权平均（EMA）Pytorch实现_白又白胖又胖的博客-CSDN博客_emapytorchEMA指数滑动平均原理和实现(PyTorch)-知乎）

无意识积累中·2022-12-11 13:12

【HDFS简述】

HDFS前言课程笔记1.HDFS定义1.说明：一台电脑存不下海量数据，就必须分配到多台机器上存储。多台机器不方便管理和维护，就需要一种系统来管理多台机器的文件---分布式系统。

天秤座的分析师·2022-12-11 10:59

狂神redis课程笔记

Redis文章目录RedisNosql单机SQL时代，更多使用静态网页Memcached缓存+MySQL+垂直拆分（读写分离）分库分表+水平拆分+M有SQL集群最近的年代最后总结为什么要用NoSQL大数据时代的3V和3高阿里巴巴框架演进第五代架构改进NoSQL的四大分类KV键值对文档型数据库（Bson格式和Json格式）列存储数据库图形关系数据库Redis入门Redis能干嘛特性常用网站启动Red

好运haoyun·2022-12-10 21:26

UCAS - AI学院 - 知识图谱专项课 - 第6讲 - 课程笔记

UCAS-AI学院-知识图谱专项课-第6讲-课程笔记实体识别信息抽取概述信息抽取的基础：分词和词性标注命名实体识别细粒度实体分类开放领域实体识别实体识别信息抽取概述知识获取输入：领域知识本体/海量数据输出

支锦铭·2022-12-10 14:14

吴恩达机器学习系列课程笔记——第十八章：应用实例：图片文字识别(Application Example: Photo OCR)

18.1问题描述和流程图https://www.bilibili.com/video/BV164411b7dx?p=108图像文字识别应用所作的事是，从一张给定的图片中识别文字。这比从一份扫描文档中识别文字要复杂的多。为了完成这样的工作，需要采取如下步骤：文字侦测（Textdetection）——将图片上的文字与其他环境对象分离开来字符切分（Charactersegmentation）——将文字分

Lishier99·2022-12-10 13:38

2019年CS224N课程笔记-Lecture 11: ConvNets for NLP

资源链接：https://www.bilibili.com/video/BV1r4411想看书吗推荐了一本书～可以自己去了解了解正课内容本周主要是CNN专题从RNNs到卷积神经网络递归神经网络不能捕获没有前缀上下文的短语经常在最终向量中捕获太多的最后单词，如下图例如，如上图，softmax通常只在最后一步计算卷积网络的主要想法：如果我们为每个可能的子序列计算一定长度的向量呢？例如：“tentati

任菜菜学编程·2022-12-10 06:50

[Machinie Learning] 吴恩达机器学习课程笔记——Week1

MachineLearningbyAndrewNg吴恩达机器学习课程学习笔记——Week1学习提纲IntroductionModelandCostFunctionParameterLearningLinearAlgebraReviewIntroductionMachineLearningDefinition机器学习定义MLDefinitionAcomputerprogramissaidtolear

Carsick Car·2022-12-10 01:27

[Machinie Learning] 机器学习课程笔记合订本（更新中）

MachineLearning吴恩达机器学习课程笔记吴恩达机器学习系列吴恩达ML课程笔记——Week1未完待续，持续更新ing…

Carsick Car·2022-12-10 01:57

Gilbert Strang的线性代数课程笔记-第七课

第七课的主题为：矩阵A的零空间（NullSpace）的求解方法第一部分解释矩阵中列与列的独立性、矩阵的秩、支点列与支点变量、自由列与自由变量、矩阵零空间的普通求解假设有矩阵A：通过对A中列的观察可得：1.col2是col1的两倍，因此col2与col1不独立2.col4可由2*（col3-col1）得到，因此col4与col1、col3不独立以上事实中，事实1相较事实2来说更显而易见。那么这些明显

JunyiChen_robot·2022-12-10 00:05

Gilbert Strang的线性代数课程笔记-第一课

目标是把笔记写得谁都能看懂:)首先我们需要了解，线性代数学科的基本目标是：解决线性系统的问题第一课主要从两种角度来解释线性系统（横向与纵向：行图像RowPicture与列图像ColumnPicture）首先我们将方程组用矩阵的形式表达：假设现在有方程组将之写成矩阵形式为【为什么可以这样表达？若看不懂上式的话回顾矩阵的点乘：矩阵点乘运算规则为：设A为mxn的矩阵，B为nxp的矩阵，则A与B的乘积为矩

JunyiChen_robot·2022-12-10 00:35

CS285课程笔记（5.(1)）——从概率图角度理解强化学习（变分推断原理+VAE）

Lecture18,19(2020版)这两节课的核心内容就是如何把强化学习问题（又可以称为最优控制问题）转化为一个基于概率图模型的推断问题，这里的推断又可以进一步细分为精确推断（ExactInference）和近似推断(ApproximateInference)。本文先总结lectrue18，即变分推断与变分推断自编码器的基础知识。一、变分推断与变分自编码器（VariationalInferenc

RavenRaaven·2022-12-09 17:51

人工智能 - 扩展阅读

illustrated-transformer2.AttentionIsAllYouNeed：https://arxiv.org/abs/1706.03762神经网络入门1.CS231n系列CS231n课程笔记翻译

JYCJ_·2022-12-09 17:43

【深度学习基础】BatchNorm，LayerNorm，InstanceNorm，GroupNorm 和 WeightNorm 的原理与PyTorch逐行实现

都参考了讲解视频，感谢分享！！！！（我的理解不到位，存在纰漏，请指出！）1.整理NormalizationBatchNormalizationLayerNormalizationInstanceNormalizationGroupNormalizationWeightNormalization可视化（以图中为例）计算方法perchannelacrossmini-batch通道级别的归一化，根据整个

No pains, no GANs!·2022-12-09 15:58

深度学习基础。入门到实战，深度学习到底有多深？

深度学习是机器学习的一个特定分支。我们要想充分理解深度学习，必须对机器学习的基本原理有深刻的理解。大部分机器学习算法都有超参数（必须在学习算法外手动设定）。机器学习本质上属于应用统计学，其更加强调使用计算机对复杂函数进行统计估计，而较少强调围绕这些函数证明置信区间；因此我们会探讨两种统计学的主要方法:频率派估计和贝叶斯推断。同时，大部分机器学习算法又可以分成监督学习和无监督学习两类；本文会介绍这两

奋进的贼牛批·2022-12-09 09:22

西湖大学张岳老师NLP课程笔记1 Introduction

西湖大学张岳老师NLP课程笔记1Introduction参考资料B站链接课程主页《NaturalLanguageProcessing:AMachineLearningPerspective》csdn大佬笔记

临风而眠·2022-12-09 08:22

吴恩达机器学习课程笔记

吴恩达机器学习几乎每一个和我讨论过的人都同意，人生的最糟糕时期是在11岁到14岁。——《黑客与画家》学习资料课程b站[中英字幕]吴恩达机器学习系列课程Coursera机器学习Coursera深度学习主成分数据选择那里有一节课没有字幕，建议移步Coursera黄海广笔记Coursera深度学习教程中文笔记斯坦福大学2014（吴恩达）机器学习教程中文笔记第0天搜集信息，注册Coursera，申请奖学金

大圣齐天Henry-Speed always wins·2022-12-08 19:34

深度学习基础（1）——卷积、池化、全连接

文章目录卷积池化层全连接层Stride卷积层数计算在下图中左侧是一个32x32x3的图像，其中3代表RGB。每个卷积核是5x5x3，每个卷积核生成一个特征图（featuremap）。下图里面有6个5x5x3的卷积核，所以输出6个特征图，大小为28x28x6.下图中，第二层到第三层，其中每个卷积核大小为5x5x6，这里的6就是28x28x6中的6，两者需要相同，即每个卷积核的“层数”需要与输入的“层

刘啊咚咚锵·2022-12-08 18:07

不是我放弃AI，是AI放弃了我！！

不知从何学起，也不知道学完做什么”“Python语法、机器学习/深度学习基础都能看懂，但一做项目就一行代码都写不好”“学了不少课程，但一面试就被别人说基础差、能力差，甚至开始怀疑自己天赋不行，不适合开发

AI科技大本营·2022-12-08 15:37

贺利坚汇编课程笔记2 访问寄存器和内存

贺利坚汇编课程笔记2访问寄存器和内存文章目录贺利坚汇编课程笔记2访问寄存器和内存0201寄存器及数据存储CPU的组成寄存器是CPU内部的信息存储单元通用寄存器--以AX为例“字”在寄存器中的存储0202mov

临风而眠·2022-12-08 12:49

【CV】吴恩达机器学习课程笔记 | 第1-15章

目录1介绍1-3监督学习1-4无监督学习2单变量线性回归2-2代价函数2-5Batch梯度下降算法4多变量线性回归4-1多特征4-2多元梯度下降法4-3多元梯度下降法I——特征缩放缩放归一化4-4多元梯度下降法演练I——学习率α4-5特征和多项式回归4-6正规方程（NormalEquation）（区别于迭代方法的直接解法）6逻辑回归6-1逻辑分类算法6-2假设表示6-3决策边界6-4代价函数6-4

Fannnnf·2022-12-08 12:21

CS231n_Lecture3_图像分类（损失、优化函数）

感谢：https://marvae.github.io/archives/CS231n课程笔记翻译：线性分类笔记（中）CS231n课程笔记翻译：线性分类笔记（下）在本节课中：将损失函数比作了一个高维度的最优化地形

快乐成长吧·2022-12-08 11:24

数据挖掘课程笔记--分类（5）人工神经网络

一、神经元模型“神经网络是由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应”[Kohonen,1988]神经网络中最基本的成分是神经元模型。在生物神经网络中，每个神经元与其他神经元相连,当它“兴奋”时，就会向相连的神经元发送化学物质,从而改变这些神经元内的电位;如果某神经元的电位超过了一个“阈值”(threshold),那么它就会被激活,即

嘤桃小团子·2022-12-07 20:24

数据挖掘-基础知识-笔记汇总12：神经网络-并行计算

课程笔记第十一篇本课程笔记的课程来源于清华大学深圳研究生院-袁博老师的《数据挖掘：理论与算法》。视频在学堂在线或者b站都有。第四章第一节-神经网络：神经网络模拟的是人的大脑，进行并行计算。

bensonrachel·2022-12-07 20:11

《动手学深度学习》第二天

今天学习深度学习基础。第一节讲述的是线性回归。

打着灯笼摸黑·2022-12-07 15:29

机器学习-支持向量机的SVM(Supprot Vector Machine)算法-linear separable

学习彭亮《深度学习基础介绍：机器学习》课程机器学习一般框架训练集=>提取特征向量=>结合一定算法(分类器：eg决策树，KNN)=>得到结果SVM概述深度学习出现之前，SVM被认为机器学习中近十几年来最成功的

YEN_csdn·2022-12-07 13:53

吴恩达机器学习系列课程笔记——第一章：什么是机器学习(Machine Learning)

1.1欢迎https://www.bilibili.com/video/BV164411b7dx?p=1第一节主要讲了什么是机器学习，机器学习能做些什么事情。机器学习是目前信息技术中最激动人心的方向之一。在这门课中，你将学习到这门技术的前沿，并可以自己实现学习机器学习的算法。你或许每天都在不知不觉中使用了机器学习的算法。每次，你打开谷歌、必应，搜索到你需要的内容，正是因为他们有良好的学习算法。谷歌

Lishier99·2022-12-07 07:48

深度学习基础复习1：CNN系列

CNN原理1.ＣＮＮ效果图使用两个三通道过滤器，从三通道RGB图像中生成两个卷积输出的详细过程：对应位置做乘法然后相加：第一列滑动窗格*中间第一个filter=右边第一个矩阵(1)中间是含有两个filter即两个神经元(下边还包括bias等参数)，参数数depth=2。可知3*3滑动窗，且Stride=2。(2)每个神经元之所以各有三个小矩阵，是因为有RGB三个通道同时过滤计算。(3)输入的数据之

渣渣宇·2022-12-06 22:28

第二次作业：深度学习基础

Assginment2：BasisofDeepLearning本博客为OUC2022秋季软件工程第二周作业文章目录Assginment2：BasisofDeepLearning一、问题二、作业内容Part1视频心得和问题总结==视频心得：==绪论部分：深度学习概述部分：1、前馈深度网络(1)单层卷积神经网络：(2)卷积神经网络：(3)卷积神经网络的特点：2、反馈深度网络(1)单层反卷积网络：(2)

OUC_SE_GROUP3·2022-12-06 15:37

[中英字幕]吴恩达机器学习系列课程笔记

[中英字幕]吴恩达机器学习系列课程笔记教程与代码地址P11-1.欢迎参加《机器学习》课程P21-2.什么是机器学习？

电信保温杯·2022-12-06 12:25

吴恩达机器学习课程笔记.pdf

个人认为：吴恩达老师的机器学习课程，是初学者入门机器学习的最好的课程！我们整理了笔记（336页），复现的Python代码等资源，文末提供下载。课程简介课程地址：https://www.coursera.org/course/mlMachineLearning(机器学习)是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，

风度78·2022-12-06 12:49

推荐频道

深度学习基础课程笔记