李宏毅机器学习知识梳理第16页

李宏毅机器学习特训营机器学习作业3-食物图片分类

目录项目描述数据集介绍项目要求数据增强读取数据获取训练集的信息，包括读取路径和对应的标签自定义数据读取器定义模型（VGG）修改vgg11训练再训练所有数据残差网络预测用训练好的vgg模型进行推理项目描述作业基于paddle2.0训练一个简单的卷积神经网络，实现食物图片的分类。数据集介绍本次使用的数据集为food-11数据集，共有11类标签为0-10Bread,Dairyproduct,Desser

bianhuaHYQ·2022-12-20 01:49

李沐精读论文：transformer 《Attention Is All You Need》 by Google

论文：AttentionIsAllYouNeed视频：Transformer论文逐段精读【论文精读】_哔哩哔哩_bilibili课程（推荐先看这个）：李宏毅机器学习：self-attention（自注意力机制

iwill323·2022-12-18 07:47

[Datawhale-李宏毅机器学习-39期]-002-回归+003-误差和梯度下降+004-反向传播机制

咋说嘞，神经网络就是一个函数，拟合线性非线性的数据。改了一个小程序(代码修改自：https://blog.csdn.net/weixin_42318554/article/details/121940694)，构建了一个两层convnet和两层的mlp看看效果如何，003-是介绍了SGD的基本原理004-是介绍深度学习的相关知识有趣的点：回顾一下deeplearning的历史：1958:Perce

deyiwang89·2022-12-17 17:16

李沐精读论文：GAN

5ca3e9b122f61f8f06494c97b1afccf3-Paper.pdf视频：GAN论文逐段精读【论文精读】_哔哩哔哩_bilibili课程：CS231n2022PPT笔记-生成模型GenerativeModeling李宏毅机器学习

iwill323·2022-12-16 08:00

李宏毅机器学习 hw1 boss baseline 解析

hw1代码任务描述任务很简单，就是一个回归问题，给你过去四天新冠肺炎感染人数的相关情况，让你预测最后一天的新冠感染人数。上图展示了特征的解析特征共有117维，首先是37维的关于州的one-hot编码，然后是4维的特征表示是否有新冠相像的疾病，后面8维是行为指标，例如戴口罩，到别的州旅游等等，之后的3维是精神健康指标，例如是否感到焦虑，沮丧等等，最后一维是当天感染的人数。因为一共有五天，所以特征为3

失败人生自救指南·2022-12-15 14:47

李宏毅机器学习 hw8 strong baseline 解析

hw8代码任务描述用自编码器进行异常检测，训练数据都是正常的数据，测试数据有正常有异常的，让你检测出其中的异常数据。训练一个自编码器使其能够还原输入的图像，使用MSEloss作为损失函数。使用测试数据均方差损失函数的数值作为Anomalyscore，使用ROCAUCscore作为评价指标，ROCAUCscore知道TP,TN,FP,FN的意思再结合助教给的例子就很容易理解。ROCAUCscore越

失败人生自救指南·2022-12-15 14:47

分类：概率生成模型 - 李宏毅机器学习笔记

目录1.若用回归模型硬train分类任务2.二分类任务2.1概率生成模型3.数学上的形式1.若用回归模型硬train分类任务如图，class2的标签是-1（红色的点），class1的标签是1（蓝色的点），横纵坐标是特征值。测试的时候输出可能不会正好就是1或-1，若输出接近1则认为是class1，接近-1则认为是class2，我们期待找到一条如图绿色的线能很好的分开两个标签，像左图回归任务训练出来的

一杯敬朝阳一杯敬月光·2022-12-15 09:38

李宏毅机器学习_11-0深度生成模型（上下)

把图片拆成一个个像素，一个一个像素的生成VAE就是引入噪音的，autoencoding,还引入了均值和方差的限制通过引入噪音，让输出能分布在一定的范围参数之间互相决定，x>z和z>x缺点只能基于原来的，跟原始的越像越好，不能产生新的无监督，就是本身的分布让似然函数最大就好，假设当前数据服从某种分布，假如是正态分布，就变成了找正态分布的均值和方差让当前似然函数最大。KL散度的概念，描述的就是距离。G

愚昧之山绝望之谷开悟之坡·2022-12-15 09:05

李宏毅机器学习笔记-生成模型和逻辑回归

目录概率生成模型分类问题实例模型改进生成模型步骤总结后验概率的数学推导逻辑回归逻辑回归步骤逻辑回归和线性回归的比较为什么不使用MSE判别模型VS生成模型多分类逻辑回归的限制补充：生成式模型和判别式模型概率生成模型概率生成模型，简称生成模型（GenerativeModel），是概率统计和机器学习中的一类重要模型，指一系列用于随机生成可观测数据的模型。生成模型的应用十分广泛，可以用来不同的数据进行建模

iwill323·2022-12-15 09:32

2020李宏毅机器学习笔记-Recurrent Neural Network

目录RNN（循环神经网络）摘要Introduction（介绍）LSTMThree-gateMemoryCellLSTMExampleLSTMStructureLearningTargetLossFunctionTrainingErrorSurfaceHelpTechniquesRNN的应用ManytooneManytomanyRNNv.s.StructuredLearning总结与展望RNN（循环

ZN_daydayup·2022-12-15 06:34

李宏毅机器学习之Recurrent Neural Network

应用举例：slotfilling（空值填充），以买票系统为例当出现Destination时会出现相关的地址名，当出现timeofarrival时会出现时间。有记忆功能的神经网络，就是RNN。1.1常用编码方式1.2介绍RNN其实现过程为：step1:假设所以神经元权重为1，偏差为0。所以的激活函数为线性的。1.3RNN的变体形式ElmanNetwork：将隐藏层的w值存起来，在下一时刻在读出来。J

weixin_43848117·2022-12-15 06:32

李宏毅机器学习作业13——网络压缩，模型剪枝，知识蒸馏，Depthwise Separable Convolution

理论参见：高效深度学习软硬件设计——神经网络压缩、Pruning模型剪枝、权值共享、低秩近似_iwill323的博客-CSDN博客目录任务和数据集任务描述数据集导包辅助函数数据处理显示文件夹和文件数量transformsDataset数据加载函数分类模型训练加载数据集训练函数进行训练推断加载数据architecturedesign概念DepthwiseSeparableConvolution建立模

iwill323·2022-12-15 06:28

Datawhale十月组队学习--《李宏毅机器学习》--Task02

Datawhale十月组队学习：《李宏毅机器学习》往期指路 Task01：什么是机器学习文章目录Datawhale十月组队学习：《李宏毅机器学习》往期指路前言一、回归（Regression）二、模型步骤

二进制研究员·2022-12-14 16:46

Datawhale十月组队学习--《李宏毅机器学习》--Task01

提示：机器学习原链接文章目录前言一、什么是机器学习二、机器学习相关的技术2.1监督学习2.2半监督学习2.3无监督学习2.4迁移学习2.5监督学习中的结构化学习2.6强化学习总结前言第三次组队学习，内容是李宏毅老师的《机器学习/深度学习》，接下来的时间坚持吧~一、什么是机器学习要做的其实是让机器有自己学习的能力，也就我们要做的应该machinelearning的方向。讲的比较拟人化一点

二进制研究员·2022-12-14 16:45

【(强推)李宏毅2021/2022春机器学习课程】专栏汇总

视频学习21年笔记深度学习（李宏毅）--一个好的博客合集[机器学习入门]经典台大李宏毅机器学习课程从这里开始–别人整理的合集！又找到一个好的博客合集--李宏毅深度学习笔记

I"ll carry you·2022-12-13 17:40

C#基础知识梳理系列一：CLR及程序集部署

C#基础知识梳理系列一：CLR及程序集部署摘要.NETFramework到底是什么？公共语言运行时和.NETFramework类库分别指的是什么东西？CLR、CLS、CTS、FCL等这些又是什么？

vbloveshllm·2022-12-12 11:28

jQuery基础知识梳理（一）

1.jQuery的概念jQuery是一个快速、简洁的JavaScript库,其设计的宗旨是"writeLess,DoMore”,倡导写更少的代码,做更多的事情。jQuery封装了JavaScript常用的功能代码,优化了DOM操作、事件处理、动画设计和Ajax交互。学习jQuery本质:就是学习调用这些函数(方法)。jQuery出现的目的是加快前端人员的开发速度,我们可以非常方便的调用和使用它,从

「已注销」·2022-12-12 09:45

jQuery基础知识梳理

jQuery基础知识梳理一、jQuery简介1.web前端的知识回顾HTML决定了⽹⻚的内容CSS决定了标签的样式JavaScript决定了⽹⻚的功能：对标签属性、样式的操作、DOM节点操作、ajax异步交互

雨霖先森·2022-12-12 09:20

李宏毅机器学习课程笔记2：Classification、Logistic Regression、Brief Introduction of Deep Learning

台湾大学李宏毅老师的机器学习课程是一份非常好的ML/DL入门资料，李宏毅老师将课程录像上传到了YouTube，地址：NTUEEML2016。这篇文章是学习本课程第4-6课所做的笔记和自己的理解。Lecture4:Classification:ProbabilisticGenerativeModel以根据宝可梦各属性值预测其类型为例说明分类问题。训练数据是若干宝可梦的各属性值及其类型。1、分类问题不

鹅厂程序小哥·2022-12-11 17:43

李宏毅机器学习笔记-6 深度学习简介（Brief Introduction of Deep Learning）

BriefIntroductionofDeepLearning-深度学习简介1.前言deeplearning在近些年非常热门，从2012年开始，深度学习的应用数目几乎是呈指数增长的。深度学习的发展史如下图：2.深度学习的步骤2.1第一步：定义一个神经网络神经网络由神经元组成，每个神经元如上图所示，每个神经元都有一个bias和一个function，每条输入的边都有一个weight。假设这个神经元的输

MemoryD·2022-12-11 17:33

李宏毅机器学习第一次任务打卡

什么是Machinelearning：MachineLearning(机器学习)是一种数据分析的技术，是教会计算机知性人和动物与生俱来的活动。同时，机器学习是实现人工智能的手段可以近似看作Lookingforafunctionfromdata.机器学习分为3个步骤：step1:defineasetoffunctionstep2:goodnessoffunctionstep3pickthebestf

JiangLongShen·2022-12-11 05:10

李宏毅机器学习笔记——13-深度学习介绍

深度学习是一种基于神经网络的学习方式，其发展经历了如下过程：神经网络的基本结构如下，整体分为输入层、中间层和输出层。中间层也叫特征处理。

qq_43389139·2022-12-11 04:22

李宏毅机器学习笔记——回归

课程基于李宏毅老师《机器学习》同时感谢DatawhaleLeeML-Notes的组队学习——五月班级目录模型设计步骤1.模型假设2.模型评估3.模型优化对单个步骤进行优化总结模型设计步骤1.模型假设，主要选择模型框架（线性、非线性等）2.模型评估，判断模型好坏（损失函数LOSS）3.模型优化，筛选最优的模型（梯度下降）1.模型假设通过特征值（单个特征或多个特征）来选择合适的数学模型（一元或多元、线

不玩游戏的小菜鸡·2022-12-11 04:51

李宏毅机器学习笔记——元学习Meta Learning

元学习MetaLearning：学习如何去学习。learntolearn.机器学习步骤总结第一步：第二步：第三步：元学习是什么输入训练资料，通过方法，进行训练。学习这个方法。利用以往的知识经验来指导新任务的学习，具有学会学习的能力。hand_crafted是人设定的意思。元学习步骤第一步：寻找方法要学的参数是Φ。之前这些component都是人定的，元学习里是求这些component.第二步：计算

vincewm·2022-12-11 04:51

李宏毅机器学习笔记——深度学习介绍及反向传播

深度学习介绍及反向传播深度学习的三个步骤第一步——定义模型（NN）第二步——定义模型的好坏第三步——找到较优模型反向传播链式法则具体细节深度学习的三个步骤与之前的回归内容一样，可以概括为三个步骤。第一步——定义模型（NN）像神经元一样，设置输入层、隐藏层和输出层。层与层之间的权重我们用θ\thetaθ表示。“简单来说，深度学习就是有很多个隐藏层的神经网络。”全连接是连接不同的神经元一种方式。当前层

Brandon1017·2022-12-11 04:20

李宏毅机器学习笔记5：CNN卷积神经网络

李宏毅老师的机器学习课程和吴恩达老师的机器学习课程都是都是ML和DL非常好的入门资料，在YouTube、网易云课堂、B站都能观看到相应的课程视频，接下来这一系列的博客我都将记录老师上课的笔记以及自己对这些知识内容的理解与补充。(本笔记配合李宏毅老师的视频一起使用效果更佳！）Lecture7:CNN目录一、CNN的引入二、CNN的层次结构三、CNN的小Demo加深对CNN的理解四、CNN的特点在学习

weixin_34066347·2022-12-10 06:26

python线性回归预测pm2.5_线性回归--PM2.5预测--李宏毅机器学习

一、说明给定训练集train.csv，要求根据前9个小时的空气监测情况预测第10个小时的PM2.5含量。训练集介绍：(1)、CSV文件，包含台湾丰原地区240天的气象观测资料(取每个月前20天的数据做训练集，12月X20天=240天，每月后10天数据用于测试，对学生不可见);(2)、每天的监测时间点为0时，1时......到23时，共24个时间节点;(3)、每天的检测指标包括CO、NO、PM2.5

weixin_39634132·2022-12-09 22:55

李宏毅机器学习L6 GAN

GAN网络by熠熠发光的白distribution当进行视频预测的时候，有时会出现分裂预测的情况，这是因为在训练过程中，有向左与向右的训练集，所以可能在预测的情况下有残影预测的出现。这种时候就需要提供一个simpledistribution来给出一个概率分布，也就是此时的输出包含了向左和向右的可能。unconditionalgeneration不带x，仅输入simpledistribution给出

熠熠发光的白·2022-12-09 09:44

【李宏毅HW3】

李宏毅机器学习HW3二、torch的基本功能三、PIL四、torch.backends.cudnn.benchmark五、transforms六、nn.Conv2d七、MaxPool2d八、BatchNorm2d

Raphael9900·2022-12-08 12:14

【jQuery】基础知识梳理笔记

jQuery(网页特效)简介:jQ是由漂亮国人…于2006年创建jQuery是目前最流行的JavaScript程序库,它是对JavaScript对象和函数的封装他的设计思想是writeless,domore很多时候他只需要一行代码就可以解决css,js需要大量代码才能解决的问题形式例如:$(“tr:even”).css(“background-color”,"#0000");功能与优势功能:f访问

源星海·2022-12-08 09:57

html温故冷门知识梳理

html:标签：1.注释：。2.缩写注释：abbreviation美[əˌbriviˈeʃən]。ThePRCwasfoundedin1949.当鼠标滑过‘PRC’时显示出全称。3.联系信息：.元素中的文本通常呈现为斜体,通常连同其他信息被包含在元素中。4.图片可点击的区域配合usemap属性和map使用。效果：图片area内点击跳转一个新的链接。详细信息：http://www.w3school.

OnlineFarmer·2022-12-08 09:46

李宏毅机器学习|图神经网络Graph Nerual Networks(GNN)|学习笔记-part2

频域上的图神经网络之前时域上之所以不对数据和卷积一样做卷积处理，是因为在图神经网络中，各个节点都不规范，没办法引用规范的卷积核进行卷积操作。这里我们可以把这一理念在频域中运用。我们知道，在时域中卷积就等于在频域中相乘，这个奠定了在神经网络可以定义在频域的基础。因此在频域上图神经网路就是把数据先transform到频域上，用filter处理，然后再转回到空域的过程。首先是一些必备知识1、2、定义ad

xiaopihaierletian·2022-12-07 07:55

李宏毅机器学习|图神经网络Graph Nerual Networks(GNN)|学习笔记-part1

文章目录前言1Introduction2Roadmap3Spatial-basedGNNNN4G(NeuralNetworksforGraph)论文地址DCNN(Diffusion-ConvolutionNeuralNetwork)MoNET(MixtureModelNetworks)GraphSageGAT(GraphAttentionNetworks)GIN(GraphIsomorphismN

xiaopihaierletian·2022-12-07 07:19

计算机视觉-深度学习图像检测方法梳理

计算机视觉-深度学习图像检测方法梳理由于之后要转方向啦，趁这段时间整理手中硕士研究方向的一些阅读笔记，这是一篇关于计算机视觉的基础知识梳理先搞清一些小知识点首先我们要弄清楚图像分类、目标定位、语义分割、

一只不会飞的猪·2022-12-07 07:45

李宏毅机器学习课程梳理【十】：GNN&Spectral-based GNN

文章目录摘要1FourierTransform2Spectral-basedGNN2.1整体思想2.2SpectralGraphTheory2.3方法的弊端3应用算法3.1ChebNet3.2GCN4结论与展望摘要Spectral-basedGNN方法借助了信号与系统中的傅里叶变换，定义了一套SpectralGraphTheory，用DiscretetimeFourierbasis体现频率与信号能

-Emmie·2022-12-07 05:12

通信基础之天线知识梳理---2022/12/05

天线知识梳理基本振子的辐射和天线电参数天线阵常用线天线天线测量声明：学习资料来源于慕课。

城猪猪·2022-12-06 15:37

李宏毅机器学习课程笔记

课程资源B站视频课程网址课程笔记问答整理下面仅记录自己的所得所感第一节Regression从单变量回归引入，再sigmoid/RELU拟合函数从而一步步到深度学习的框架，介绍的非常巧妙。尤其在sigmoid/RELU拟合函数那里，听了之后很有收获。老师在引入的例子中用的x表示的是前几天的数据关系，不过我理解的时候还是觉得用特征来理解好不少。tolearnmore——backpropagation就

三つ叶·2022-12-06 11:43

李宏毅机器学习 batch normalization

featurescalingw1和w2发生同等的变化，因为x2很大，x1很小，所以w2对结果影响较大，loss在w2方向上斜率较大，w1对结果影响较小，loss在w1方向上斜率较小如果进行featurescaling，使得x1和x2有相同的变化范围loss就是正圆形的好处：featurescaling之前，learningrate在不同方向上不同，要在w1方向上有较大的learningrate，在

lxmm1999·2022-12-06 11:10

李宏毅机器学习笔记Day7——批次标准化

批次标准化（BatchNormalization）也是训练神经网络的一个tip。复杂的errorsurface：不同的dimension的数值范围相差很大，要将这些数值范围变得相同，将errorsurface变得比较简单。featurenormalization在深度学习中，对z也要做featurenormalization，当network很大时，可以考虑为一个batch，只在一个batch做f

RosieDragon·2022-12-06 11:39

DW李宏毅机器学习笔记—Task05（五）—批次标准化（Batch Normalization）简介

总结前言这是我在Datawhale组队学习李宏毅机器学习的记录，既作为我学习过程中的一些记录，也供同好们一起交流研究，之后还会继续更新相关内容的博客。Cha

湘玄书生·2022-12-06 11:05

李宏毅机器学习笔记—第二节—When gradient is small

1.局部最小值和鞍点（LocalMinimumAndSaddlePoint）这一小节的部分属于Optimization，因此只讨论对于gradientdescent的情况。我们在Optimization的时候，总会发现一个问题，就是说随着你的数据的updata，loss并没有达到你的预期。通俗的来说就是loss的降不下去。过去常见的一个猜想,是因为我们现在走到了一个地方，这个地方参数对loss的微

菅田将暉_·2022-12-06 11:04

李宏毅机器学习笔记—第二节—General Guidance

本节一开始是讲解了关于以后作业的内容，再次不做过多的说明。目录Lossontrainingdata——large1.modelbias2.optimization3.Solution1.Gainingtheinsightsfromcomparison2.Startfromshallowernetworks(orothermodels),whichareeasiertotrain.3.Ifdeepe

菅田将暉_·2022-12-06 11:34

Batch Normalization——李宏毅机器学习笔记

BatchNormalization详细可见paper《BatchNormalization:AcceleratingDeepNetworkTrainingbyReducingInternetCovariateShift》，2015FeatureScaling（特征缩放）/FeatureNormalization（引言）Makedifferentfeatureshavethesamescaling

我是小蔡呀～～～·2022-12-06 11:01

李宏毅机器学习34——Transfer learning

摘要：这节课学习了迁移学习，简单来说，就是用一些与目标数据没有直接联系的数据，进行神经网络的训练，这种方法弥补了一般情况下训练神经网络，目标数据缺乏的缺陷。这节课中，与目标数据没有直接联系的数据叫做sourcedata根据sourcedata和targetdata有无label，将迁移学习分为四个大类，这节课主要学习了其中两个大类。对于targetdata和sourcedata都是labeled的

zeng-233·2022-12-05 19:04

李宏毅机器学习笔记（）Transfer Learning

一、transferlearningtargetdata：现在要考虑的task直接相关。sourcedata：和现在要考虑的task没有直接关系。四种可能：有label和无label。二、fine-tuningtargetdata和sourcedata同时都有label。targetdata量非常少（叫做one-shotlearning），sourcedata很多。某个人的语音很少。用source

处女座程序员的朋友·2022-12-05 19:04

李宏毅机器学习——领域适应Domain Adaptation

代码：李宏毅机器学习作业11——TransferLearning，DomainAdversarialTraining_iwill323的博客-CSDN博客目录domainshift（域的转变）问题出现的原因类型

iwill323·2022-12-05 19:34

李宏毅机器学习——学习笔记（17） Transfer Learning

TransferLearning1.transferlearning可以分为四大类（不同的文件上有不同的称呼）：ModelFine-tuning、MultitaskLearning（sourcelabeledandtargetlabeled），Domain-adversarialtraining、Zero-shotlearning（sourcelabeledandtargetunlabeled），

青芒·1·2022-12-05 19:34

【李宏毅机器学习特训营】作业5-迁移学习

Desc作业内容：迁移学习-对抗性训练(DomainAdversarialTraining)。datasetsourcedata:真实照片，targetdata:手画涂鸦。location:‘data/data58171/real_or_drawing.zip’Training:5000张真实图片+label,32x32RGBTesting:100000张手绘图片，28x28GrayScaleLa

成甜汁er·2022-12-05 19:03

李宏毅机器学习作业11——Transfer Learning，Domain Adversarial Training

DomainAdversarialTraining见：李宏毅机器学习——领域适应DomainAdaptation_iwill323的博客-CSDN博客_领域适应迁移学习参见2022CS231nPPT笔记

iwill323·2022-12-05 19:03

Linux基础知识梳理总结

Linux基础知识梳理文章目录Linux基础知识梳理Linux概述什么是LinuxUnix和Linux有什么区别？什么是Linux内核？Linux的基本组件是什么？

正在输入中…………·2022-12-05 15:53

推荐频道

李宏毅机器学习知识梳理