李宏毅机器学习课程笔记

李宏毅机器学习Regression

1.回归定义regression就是寻找一个函数，通过输入特征，然后输出一个数值2.模型步骤Step1：模型假设，选择模型框架(linearmodel)Step2：模型评估，如何判断众多模型的好坏(lossfunction)Step3：模型优化，如何筛选最优的模型(GradientDescent)Step1：模型假设–linearmodel一元线性模型（单个特征）：最简单的模型（线性模型），并且假
Tongsen99·2022-11-28 07:38

李宏毅机器学习误差和梯度下降法

文章目录误差（Error）误差的来源模型的估测偏差和方差的评估偏差大-欠拟合方差大-过拟合模型选择梯度下降法梯度下降法的介绍梯度下降法的几个TipsTip1：调整学习率Tip2：随机梯度下降法Tip3：特征缩放梯度下降法的限制误差（Error）误差的来源ErrorErrorError的主要来源有两个，分别是biasbiasbias和variancevariancevariance（偏差和方差）。模
Tongsen99·2022-11-28 07:38

李宏毅机器学习笔记03-误差和梯度下降

Error的来源从上节课测试集数据来看，AverageErrorAverage\ErrorAverageError随着模型复杂增加呈指数上升趋势。更复杂的模型并不能给测试集带来更好的效果，而这些ErrorErrorError的主要有两个来源，分别是biasbiasbias和variancevariancevariance。然而biasbiasbias和variancevariancevarianc
hifuture_·2022-11-28 07:38

李宏毅机器学习——线性回归

线性回归文章目录线性回归一、线性回归定义二、模型步骤三、线性回归分类一元线性回归多元线性回归四、损失函数五、梯度下降过拟合问题总结一、线性回归定义线性回归：找到一个模型（function），通过输入特征x，输出一个预测者二、模型步骤step1：模型（function）假设，选择模型框架（线性模型）step2：模型评估，利用损失函数（lostfunction）评估模型好坏step3：模型优化，通过梯
Eugene_lt·2022-11-28 07:37

李宏毅机器学习——误差

一、误差的构成Error=Bias+VarianceBias和Variance之间是此消彼长的关系，其本质是机器计算与先验之间的battle如果依赖先验，就会对model施加限制，限制其复杂度，从而Bias相对大；但是model因为简单所以更加稳定，方差较小。如果依赖机器计算，就会使model尽可能贴合数据，model复杂度很高，Bias低，但是模型的不确定性很高，应用到实际中的模型方差会很大。二
thisissally·2022-11-28 07:37

【22李宏毅机器学习】第一节 机器学习与深度学习的基本概念

概述本节讲解了机器学习从选定模型到定义代价函数再到优化模型的三部曲。李老师以他的油管视频日访问量的预测为切入点，讲解机器学习算法的开发三步骤。一、机器学习步骤（三部曲）FunctionwithUnknownParmeter即选定一个model需要依靠domainknowledgeDefineLossfromTrainingData（从训练数据中定义代价函数）注意李老师只讲到两种e值，一种是绝对值误
春天猪会飞·2022-11-28 07:06

李宏毅机器学习-误差和梯度下降

目录前言一、误差1.偏差2.方差3.减少错误4.模型选择（比较验证）（1）交叉验证（2）N折交叉验证二、梯度下降1.调整学习率（1）一般调整学习率（2）自适应学习率（3）Adagrad算法2.随机梯度下降3.特征缩放总结前言本文内容涉及误差、梯度下降，来源于李宏毅老师深度学习视频。一、误差误差反映整个模型的准确度，误差的来源由两部分：偏差（bias）和方差（variance）。可以用下面式子表示：
DongXueL·2022-11-28 07:05

2021李宏毅机器学习（1）：基本概念

2021李宏毅机器学习（1）：基本概念1基本概念1.1不同的函数类别1.2如何寻找函数（Training）：1.3模型1.3.1sigmoid1.3.2ReLU1.3.3对sigmoid的计算可以多做几次
三耳01·2022-11-28 07:05

李宏毅机器学习笔记——回归

回归笔记回归使用场景预测步骤第一步——确定模型的集合第二步——模型好坏的判断第三步——梯度下降改进模型回归使用场景股票预测：输入：历史股票价格等输出：明日或以后股票的价格或平均值自动驾驶：输入：场景信息、信号输出：方向盘角度推荐系统：输入：使用者信息、商品信息输出：购买可能性课内使用案例：预测宝可梦进化后的战斗力（CP）输入：进化前的CP，种类，HP，重量，高度预测步骤第一步——确定模型的集合线性
Brandon1017·2022-11-28 07:04

李宏毅机器学习笔记——误差与梯度下降

误差与梯度下降误差的来源VarianceBias小结交叉验证梯度下降学习率自动调整学习率随机梯度下降特征缩放（FeatureScaling）梯度下降原理误差的来源训练得到的模型f∗f^*f∗和真实的模型f^\hatff^之间的距离（差距）就是Bias+Variance。Variance于是可以得到规律：简单的模型的Variance比较小，而复杂的模型的Variance比较大。因为简单的模型受不同的
Brandon1017·2022-11-28 07:04

【李宏毅机器学习】Classification_1 分类（p10） 学习笔记

全文总结于哔哩大学的视频：李宏毅2020机器学习深度学习(完整版)国语2020版课后作业范例和作业说明在github上：点击此处李宏毅上传了2020版本的机器学习视频和吴恩达的CS229机器学习相比，中文版本的机器学习显得亲民了许多，李宏毅的机器学习是英文的ppt+中文讲解，非常有利于大家入门。吴恩达的CS229中偏向于传统机器学习（线性回归、逻辑回归、NaiveBayes、决策树、支持向量机等）
running snail szj·2022-11-28 01:55

李宏毅《机器学习》（DL方向）阶段性总结

晨哥是个好演员）二、重要知识点梯度下降损失函数反向传播CNN三、实例实战（fashion-mnist演示）1.知识回顾2.三种定义方式+代码示例四、参考文档来自Datawhale的投喂来自官方的投喂总结前言李宏毅机器学习的组队学习告一段落
Beyond_April·2022-11-28 01:25

李宏毅机器学习hw3

Homework3-ConvolutionalNeuralNetwork本文是对课程作业代码范例的复现，但也写了一些自己的理解和期间遇到的问题，如有写的不对的地方欢迎各位大佬指正。问题的解决方法和参考资料在文中以链接的形式给出主要的参考文章是iteapoy的这篇⭐李宏毅2020机器学习作业3-CNN：食物图片分类1作业概述在food_11文件中有三个文件分别是training、validation
老问题·2022-11-28 01:19

吴恩达《卷积神经网络》课程笔记（1）

1、机器视觉（上图展示了一个神经风格转换（NeuralStyleTransfer）的例子）使用传统神经网络处理机器视觉的一个主要问题是输入层维度很大。例如64x64x3的图片，神经网络输入层的维度为12288。而现在的图片将近几千x几千x3的内存，而导致神经网络输入层的维度达到几百万。这样会造成两个后果，一是神经网络结构复杂，数据量相对不够，容易出现过拟合；二是所需内存、计算量较大。解决这一问题的
逸耀·2022-11-28 00:57

吴恩达：28张图全解深度学习知识

这不仅仅是一份课程笔记，同时还是一套信息图与备忘录。下面，我们将从深度学习基础（01-13）、卷积网络（14-22）和循环网络（23-28）三个方面介绍该笔记，并需要
AI致力·2022-11-27 20:42

笔记：神经网络与深度学习—绪论

神经网络与深度学习绪论绪论一、关于本课程1.知识结构2.推荐教材3.推荐课程二、常用的深度学习框架绪论最近开始学习机器学习，从B站找到了一篇网课：复旦大学——邱锡鹏的《神经网络与机器学习》，因此写了几篇课程笔记
zhenpigmilk·2022-11-27 17:07

斯坦福机器学习夏令营

Stanford-Machine-Learning-camp课程资料课程主页课程笔记课程视频环境配置Anaconda作业介绍比赛环境推荐使用Linux或者Mac系统，以下环境搭建方法皆适用:Docker
SKY_H_N·2022-11-27 10:54

李宏毅机器学习（深度学习）--overfitting

李宏毅机器学习（深度学习）--overfitting1.机器学习速通攻略2.overfitting1.机器学习速通攻略本节课首先老师是用了一张图来介绍作业出现一些错误时，我们该如何找出错误，这又称为速通攻略
Kinoki7·2022-11-27 10:53

TensorRT ONNX 基础

TensorRTONNX基础tensorRT从零起步迈向高性能工业级部署（就业导向）课程笔记，讲师讲的不错，可以去看原视频支持下。
Adenialzz·2022-11-27 09:55

神经网络和深度学习-第二周神经网络基础-第三节：Logistic 回归损失函数

本系列博客是吴恩达(AndrewNg)深度学习工程师课程笔记。全部课程请查看吴恩达(AndrewNg)深度学习工程师课程目录在上一节中，讲解的是logistic回归模型。
geekidentity·2022-11-27 09:52

Udacity机器人软件工程师课程笔记（二十九) - 全卷积网络（FCN）

全卷积网络（FCN）1.全卷积神经网络介绍FCN对图像进行像素级的分类，从而解决了语义级别的图像分割（semanticsegmentation）问题。与经典的CNN在卷积层之后使用全连接层得到固定长度的特征向量进行分类（全联接层＋softmax输出）不同，FCN可以接受任意尺寸的输入图像，采用反卷积层对最后一个卷积层的featuremap进行上采样,使它恢复到输入图像相同的尺寸，从而可以对每个像素
Stan Fu·2022-11-27 09:52

【机器学习】课程笔记11_支持向量机(Support Vector Machines)

支持向量机优化目标（OptimizationObjective）大间距的直观理解（LargeMarginIntuition）大间距分类背后的数学（TheMathematicsBehindLargeMarginClassification）核函数1（KernelsⅠ）核函数2（KernelsⅡ）使用支持向量机（UsingAnSVM）优化目标（OptimizationObjective）支持向量机（S
雀栎·2022-11-27 08:51

机器学习课程笔记---聚类

应用评价指标距离k-means算法前提要选取k个点重心点不变了就可以。存在的问题1、初始点2、k，从1开始试，慢慢增加，看趋势聚类之前需要做的事！！！一定要归一化，不同维度的值统一到一个范围中。以及均值中心化。2、k-means++这里的概率就是用轮盘赌算法对于数值型的，可以算距离；对于离散的属性，怎么算距离？K-prototype为了防止分类距离对整体距离的影响还与分类属性的取值频度也有关系，比
野生蘑菇菌·2022-11-27 08:13

【机器学习】课程笔记13_降维(Dimensionality Reduction)

降维目标1：数据压缩（MotivationⅠ:DataCompression）目标2：可视化（MotivationⅡ:DataVisualization）主成分分析问题（PrincipalComponentAnalysisProblemFormulation）主成分分析算法（PrincipalComponentAnalysisAlgorithm）重建的压缩表示（Reconstructionfrom
雀栎·2022-11-27 08:36

【机器学习】课程笔记12_聚类(Clustering)

聚类无监督学习（UnsupervisedLearningIntroduction）K-均值算法（K-meansAlgorithm）优化目标（OptimizationObjective）随机初始化（RandomInitialization）选取聚类数量（ChoosingtheNumberofClusters）无监督学习（UnsupervisedLearningIntroduction）无监督学习：将
雀栎·2022-11-27 08:35

误差、梯度下降、概率分类模型、logistic回归笔记

PS:学习内容来自李宏毅机器学习2019版误差误差的来源  平均误差(AverageError)会随着模型复杂增加呈指数上升趋势。
海风吹过的夏天·2022-11-27 08:28

李宏毅2021春机器学习课程笔记——自注意力机制（Self-Attention）

本文作为自己学习李宏毅老师2021春机器学习课程所做笔记，记录自己身为入门阶段小白的学习理解，如果错漏、建议，还请各位博友不吝指教，感谢！！全连接网络的输入是一个向量，但是当输入是一个变长的向量序列时，就不能再使用全连接网络了。这种情况通常可以使用卷积网络或循环网络进行编码来得到一个相同长度的输出向量序列。基于卷积或循环网络的序列编码都是一种局部的编码方式，只建模了输入信息的局部依赖关系。虽然循环
sykai1·2022-11-27 03:22

PaddlePaddle李宏毅机器学习特训营笔记——机器学习概述

本文的目录如下：1.机器学习引入2.什么是机器学习？3.机器学习的分类4.机器学习应用场景5.课程信息1.机器学习引入  机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。  机器学习是人工智能的一个子集，它是人工智能的核心，是使计算机具有智能的
从零开始机器学习·2022-11-27 02:47

台大李宏毅老师——深度学习 课程笔记 一 （Summary Regression Basic Concept)

文章目录概述SupervisedLearningReinforcementLearningUnsupervisedLearning前沿研究MetalearningLife-longlearningRegressionRegressionApplicationExampleAplicationBasicConcept概述机器学习不只是有分类和回归任务，还有GAN。也就是自动生成结构性的复杂数据，比如
大叔爱学习.·2022-11-27 02:16

李宏毅机器学习笔记——概述与介绍

介绍及概述笔记机器学习机器学习介绍机器学习流程学习总览监督学习回归Regression分类Classification二元分类多分类半监督学习、迁移学习无监督学习结构化学习强化学习机器学习机器学习介绍人工智能是目标，机器学习是手段，深度学习是一种方法。机器学习是从数据中寻找一个或若干个规律/函数，并根据新的数据作出相对的回应。机器学习流程学习总览监督学习回归Regression提供数据，找到合适的
Brandon1017·2022-11-27 02:30

吴恩达机器学习系列课程笔记——第十二章：支持向量机(Support Vector Machines)

12.1优化目标https://www.bilibili.com/video/BV164411b7dx?p=70到目前为止,你已经见过一系列不同的学习算法。在监督学习中，许多学习算法的性能都非常类似，因此，重要的不是你该选择使用学习算法A还是学习算法B，**而更重要的是，应用这些算法时，所创建的大量数据在应用这些算法时，表现情况通常依赖于你的水平。**比如：你为学习算法所设计的特征量的选择，以及如
Lishier99·2022-11-26 21:53

李宏毅机器学习笔记：回归 ——梯度下降法 过拟合 正则化

李宏毅机器学习笔记：回归——梯度下降法过拟合正则化学习笔记总结：源学习笔记链接:https://datawhalechina.github.io/leeml-notes/#/chapter3/chapter3
麻麻在学习·2022-11-26 19:23

卷积神经网络——李宏毅机器学习笔记

以ImageClassification为例第一个解释角度：先将不同尺寸的image，rescale成大小一样的尺寸，再丢到model中。下图中，我们希望Crossentropy越小越好在计算机视角下的图片：3channels对应RGB三个通道随着模型参数的增多，全连接层网络的弹性越大，overfitting的风险越大那么怎么避免在做图像识别参数过多的问题？我们没有必要考虑每一个neuron跟in
麻辣兔头·2022-11-26 17:11

CS231n课程笔记翻译：图像分类笔记

译者注：本文智能单元首发，译自斯坦福CS231n课程笔记imageclassificationnotes，由课程教师AndrejKarpathy授权进行翻译。本篇教程由杜客翻译完成。
buaadf·2022-11-26 13:36

cs231n图像分类

CS231n课程笔记翻译：图像分类笔记（上）杜客1年前译者注：本文智能单元首发，译自斯坦福CS231n课程笔记imageclassificationnotes，由课程教师AndrejKarpathy授权进行翻译
立志胡IT·2022-11-26 13:34

2020李宏毅机器学习学习笔记--1.概论与Regression回归

第一节课课程介绍概论（P1）一.机器学习的本质就是自动寻找函式比如：------输入语音信号，输出文字信号------输入图片，输出内容------输入一个问题，输出一个答案二.机器学习包含以下-1.—Regression（回归）：Theoutputofthefunctionisascalar，函数的输出是一个数值2.—Classification*（分类）1）.BinaryClassificat
HSR CatcousCherishes·2022-11-26 10:47

李宏毅机器学习2022春季-第八课和HW8

李宏毅2022课程视频全部以线上视频的形式给出（已经全部录好，你可以选择短时间全部学完），上课时间会直播讲解额外的内容（可以不听）和作业（建议一定要做），目前已更新到作业八。第八课主要内容是Autoencoder和AnomalyDetection。Autoencoder包含encoder和decoder两个部分，encoder对输入信息进行表征学习，decoder将表征学习还原回输入信息。Anom
机器学习手艺人·2022-11-26 10:46

李宏毅机器学习笔记——Anomaly Detection（异常侦测）

目录异常检测概述AnomalyDetection分类异常侦测不是一个单纯的二元分类问题两种类别数据存在标签训练验证集和评估分类modelPossibleIssuesWithoutlabel（无标签的数据）问题定义具体做法Auto-encoder做异常检测总结异常检测概述对于异常检测任务来说，我们希望能够通过现有的样本来训练一个函数，它能够从数据中学习到某些正常的特征，根据输入与现有样本之间是否足够
iwill323·2022-11-26 10:16

代码报错：Unable to find a valid cuDNN algorithm to run convolution

今天在做李宏毅机器学习第八个作业的时候，遇到一个代码报错UnabletofindavalidcuDNNalgorithmtorunconvolution，网上搜了搜，有的说显存不够，调小bach_size
iwill323·2022-11-26 10:16

李宏毅机器学习作业10——Adversarial Attack

目录目标和方法评价方法导包GlobalSettingsDatatransformDataset代理网络评估模型在非攻击性图像上的表现AttackAlgorithmFGSMI-FGSMMI-FGSMDiverseInput(DIM)攻击函数AttackEnsembleAttack集成模型函数构建集成模型进行攻击FGSM方法I-FGSM方法+EnsembelAttackMIFGSM+EnsembleA
iwill323·2022-11-26 10:16

李宏毅机器学习作业8-异常检测（Anomaly Detection）

目录目标和数据集数据集方法论导包Datasetmoduleautoencoder训练加载数据训练函数训练推断解答与讨论fcn浅层模型深层网络cnn残差网络辅助网络目标和数据集使用Unsupervised模型做异常检测:识别给定图像是否和训练图像相似数据集Trainingdata100000humanfacesdata/traingset.npy:100000imagesinannumpyarray
iwill323·2022-11-26 10:46

《机器学习基石》课程笔记（3）

不同输出空间下的机器学习输出空间实际应用二元分类Y={−1,+1}信用卡分发或不分发、识别垃圾邮件和非垃圾邮件、病人有病或没病、广告是否盈利、答案是否正确多元分类Y={1,2,3,...,K}手写字体分类、图片识别、垃圾邮件更详细的分类回归Y=R或者Y=[lower,upper]⊂R根据病人的特征判断还有多长时间痊愈、通过公司数据预测股票价格、根据天气数据预测温度结构化学习（序列标记问题）Y=st
nudt_oys·2022-11-26 02:18

2022李宏毅机器学习深度学习学习笔记第六周--BERT的变体

文章目录前言Pre-trainingbyTranslationPredictNextTokenMaskingInputXLNetUniLM总结前言本文讲怎么得到pre-train的模型以及预测下一个token模型，介绍两种盖住token的方法，之后讲UniLM的运作过程。我们希望可以有一个pre-train的模型，把一串token吃进去，把每一串token变成一个embeddingvector，我
hehehe2022·2022-11-26 00:01

2022李宏毅机器学习深度学习学习笔记第四周--Self-Supervised Learning

文章目录前言Self-SupervisedLearning什么是Self-SupervisedLearningMaskingInputNextSentencePredictionBERT如何使用为什么BERT有用呢？Multi-lingualBERT多语言BERTGPT总结前言本文要讲的是Self-SupervisedLearning自监督学习，首先列举了Self-SupervisedLearni
hehehe2022·2022-11-26 00:00

李宏毅机器学习课程自测练习题

暂停更新LastModified2022.1.7Fri22:27目录(计划包含以下内容)：简介线性分类与感知机数学基础卷积神经网络循环神经网络自注意力机制Transformer自监督学习自编码器对抗生成网络可解释AI与对抗攻击领域自适应深度强化学习I.序言1.下列哪种方法可以用来减小过拟合A.更多的训练数据B.L1正则化C.L2正则化D.减小模型的复杂度2.对于PCA说法正确的是A.我们必须在使用
xiongxyowo·2022-11-25 22:52

2021李宏毅机器学习（3）：类神经网络训练不起来怎么办

2021李宏毅机器学习（3）：类神经网络训练不起来怎么办1任务攻略1.1如果在训练集上的loss始终不够小1.2如果loss在训练集上小，在测试集上大1.3任务攻略的示意图2局部最小值(localminima
三耳01·2022-11-25 20:47

【deeplearning.ai】吴恩达深度学习课程笔记目录

自2020.11.30开始学习DeepLearning，该学习笔记最后一次更新于2021.2.21Part1深度学习概论深度学习笔记（一）深度学习概论Part2神经网络基础深度学习笔记（二）LogisticRegression逻辑回归深度学习笔记（三）计算图及其导数运算方法深度学习笔记（四）Vectorization向量化深度学习笔记（五）BroadcastinginPython广播吴恩达深度学习
Mr.zwX·2022-11-25 20:17

(自动调整学习速率)-李宏毅老师21&22深度学习课程笔记

自动调整学习速率总结Trainingstuck≠SmallGradient（训练卡住不代表小梯度）-有可能是梯度还很大但是训练停止了（在峡谷间震荡不能到峡谷底部）为什么需要自动调整学习率？-单一固定（one-size-fits-all）的学习率Model训练到驻点很困难（学习率太大不能收敛，学习率太小收敛太慢）如何客制化学习率？-引入参数σσ常见的计算方式-Rootmeansquare（均方根）A
暖焱·2022-11-25 20:14

(局部最小值local minima & 鞍点saddle point)-李宏毅老师21&22深度学习课程笔记

02-02-类神经网络训练不起来怎么办?局部最小值localminima&鞍点saddlepoint总结如何判断Optimization是否失败？-损失值较大&与其他模型相比效果不好为什么Optimization会失败？-SaddlePoint&LocalMinima为什么想要知道是卡在localminima还是saddlepoint？如何判断LocalMinimaorSaddlePoint?-H
暖焱·2022-11-25 20:44

李宏毅机器学习打卡Task05：神经网络训练不起来怎么办？

目录b站学习视频地址：李宏毅《机器学习/深度学习》2021课程（国语版本，已授权）_哔哩哔哩_bilibili一、局部最小值(Localminima)和鞍点(Saddlepoint)二、批次(Batch)和动量(Momentum)三、自动调整学习率四、损失函数也可能对训练有影响五、批次标准化(BN)b站学习视频地址：李宏毅《机器学习/深度学习》2021课程（国语版本，已授权）_哔哩哔哩_bilib
陈住气^-^·2022-11-25 20:13
上一页 33 34 35 36 37 38 39 40 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他