Coursera机器学习笔记第19页

机器学习笔记

目录常用基本库第零部分数据勘察1、去除重复值2、查看数据分布第一部分数据预处理1、数据清洗2、数据变换第二部分：特征选择方差过滤特征相关性过滤特征Embedded嵌入法降维筛选第三部分：数据集拆分第四部分：数据挖掘模型1、线性回归2、逻辑回归LR3、朴素贝叶斯NB4、支持向量机SVM5、最近邻分类KNN6、神经网络9、决策树DT10、集成算法11、网格搜索12、聚类分析常用基本库第零部分数据勘察1

muge`·2022-12-29 22:46

机器学习笔记：ViT （论文 An Image Is Worth 16X16 Words: Transformers for Image Recognition at Scale）

ICLR20210前言说到图像处理，一般想到的就是CNN/CNN的变体机器学习笔记：CNN卷积神经网络_UQI-LIUWJ的博客-CSDN博客。

UQI-LIUWJ·2022-12-29 22:00

机器学习笔记：Transformer

1传统Seq2Seq的不足传统seq2seq使用bi-directionRNN，那么生成每个b的时候，对于输入的整个序列，模型都需要看过一遍。问题在于，这样的用bi-directionRNN实现的seq2seq，它却没有办法并行操作，也就是说，我b1~b4必须一个一个计算。1.1改进1使用CNN代替RNN一个三角形代表一个filter，每个filter处理输入的一小段（在这里，比如说我每个filt

UQI-LIUWJ·2022-12-29 13:08

机器学习笔记--SVM（MATLAB 实现代码）

我们知道SVM的基本原理就是找一个超平面（广义平面）将样本分为几个部分，即分类。MATLAB中自带SVM包，使用起来也十分方便，假如X是特征矩阵，Y是分类标签（可以是数值（1、2）也可以是string，总之有区别就行。）二分类代码SVMModel=fitcsvm(X,y)%训练分类器CVSVMModel=crossval(SVMModel);%分类器的交叉验证classLoss=kfoldLoss

weixin_39210914·2022-12-29 11:28

Coursera课程Big Data Analysis with Scala and Spark Week 1笔记

Coursera上的spark课程笔记。spark为什么快把尽可能多的不可变数据存到内存里，记录对数据的一系列操作。如果某个节点出现问题，重新执行一遍操作即可还原结果，无需太多的磁盘操作。

zhang35·2022-12-29 10:05

机器学习笔记 - 基于pytorch和tensorflow的K折交叉验证

一、概述机器学习模型经过训练后必须使用测试集进行评估。我们这样做是为了确保模型没有过度拟合，并确保它们适用于现实生活中的数据集，与训练集相比，这些数据集的分布可能略有偏差。模型评估通常通过保留拆分执行，其中通常进行80/20拆分，并且80%的数据集用于训练模型。20%用于评估模型。但是为了使模型真正健壮，仅使用训练/测试拆分进行评估可能还不够。K-fold交叉验证。通过跨多个折叠生成训练/测试拆分

坐望云起·2022-12-28 18:37

机器学习笔记之条件随机场(二)HMM vs MEMM

机器学习笔记之条件随机场——HMMvsMEMM引言回顾：隐马尔可夫模型隐马尔可夫模型的模型参数隐马尔可夫模型的两个假设关于生成模型MEMMVSHMM最大熵马尔可夫模型引言上一节介绍了概率判别模型与概率生成模型

静静的喝酒·2022-12-28 12:50

台湾国立大学（林轩田）《机器学习基石》（第7-8讲）VC Dimension ，Noise and Error

课程地址：https://class.coursera.org/ntumlone-001/class课件讲义：http://download.csdn.net/download/malele4th/10208897

九方先生·2022-12-28 12:50

【吴恩达机器学习笔记】第五章神经网络学习

【吴恩达机器学习笔记】第五章神经网络学习1、神经网络模型我们将一个神经元模拟成一个逻辑单元，下图表示对hθ(x)h_{\theta}(x)hθ(x)进行计算的神经元，黄色圆圈代表一个神经元，蓝色圆圈代表树突或轴突传输的信号

毕君郁·2022-12-28 12:13

机器学习笔记02--决策树算法(手把手教你看懂)---信息熵，信息增益，增益率，基尼系数

目录1、什么是决策树2、如何计算信息熵和信息增益2.1信息熵：2.2信息增益：2.3增益率：2.4基尼系数引言：抛开概念，由这个算法的名字我们可以推测一下字面意思，决策树，决策就是有决策能力，树可以理解为我们所学的数据结构中的树，由一个根节点不断往下拓展分支，直到叶子节点为止，叶子节点对应决策结果。那么决策树就是从根节点出发按照当前给定的条件，判断往哪一个分支走，直到遇到叶子节点，说明我们这轮决策

AI学习的我·2022-12-28 07:11

机器学习笔记（第三章线性模型）

西瓜书笔记（第3章线性模型）3.1基本形式线性模型(linearmodel)试图学得一个通过属性的线性组合来进行预测的函数，即f(x)=ω1x1+ω2x2+...+ωdxd+bf(x)=\omega_1x_1+\omega_2x_2+...+\omega_dx_d+bf(x)=ω1x1+ω2x2+...+ωdxd+b一般用向量形式写成f(x)=ωTx+bf(x)=\omega^Tx+bf(x)=ω

xhy.·2022-12-27 21:58

【机器学习笔记】第三章：线性模型

目录3.1一元线性回归3.2多元线性回归3.3对数几率回归3.4线性判别分析3.1一元线性回归线性模型试图学得一个通过属性的线性组合来进行预测的函数，即f(x)=w1x1+w2x2+...+wdxd+b(3.1)f(x)=w_{1}x_{1}+w_{2}x_{2}+...+w_{d}x_{d}+b\tag{3.1}f(x)=w1x1+w2x2+...+wdxd+b(3.1)一般用向量形式写成f(x

浪里摸鱼·2022-12-27 21:28

机器学习笔记（二）：线性模型

线性模型是机器学习常用的众多模型中最简单的模型，但却蕴含着机器学习中一些重要的基本思想。许多功能更为强大的非线性模型可在线性模型的基础上通过引入层级结构或高维映射得到，因此了解线性模型对学习其他机器学习模型具有重要意义。本文主要介绍机器学习中常用的线性模型，内容主要包括：一、线性回归（LinearRegression）二、对数几率回归（LogisticRegression）三、线性判别分析(Lin

塘朗老实人·2022-12-27 21:53

机器学习笔记：第1章机器学习发展史

一、机器学习基本分类按照训练集有无标签分为：监督学习和无监督学习监督学习：分类和回归（预测值为离散值时为分类任务）无监督学习：聚类二、基本术语样本/示例：一个事件或对象的描述，也称一个示例为一个特征向量。样本属性：反映事件或对象某方面的表现或性质。样本的维数：样本属性值的个数假设：从训练集上学得的模型对应了关于数据的某种潜在的规律，亦称为假设。泛化能力：学得得模型在新样本上的能力。归纳：从具体事实

菜鸟爱学习@chong·2022-12-27 21:22

机器学习笔记：第2章模型评估与选择

一、经验误差与过拟合经验误差/训练误差：学习器在训练集上的误差。泛化误差：学习器在新样本上的误差。过拟合：经验误差小但是泛化误差大，则发生过拟合现象。二、评估方法模型的选择通常选择泛化误差小的模型，但是泛化误差无法直接获取，因此用测试误差近似泛化误差进行模型评估。1划分数据集为训练集和测试集的方法（进行模型泛化误差的近似估计）（1）留出法留出法：将数据集D划分为两个互斥的数据集S和T，分别为训练集

菜鸟爱学习@chong·2022-12-27 21:22

机器学习笔记：第3章线性模型

3.1基本形式(3.1)给定由d个属性描述的示例x；线性模型通过属性的线形组合进行预测。3.2线性回归线性回归：学得一个线性模型尽可能多准确地预测实值输出标记。存在序关系的离散属性可以连续化，比如身高:高、低，可连续化为{1，0}；若k个属性间不存在序关系，则转化为k维向量。如‘瓜类’取值西瓜、黄瓜、南瓜，则可表示为（1，0，0）、（0，1，0）、（0，0，1）。线性回归试图学得：使得如何求得和b

菜鸟爱学习@chong·2022-12-27 21:19

机器学习笔记－－降维 PCA－－基于鸢尾花数据集

1.数据集使用skleaen.datasets自带的鸢尾花数据集进行PCA降维首先，导入IRIS鸢尾花数据集：fromsklearn.datasetsimportload_iris其次，对鸢尾花数据集进行探索：iris=load_iris()X=iris.datay=iris.targetiris.data是一个四维的数据集，iris.target将每一条鸢尾花打上标签2.PCA算法分析1.输入：

syntacticsugars·2022-12-27 15:15

机器学习笔记之基础回归问题

前言本文参考了《机器学习》周志华著中的3.2节中的线性回归内容和《统计学习方法》李航著的6.1节中的逻辑回归内容，并结合逻辑回归两个实验进行总结。线性模型什么是线性模型呢？给定的样本有n个属性，xi表示第i个属性，而形如如下：线性回归我们已经知道了线性模型是什么，那么线性回归是干啥的呢？按照统计学习方法的三要素，模型已经确定，接下来就是策略。按策略来看，我们需要确定损失函数，损失函数是一种性能度量

达不溜溜球·2022-12-27 11:37

Coursera 自动驾驶课记录

1sensorsandcomputinghardware有关加速度的设定:高速场景下所需的覆盖要求:城市道路所需要的传感器覆盖:环境感知:环境地图的划分:其中环境感知的地图划分:规控的模块划分:2运动模型非完整约束动力学模型:两轮车的动力学模型:以后轴为中心的自行车模型:以前轴为中心的自行车模型:以重力为中心的自行车模型,lrl_{r}lr为后轴到重心点的位置，β\betaβ为滑移角：跟输入结合起

丁路人·2022-12-27 11:34

机器学习笔记之Sigmoid信念网络(一)对数似然梯度

机器学习笔记之Sigmoid信念网络——对数似然梯度引言回顾：贝叶斯网络的因子分解Sigmoid信念网络对数似然梯度推导过程梯度求解过程中的问题引言从本节开始，将介绍Sigmoid\text{Sigmoid

静静的喝酒·2022-12-27 11:32

Stanford CS230深度学习（三）调参、正则化和优化算法

然后coursera中的课程主要讲实际的应用例如调参、正则化等，以及几个DL常用优化算法。

学吧学吧终成学霸·2022-12-27 03:40

机器学习笔记--模型评估之一：准确率与召回率，平均根误差（RMSE、平均绝对百分比误差（MAPE）

准确率：分类正确的样本占总样本个数的比例，Accuracy=ncorrect/ntotal精确率Precision：精确率是指分类正确的正样本个数占分类器判定为正样本的样本个数比例召回率Recall：分类正确的正样本个数占真正的正样本个数的比例如何评估排序模型的性能？F1Score和ROC曲线能综合反映一个排序模型的性能F1=（2*Precision*Recall）/（Precision+Reca

dudu妈·2022-12-26 13:35

吴恩达机器学习手写笔记（持续更新ing）

吴恩达机器学习笔记文章目录吴恩达机器学习笔记1.Introduction2.Linearregressionwithonevariable3.LinearAlgebrareview4.多变量线性回归（Linearregressionwithmultiplevariables

Mrwei_418·2022-12-26 13:02

[机器学习笔记] Python数据分析：用户消费行为（持续更新）

Python数据分析：用户消费行为（持续更新）红酒品鉴和用户消费行为分析是我学习Python数据分析入门的两个案例，记录一下。网络上关于这两个案例的介绍非常多，但是我在学习过程中，发现有很多文章的逻辑不是很清晰，代码也调试不同。所以，还是想把自己的调试代码写出来。参考博文：http://www.360doc.com/content/17/0717/17/16619343_672115832.sht

梅森上校·2022-12-26 10:16

机器学习笔记（十）-支持向量机（SVM）

机器学习笔记（十）-支持向量机（SVM）一、优化目标二、大边界的直观理解三、大边界分类背后的数学（选）四、核函数1五、核函数2六、使用SVM第一版 2022-03-15

997and·2022-12-26 09:45

Coursera机器学习+deeplearning.ai+斯坦福CS231n

日志20170410Coursera机器学习2017.11.28updatedeeplearning台大的机器学习课程：台湾大学林轩田和李宏毅机器学习课程Coursera机器学习Week5：NeuralNetworks

weixin_34005042·2022-12-26 07:34

Coursera | Andrew Ng (01-week-1-1.1)—Introduction to Deep Learning

-ZJCoursera课程|deeplearning.ai|网易云课堂转载请注明作者和出处：

ZJ_Improve·2022-12-26 07:02

Neural Network and Deep Learning-Week1

8月8日，吴恩达在他自己创办的在线教育平台Coursera上线了他的人工智能专项课程（DeepLearningSpecialization）。

Hiker1995·2022-12-26 07:31

机器学习笔记-决策树

机器学习笔记-决策树决策树分类原理信息增益公式信息增益率基尼系数总结cart剪枝-SCI特征提取API字典特征提取API文本特征提取API英文文本中文文本Tf-idf回归决策树API决策树分类原理信息增益公式例子

林大帅6688·2022-12-26 04:21

机器学习笔记(第四章决策树)

机器学习（周志华著）Datawhale打卡第三天第四章决策树算法基本流程决策树是一种常见的机器学习算法。以二分类任务为例，算法从根节点开始，经过若干内部节点判断，到达某个叶子节点判定结果。如图所示。是否否是是否是否两条腿是否是人类...是否是蟾蜍...是王子...最优划分如何划分属性的先后顺序是决策树面对的第一个问题。因此，需要引入“信息熵”的概念。假定当前样本集合D中第k类样本所占的比例为pk(

猪里程·2022-12-26 04:18

机器学习笔记-第三章线性模型

基本形式f(x)=w1x1+w2x2+...+wdxd+bf(x)=w_1x_1+w_2x_2+...+w_dx_d+bf(x)=w1x1+w2x2+...+wdxd+b一般写成：f(x)=wTx+bf(x)=w^Tx+bf(x)=wTx+b线性回归对于离散数据属性，若存在“序”关系，比如高中低，可转化为连续值{1,0.5,0}；若不存在，则转化为k维向量（k为该属性有k个属性值）。最小二乘法：试

haloory·2022-12-26 04:47

机器学习笔记-第一章绪论

机器学习分类：有无训练数据是否有标记信息监督学习无监督学习-聚类泛化能力：学得模型适用于新样本的能力。归纳：从特殊到一般的泛化过程，即是从具体的事实归结出一般性规律。演绎：从一般到特殊的特化过程，即从基础原理推演出具体状况。概念学习，最简单的是布尔概念学习假设空间、版本空间归纳偏好：机器学习算法在学习过程中对某种类型假设的偏好。==>什么样的模型更好奥卡姆剃刀：若有多个假设与观观察一致，则选最简单

haloory·2022-12-26 04:17

机器学习笔记-第四章决策树

基本流程决策过程的最终结论对应了我们所希望的判定结果，决策过程中提出的每个判定问题都是对某个属性的“测试”，每个测试的结果或是导出最终结论，或是导出进一步的判定问题，其考虑范围是在上次决策结果的限定范围之内。一般的，一棵决策树包含一个根结点、若干个内部结点和若干个叶结点；叶结点==>决策结果，其他结点==>属性测试从根结点到每个叶结点的路径对应了一个判定测试序列。输入：训练集D，属性集A过程：函数

haloory·2022-12-26 04:12

机器学习笔记之-Kmeans

今天来聊聊聚类分析中最基础的一个算法：Kmeans。Kmeans思想及算法流程：首先Kmeans是一种无监督的聚类算法。对于给定的样本集，按照样本之间的距离大小，将样本划分为K个簇，让簇内的点尽量紧密的连接在一起，而让簇间的距离尽量的大。算法流程：1、给各个簇中心以适当的初值。2、更新样本x1,x2,...,xn对应的簇标签y1,y2,...,yn。argmin是使目标函数取最小值时的变量值3、更

数据小白的进阶之路·2022-12-26 01:38

机器学习笔记之波尔兹曼机(二)梯度求解(正相、负相均采用MCMC)

机器学习笔记之波尔兹曼机——基于MCMC的梯度求解引言回顾：波尔兹曼机波尔兹曼机的结构表示模型参数的对数似然梯度基于MCMC梯度求解过程存在的问题关于单个变量的后验概率关于单个变量后验概率的推导过程单个变量后验概率与受限玻尔兹曼机引言上一节介绍了波尔兹曼机

静静的喝酒·2022-12-25 12:28

机器学习笔记之玻尔兹曼机(三)基于平均场理论变分推断的梯度求解(续)

机器学习笔记之玻尔兹曼机——基于平均场推断梯度求解[续]引言Λ3\Lambda_3Λ3梯度求解求解最优参数ϕ^j\hat{\phi}_jϕ^j引言基于玻尔兹曼机(三)梯度求解(基于平均场理论的变分推断)

静静的喝酒·2022-12-25 12:26

机器学习笔记之玻尔兹曼机(三)梯度求解(基于平均场理论的变分推断)

机器学习笔记之玻尔兹曼机——基于平均场推断梯度求解引言回顾：玻尔兹曼机模型参数梯度求解困难与MCMC方法的处理方式变分推断方法处理玻尔兹曼机对数似然梯度引言上一节介绍了使用马尔可夫链蒙特卡洛方法(MCMC

静静的喝酒·2022-12-25 12:25

机器学习笔记——集成学习EnsembleLearning+代码详解

机器学习笔记——集成学习EnsembleLearning一、集成学习初步了解1.1集成学习基本思想1.2集成学习分类二、AdaBoost2.1AdaBoost基本思想2.2AdaBoost代码详解三、GBM

AgentSmart·2022-12-24 19:52

Linux从头开始学--学习笔记合集--强烈建议收藏！关注！

记录自己的技术成长，也希望和大家分享交流，欢迎关注~本笔记为coursera网站课程《LinuxforDevelopers》的学习笔记Linux从头开始学–学习笔记1–Linux操作系统，图形界面，help

豆干花生·2022-12-24 17:31

Python基础库及机器学习笔记

1.介绍本节将主要介绍Python中的常用第三方库。这些库都是实现了各种计算功能的开源库，它们极大地丰富了Python的应用场景和计算能力，这里主要介绍NumPy、pandas和Matplotlib三个库的基础使用。其中NumPy是Python用来进行矩阵运算、高维度数组运算的数学计算库；pandas是Python用来进行数据预处理、数据操作和数据分析的库；Matplotlib是简单易用的数据可视

大作家佚名·2022-12-24 17:43

机器学习笔记--卷积神经网络之AlexNet

前言2012年，AlexNet横空出世，这个模型的名字来源于论文第一作者的姓名AlexKrizhevsky。AlexNet使⽤了8层卷积神经⽹络，并以很⼤的优势赢得了ImageNet2012图像识别挑战赛冠军。1AlexNet网络结构Alexnet模型由5个卷积层和3个池化Pooling层，其中还有3个全连接层构成。AlexNet跟LeNet结构类似，但使⽤了更多的卷积层和更⼤的参数空间来拟合⼤规

badgirl-bb·2022-12-24 14:53

K-means聚类与PCA【Coursera 斯坦福机器学习】

本文基于Coursera斯坦福吴恩达机器学习课程谢绝任何不标记出处的转载如有问题请联系作者所有非手画图像（除公式）均来自课程侵删—————————————————————————————————————

爱看动漫的李皮皮·2022-12-24 13:58

机器学习笔记：时间序列分解 STL

1前言STL(’SeasonalandTrenddecompositionusingLoess‘)是以LOSS作为平滑方式的时间序列分解LOSS可以参考机器学习笔记：局部加权回归LOESS_UQI-LIUWJ

UQI-LIUWJ·2022-12-24 11:11

斯坦福机器学习视频笔记 Week1 线性回归和梯度下降 Linear Regression and Gradient Descent

最近开始学习Coursera上的斯坦福机器学习视频，我是刚刚接触机器学习，对此比较感兴趣；准备将我的学习笔记写下来，作为我每天学习的签到吧，也希望和各位朋友交流学习。

Peter-Young·2022-12-24 09:10

机器学习笔记（第一周）——吴恩达ML课程

机器学习笔记（第一周）——吴恩达ML课程文章目录机器学习笔记（第一周）——吴恩达ML课程前言一、机器学习概念1.什么是机器学习2.什么是监督学习2.什么是无监督学习二、单变量线性回归(LinearRegressionwithOneVariable

派大星不憨·2022-12-24 09:40

斯坦福机器学习视频笔记 Week1 线性回归和梯度下降 Linear Regression and Gradient Descent...

最近开始学习Coursera上的斯坦福机器学习视频，我是刚刚接触机器学习，对此比较感兴趣；准备将我的学习笔记写下来，作为我每天学习的签到吧，也希望和各位朋友交流学习。

weixin_30569033·2022-12-24 09:38

机器学习笔记(八)——随机梯度上升(下降)算法调优

函数和梯度公式成功推导出了梯度上升和梯度下降公式，上文分类实例是依据全批量提升上升法，而本文会介绍全批量梯度上升的一种优化算法——随机梯度上升，如果还未懂得逻辑回归思想和推理公式的原理，还请观看上一篇文章：机器学习笔记

奶糖猫Esong·2022-12-24 09:17

注意力模型（Attention Model）

来源：Coursera吴恩达深度学习课程在注意力模型直观理解中我们看到注意力模型如何让一个神经网络只注意到一部分的输入句子。当它在生成句子的时候，更像人类翻译。

双木的木·2022-12-24 06:11

吴恩达-coursera-机器学习-week1

一、引言(Introduction)1.1欢迎1.2机器学习是什么？1.3监督学习1.4无监督学习二、单变量线性回归(LinearRegressionwithOneVariable)2.1模型表示2.2代价函数2.3代价函数的直观理解I2.4代价函数的直观理解II2.5梯度下降2.6梯度下降的直观理解2.7梯度下降的线性回归2.8接下来的内容三、线性代数回顾(LinearAlgebraReview

weixin_30337157·2022-12-23 23:28

【吴恩达机器学习笔记】001 什么是机器学习（What is Machine Learning）

一、什么是机器学习机器学习(MachineLearning,ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。二、机器学习的定义Arth

水亦心·2022-12-23 23:57

推荐频道

Coursera机器学习笔记