机器学习学习笔记

【李宏毅机器学习】Brief Introduction of Deep Learning 深度学习简介（p12） 学习笔记

李宏毅机器学习学习笔记汇总课程链接DeepLearning文章目录DeepLearningDeepLearningattractslotsofattentionUpsanddownofDeepLearningThreeStepsforDeepLearningStep1Defineasetoffunction
duanyuchen·2022-11-19 19:25

数据分析与机器学习学习笔记--卷积神经网络（通俗理解）

1.引言卷积神经网络（CNN）广泛应用于图像识别和目标检测，是目前计算机视觉领域的中坚力量。上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，在早期图像识别类的问题大多采用支持向量机解决，但是由于在2012年的Imagenet比赛中CNN表现出优异的性能
蜡笔小新丶不小心·2022-11-19 07:32

机器学习学习笔记—正则化的理解

这几天在学习李航的统计学习方法，来谈谈我对于机器学习中正则化的理解：什么是正则化如何理解正则化正则化的作用第一个问题，什么是正则化？正则化就是在损失函数后加上一个正则化项（惩罚项），其实就是常说的结构风险最小化策略，即经验风险（损失函数）加上正则化。一般模型越复杂，正则化值越大。正则化项是用来对模型中某些参数进行约束正则化的一般形式：其中，第一项是损失函数（经验风险），第二项是正则化项，lamda
爱琢磨先森·2022-11-14 10:50

机器学习学习笔记（二）之特征提取

一、什么是特征工程特征工程是使用专业背景知识和技巧处理数据，使得特征能在机器学习算法上发挥更好的作用的过程意义：会直接影响机器学习的效果二、特征工程的位置与数据处理的比较pandas：数据清洗、数据处理sklearn：对于特征的处理提供了强大的接口三、特征抽取/特征提取1、将任意数据（如文本或图像）转换为可用于机器学习的数字特征字典特征提取（特征离散化）文本特征提取图像特征提取（深度学习将介绍）2
worden丶·2022-11-08 17:15

机器学习学习笔记之——无监督学习之降维、特征提取与流形学习

降维、特征提取与流形学习前面讨论过，利用无监督学习进行数据变换可能有很多种目的。最常见的目的就是可视化、压缩数据，以及寻找信息量更大的数据表示以用于进一步的处理。为了实现这些目的，最简单也最常用的一种算法就是主成分分析。我们也将学习另外两种算法：非负矩阵分解（NMF）和t-SNE，前者通常用于特征提取，后者通常用于二维散点图的可视化。1、主成分分析（PCA）主成分分析（principalcompo
前丨尘忆·梦·2022-11-08 17:45

机器学习学习笔记之——处理文本数据

处理文本数据我们讨论过表示数据属性的两种类型的特征：连续特征与分类特征，前者用于描述数量，后者是固定列表中的元素。在许多应用中还可以见到第三种类型的特征：文本。举个例子，如果我们想要判断一封电子邮件是合法邮件还是垃圾邮件，那么邮件内容一定会包含对这个分类任务非常重要的信息。或者，我们可能想要了解一位政治家对移民问题的看法。这个人的演讲或推文可能会提供有用的信息。在客户服务中，我们通常想知道一条消息
前丨尘忆·梦·2022-11-08 17:45

机器学习学习笔记-西瓜书

#西瓜书笔记文章目录模型评估和选择线性模型决策树神经网络支持向量机贝叶斯分类集成学习聚类性能度量与距离计算原型聚类密度聚类层次聚类降维与度量学习特征选择与稀疏学习计算学习理论半监督学习半监督学习的方法概率图模型规则学习强化学习误差函数卷积池化后的图像大小计算集成学习评估特征的重要性L0,L1和L2范数BNbatchnormalizationEM（最大期望）算法，HMM（隐马尔可夫）算法和CRF（条
龙海L·2022-10-24 18:17

机器学习学习笔记(1) -- 简析入门

  机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科；机器学习是一种偏向于技术的方法，研究目的包括模式识别、神经网络和深度学习；机器学习理论主要是设计和分析一些让计算机可以自动“学习”的算法，机器学习算法是一类从数据中自动分析获取规律并利用找到的规律对未知数据进行预测的算法。人工智能(是科学，为机器赋予视觉、听觉、触觉、推理等智能)机器学习(人工智能的算法
№一个达不刘·2022-10-22 07:44

机器学习学习笔记（9）----测试logistic回归模型

在《机器学习学习笔记（8）----logistic回归模型》文章中，我们推导出了logistic回归模型的梯度计算的代数公式，为了便于编程计算，我们将其转换成矩阵形式，并得出logistic回归模型的梯度下降迭代公式
swordmanwk·2022-10-18 07:34

机器学习学习笔记——朴素贝叶斯

朴素贝叶斯关键词贝叶斯公式朴素贝叶斯模型关键词分类算法；生成方法->找出Y和X和联合分布P(X,Y)->P(Y|X)=P(X,Y)/P(X)得出对应判别方法（决策树、KNN、逻辑回归、SVM等）->学习出Y=f(X)orP(Y|X)先验概率+似然（数据）=后验概率，贝叶斯派假设先验概率分布的模型（正态分布、beta分布等）贝叶斯公式P(Yk∣X)=P(X∣Yk)P(Yk)∑kP(X∣Y=Yk)P(
lyy0331·2022-10-17 07:19

机器学习学习笔记——以波士顿房价问题为例

文章目录前言什么是机器学习？机器学习分类监督学习回归分类无监督学习聚类一个小例子波士顿房价预测1.导入数据2.绘制散点图3.回归分析4.减小误差最小二乘法后记前言说起入坑机器学习，还是因为在学校一个偶然的机会：那时候在我们教三楼验收数据库课设，然后去学办逛了逛，就看到了有一个百度菁英俱乐部的创立请求书，然后觉得百度这个头衔听牛批的，并且主席刚好是我的一个朋友，然后就找到了他，当天中午去参加了面试（
the best messi·2022-10-14 07:51

神经网络与深度学习（一）- Logistic Regression as a Neural Network

本篇的内容和机器学习学习笔记中的某些章节有些重复，于是简单的地方就不过多赘述，同时呢也可以对照着来看，寻找联系和区别。在这里我们不再阐述神经网络的由来等，而是直接针对神经网络这种方法进行说明。
mike112223·2022-09-14 07:24

【机器学习】决策树的使用和代码示例（二）

机器学习学习笔记Sklearn入门决策树（一）——分类树决策树（二）——回归树文章目录1重要参数，属性及接口criterion交叉验证代码实现1重要参数，属性及接口criterion回归树衡量分枝质量的指标
快乐的冲浪码农·2022-09-12 07:14

【机器学习】决策树的使用和代码示例（一）

机器学习学习笔记Sklearn入门决策树（一）——分类树决策树（二）——回归树文章目录1决策树是如何工作的2决策树建模的基本流程3Sklearn中的决策树类型4DicisionTreeClassifier
快乐的冲浪码农·2022-09-12 07:14

斯坦福CS224W图机器学习学习笔记

P2图特征之聚类系数（Clusteringcoefficient）主要还是一个三角形计数原文链接：https://blog.csdn.net/qq_16763983/article/details/118918495有关randomgraph理论https://www.zhihu.com/question/65172935/answer/1583944713
ShannonPaul·2022-08-11 07:28

机器学习学习笔记(day02)

1.机器学习分类监督学习：输入数据特征有标签（有标准答案），按照目标值离散还是连续又分为回归（目标值值连续），分类（目标值离散）无监督学习：输入数据特征无标签值（无标准答案），聚类2.数据集划分机器学习一般将数据划分为两个部分：训练集、测试集训练集：用来训练，构建模型测试集：在模型检验的时候，评估模型的有效性sklearn数据集划分API：sklearn.model.selection.train
QYiRen·2022-08-06 07:26

机器学习学习笔记（二）-模型选择与评估

绪论模型评估与选择（1）模型评估与选择（2）模型评估与选择（3）线性模型（1）线性回归决策树神经网络支持向量机贝叶斯分类集成学习聚类降维与度量学习特征选择与稀疏学习计算学习理论半监督学习概率图模型规则学习强化学习模型评估与选择2.1经验误差与过拟合错误率：分类错误的样本数占样本总数的比例精度：1-错误率把学习器的实际预测输出与样本的真实输出之间的差异称为“误差”，学习器在训练集上的误差称为“训练误
宝剑磨，梅花寒·2022-07-14 07:59

机器学习学习笔记-第二章

机器学习学习笔记（一）一、下载数据及加载数据下载数据：可以写一个函数，或者手动下载数据加载数据：可以使用ｐａｎｄａｓ加载数据，该函数返回一个包含所有数据的pandasDataFrame对象。
LH-sw·2022-06-26 07:36

机器学习学习笔记——数据集划分（留出法）

编译工具：pycharm学习工具：Anaconda——notebook在机器学习算法中，我们通常将原始数据集划分为三个部分（划分要尽可能保持数据分布的一致性）：（1）Trainingset（训练集）:训练模型（2）Validationset（验证集）：选择模型（3）Testingset（测试集）：评估模型其中Validationset的作用是用来避免过拟合的。在训练过程中，我们通常用它来确定一些超
我啊困的唉·2022-06-22 07:19

【机器学习】梯度下降之数据标准化

文章目录前言问题分析3D可视化解决方法特别注释：前言吴恩达机器学习学习笔记，看完文章大概需要三分钟问题分析在线性回归中，尤其是多变量回归模型，由于各个的数据之间量化纲位不同，如果数据范围分别是是【0~1000
计算机魔术师·2022-06-13 07:08

SVD奇异值分解通俗理解-机器学习学习笔记

概念引入矩阵A的大小为m*n如图以此类推图中的∑为S，S是对角阵(只有对角阵上是有元素的)以图上的矩阵A为例，我们可以将他分成三个矩阵相乘的形式先在X轴上做变换这是在X,Y轴上同时做了变换特征值越大，对变换的影响也就越大，比如上图中的蓝色箭头，是图中以几何形式影响最大的特征值不是所有的特征值都要处理，那样会使得情况无穷无尽(试想一下把矩阵A分成N种情况)，我们挑选影响较大的就可以了，在上图中，就表
丰。。·2022-05-25 07:49

吴恩达机器学习学习笔记 --- 逻辑回归 + 正则化

逻辑回归【分类问题||y为离散值】（1）使用线性回归解决分类问题【使用线性回归解决逻辑回归不是一个很好的办法】（2）假设函数【通过sigmoid函数，使得h(x)的值在0~1之间】（3）假设函数输出的含义【h(x)：当输入为x时，输出为y的概率】（4）逻辑回归的决策边界【选择一个值作为决策边界的判断值，例如下图选的是0.5】【h(x)对应的线就是决策边界，与参数有关，不是训练集的属性】（5）非线性
奔跑的星黛露·2022-05-23 07:43

机器学习学习笔记01_matplotlib绘图

导入需要的库importmatplotlib.pyplotaspltimportnumpyasnpfromjupyterthemesimportjtplotjtplot.style(grid=False)建立xy对应关系x=np.linspace(-2,np.pi)y1=np.sin(x)y2=np.cos(x)plot()matplotlib.pyplot.plot()参数详解https://m
Drmon.·2022-05-02 07:29

数据分析与机器学习学习笔记--线性回归与逻辑回归

1.引言线性回归与逻辑回归，作为初识机器学习的两个经典算法拥有大量的实践经验，这两个算法的名称虽然都包含回归，但其内容并非如此，其中线性回归的作用是对连续性数据进行回归分析，而逻辑回归确实一个作用于离散型数据的经典分类算法。正如我上篇文章所说的没有最好的算法只有最合适的算法，在kaggle竞赛排行榜中这两个算法总体表现是最好的，虽然没有夺得过最好的排名，但是总体精度确非常优秀，也就是比较中庸，因为
蜡笔小新丶不小心·2022-04-03 07:30

机器学习学习笔记（十六）—— 图像识别中的应用

以OCR识别举例：一个OCR识别程序通常包括四个步骤：图像检测、图像分割、文字识别、错误纠正。第一步，图像检测(滑动窗分类器/slidingwindows)：比如检测图片中的行人，我们定义一个比例一定的方块，然后每次截取一块图片进行输入，并且每次以一定的步长(stepsize/strideparameter)来截取图片。然后调整滑动窗的大小，再次扫描图片。。。第二步，图像分割：训练一个分类器，看是
lancetop-stardrms·2022-02-20 13:00

机器学习学习笔记--Hello-K-means

K-means是无监督学习聚类#-*-coding:utf-8-*-importnumpyasnpimportmatplotlib.pyplotaspltfromsklearn.clusterimportKMeansfromsklearn.datasetsimportmake_blobsdefshow_kmeans():print(__doc__)plt.figure(figsize=(12,12
松爱家的小秦·2021-05-20 09:50

机器学习学习笔记--卷积网络的概念

“卷积”这一词在多个领域里都有定义（比如信号处理领域的傅里叶变换中也有卷积）。具体在图像处理领域，卷积操作是指使用一个小的“模板窗口”对一个图片中的所有与模板大小相同的区域进行“卷积运算”。“卷积运算”其实很简单，就是将模板中的每一个数字与图片中相同大小区域的对应数字（像素值）进行相乘，再求和。“模板窗口”每移动到一个位置，就和图片中的对应元素进行一次卷积运算，注意我们一般把“模板窗口”称为卷积核
松爱家的小秦·2021-04-25 08:23

机器学习学习笔记1-初始机器学习

导语：之前有做过一些简单的跟机器学习相关的一些小玩意，比如OCR识别，车牌识别的东西，不过没有系统话的学习过机器学习，最近打算系统的看看学一学。这个是看吴恩达的机器学习的学习笔记的记录。学习地址什么是机器学习MachineLearning：视频中介绍了两位机器学习专家给出的机器学习的定义：1.ArtthurSamuel(1959年).MachineLearning：Fieldofstudythat
我想问问天·2021-04-11 23:30

吴恩达机器学习学习笔记二：Octave编程基础、数据可视化、循环语句、函数定义与调用、定义一个计算代价函数

一、Octave编程基础操作基础的Octave操作1、加法，正常的：直接输入5+6回车2、等、不等（==，！或者~都可以）3、或与非（||、&&、！或者~）（使用PS1(’>>');可以改变输入输出框的样式）（使用%书写注释）4、声明变量（末尾不加分号则会在声明后进行输出，加上分号后不会进行输出）声明之后，输入变量名回车即可查看该变量，也可以以使用disp(变量)进行查看，也可以使用disp(pr
Mxeron·2021-01-12 19:38

吴恩达机器学习学习笔记一：监督与无监督学习、代价函数、梯度下降算法、正规方程算法

一、监督学习（supervisedlearning）与无监督学习（unsupervisedlearning）最常用的两类机器学习算法（Machinelearningalgorithms）：1、supervisedlearning：我们教会计算机做某件事情2、unsupervisedlearning：我们让计算机自己学习学了之后要知道怎么使用这些工具！SupervisedLearning（监督学习）
Mxeron·2021-01-10 16:35

机器学习学习笔记[牛客专项练习]

生成式模型vs判别式模型（知乎链接）有监督学习可以将其分为两类模型：判别式模型和生成式模型。简单地说，判别式模型是针对条件分布建模，而生成式模型则针对联合分布进行建模。判别式模型生成式模型直接计算p(y|x)，最大的作为新样本的分类有多少个类别，就建立多少个模型,分别计算新样本和所有类别的联合概率，再根据bayes分别计算p(y|x),最大的作为新样本的分类学习不同类别之间的最优边界，反映的是异类
摸鱼小笼包·2020-12-31 04:58

机器学习学习笔记之——监督学习之决策树

决策树决策树是广泛用于分类和回归任务的模型。本质上，它从一层层的if/else问题中进行学习，并得到结论。这些问题类似于你在“20Questions”游戏中可能会问的问题。想象一下，你想要区分下面这四种动物：熊、鹰、企鹅和海豚。你的目标是通过提出尽可能少的if/else问题来得到正确答案。你可能首先会问：这种动物有没有羽毛，这个问题会将可能的动物减少到只有两种。如果答案是“有”，你可以问下一个问题
前丨尘忆·梦·2020-12-02 17:08

机器学习学习笔记（五）—— 利用正则化(Regularization)解决过度拟合(Overfitting)问题

过度拟合(overfitting)和欠拟合(underfitting)：第一张图片对训练数据没有很好的匹配，所以说是欠拟合的；中间的图片能大致的描述训练数据，所以说是正常的；最后一张图片虽然对所有的训练数据都拟合得很好，但是没有了通用性，所以说是过度拟合的。有两种方法可以很好的解决过度拟合问题，Therearetwomainoptionstoaddresstheissueofoverfitting
lancetop-stardrms·2020-09-16 19:23

R语言与机器学习学习笔记（分类算法）（2）决策树算法

算法二：决策树算法原文链接：http://www.52analysis.com/R/1623.html决策树定义首先，我们来谈谈什么是决策树。我们还是以鸢尾花为例子来说明这个问题。观察上图，我们判决鸢尾花的思考过程可以这么来描述：花瓣的长度小于2.4cm的是setosa(图中绿色的分类)，长度大于1cm的呢?我们通过宽度来判别，宽度小于1.8cm的是versicolor(图中红色的分类)，其余的就
zhangbdaxia·2020-09-16 04:05

R语言与机器学习学习笔记（分类算法）（4）支持向量机

算法四：支持向量机说到支持向量机，必须要提到july大神的《支持向量机通俗导论》，个人感觉再怎么写也不可能写得比他更好的了。这也正如青莲居士见到崔颢的黄鹤楼后也只能叹“此处有景道不得”。不过我还是打算写写SVM的基本想法与libSVM中R的接口。一、SVM的想法回到我们最开始讨论的ＫＮＮ算法，它占用的内存十分的大，而且需要的运算量也非常大。那么我们有没有可能找到几个最有代表性的点（即保留较少的点）
yujunbeta·2020-09-16 02:13

机器学习学习笔记（17）----C4.5算法

首先看一下信息增益比的概念：按照《机器学习学习笔记（14）-
swordmanwk·2020-09-15 08:32

机器学习学习笔记--HMM从雅虎拿股票数据分析

官网的例子：http://hmmlearn.readthedocs.io/en/latest/auto_examples/plot_hmm_stock_analysis.html#sphx-glr-auto-examples-plot-hmm-stock-analysis-py但是已经过期了这个代码无法用要安装一个库sudopipinstallfix_yahoo_financeThere'sals
松爱家的小秦·2020-08-24 12:11

机器学习学习笔记——线性模型和Logistic回归

1.基本形式给定由d个属性描述的示例，其中是在第个属性上的取值，线性模型通过对属性的线性组合来预测的函数：（一般写成向量形式）;参数w的大小可以反映对应属性的“偏好”；2.线性回归使用均方误差衡量预测与真实之间误差大小，即，求最小值使误差最小；分别对w和b求偏导，在令偏导为0，则可得到最优解，多选线性回归问题类似。3.对数几率回归对数几率回归问题主要对用于分类问题，对数几率问题在很多地方称为逻辑回
SK_Jaco·2020-08-24 09:47

机器学习学习笔记 第十六章 基于贝叶斯的新闻分类

利用贝叶斯分类器进行文本分类考虑情况1对于文本分析，首先我们应该先利用停用词语料库对部分大量出现的停用词进行屏蔽，可以百度直接搜停用词进行下载我们对于经常出现的词，有可能是一个不太重要的词，比如《中国蜜蜂养殖》，其中中国出现频率可能比蜜蜂和养殖都高，而我们应该弱化中国这个词的权重，这里我们引入词频（TermFrequency）和“逆文档频率”（InverseDocumentFrequency)词频
BenkoZhao·2020-08-24 02:08

机器学习学习笔记--隐式马尔可夫算法

隐式马尔可夫算法,简称HMM，马尔可夫认为将来发生的事情与昨天与前一段时间发生的事情有关。它用上一次发生的事情来预测未来。那么这个算法常常用于处理时序数据，比如实时的翻译，语音识别与自然语言处理。print(__doc__)importnumpyasnpimportmatplotlib.pyplotaspltfromhmmlearnimporthmmstartprob=np.array([0.6,
松爱家的小秦·2020-08-19 20:21

R语言与机器学习学习笔记（分类算法）（3）朴素贝叶斯算法

算法三：朴素贝叶斯算法前两个算法都被要求做出一个艰难的决定，给出数据所属分类的明确答案，但往往因为分类特征统计不足，或者分类特征选择有误导致了错误的分类结果，哪怕是训练集也有可能出现不能正确分类的情形。这时，前两种方法都如同现实生活一样是用“少数服从多数”的办法来做出决策。正如帕斯卡指出的：“少数服从多数未必是因为多数人更正义，而是多数人更加强力”，所以为了保证“少数人的权利”，我们要求分类器给出
yujunbeta·2020-08-18 07:02

机器学习学习笔记----LinearRegression,RidgeCV,LassoCV,ElasticNetCV

importnumpyasnpfromsklearn.linear_modelimportLinearRegression,RidgeCV,LassoCV,ElasticNetCVfromsklearn.preprocessingimportPolynomialFeaturesfromsklearn.pipelineimportPipelinefromsklearn.exceptionsimpor
zcc_TPJH·2020-08-18 05:35

机器学习学习笔记

机器学习应用自动驾驶医疗能够识别不同CT图中，细微的区别图片艺术化人脸识别（深度学习）自动写报道（深度学习）（NLP）预测总结机器学习用到的库和框架scikitlearn框架tensorflow框架（大多数公司都在用它）谷歌发行，支持python什么是机器学习机器学习是从数据中自动分析获得规律，并利用规律对未知数据进行预测例如：AlphaGo广告搜索（能够根据历史的购买数据，推荐商品给你）为什么需
Jeremy__Zhu·2020-08-17 09:59

机器学习学习笔记—正则化的理解

这几天在学习李航的统计学习方法，来谈谈我对于机器学习中正则化的理解：什么是正则化如何理解正则化正则化的作用第一个问题，什么是正则化？正则化就是在损失函数后加上一个正则化项（惩罚项），其实就是常说的结构风险最小化策略，即经验风险（损失函数）加上正则化。一般模型越复杂，正则化值越大。正则化项是用来对模型中某些参数进行约束正则化的一般形式：其中，第一项是损失函数（经验风险），第二项是正则化项，lamda
Harrytsz·2020-08-16 23:05

100天机器学习(100-Days-Of-ML)knn提升版

本系列为100天机器学习学习笔记。
ssswill·2020-08-15 08:41

100天机器学习(100-Days-Of-ML)day1

本系列为100天机器学习学习笔记。
ssswill·2020-08-15 08:41

100天机器学习(100-Days-Of-ML)day4,5,6提升版

本系列为100天机器学习学习笔记。
ssswill·2020-08-15 08:41

机器学习学习笔记：用LeNet处理MNIST数据集

0：环境本教程的环境是Python2.7、Keras+Tensorflow、sklearn、matplotlib、numpyUbuntu18.1：原理LeNet结构是LeCun在1998年提出了神经网络结构。本结构在OCR文字识别方面有较大优势，识别精度较高。网络的结构是：INPUT=>CONV=>ACT=>POOL=>CONV=>ACT=>POOL=>FC=>ACT=>FC=>SOFTMAX见下
qq_27158179·2020-08-14 18:29

机器学习学习笔记 第二十二章 主成分分析PCA算法

主成分分析(PCA)PrincipalComponentAnalysis用途：降维中最常用的一种手段目标：提取最有价值的信息（基于方差）问题：降维后数据有什么意义吗？描述PCA（principalcomponentsanalysis）即主成分分析技术，又称主分量分析。主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。在统计学中，主成分分析PCA是一种简化数据集的技术。它
BenkoZhao·2020-08-13 19:17

机器学习学习笔记（14）----决策树

决策树是一种树结构的机器学习模型。因为其决策过程就像一颗倒置的树，所以叫决策树。举个例子，我们假设去水果摊买水果，我们需要分辨水果的种类，这时可以通过如下的一个简单的决策过程：通过几个特征规则，我们可以构建一颗决策树，来确定水果的种类。从上图可以看出，树的叶节点就是最终的决策结果，根节点和非叶子节点用于根据某一特征来决策后面的分支路径。那么问题来了，我们怎么构造这样一棵决策树，哪个特征判据应该放在
swordmanwk·2020-08-11 13:02
上一页 1 2 3 4 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他