吴恩达机器学习私人笔记第18页

吴恩达机器学习-9-降维PCA

公众号：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-9-降维PCA在本文中主要介绍的是数据降维相关的内容，重点讲解了PCA算法为何实施降维数据压缩数据可视化PCA算法PCA和线性回归算法的区别

尤尔小屋的猫·2021-05-22 09:34

吴恩达机器学习-8-聚类知识

公众号：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-8-聚类本周的主要知识点是无监督学习中的两个重点：聚类和降维。

尤尔小屋的猫·2021-05-22 09:27

吴恩达机器学习-7-支持向量机SVM

公众号：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-7-支持向量机SVM本周主要是讲解了支持向量机SVM的相关知识点硬间隔支持向量软间隔对偶问题优化目标OptimizationObjectives

尤尔小屋的猫·2021-05-20 09:11

吴恩达机器学习-6-机器学习的建议

出品：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-6-机器学习的建议本文中记录的是吴恩达老师对机器学习的建议，包含：应用机器学习的建议评估假设模型选择和交叉验证方差和偏差诊断正则化与过拟合问题应用机器学习的建议当我们运用训练好了的模型来预测未知数据的时候发现有较大的误差

尤尔小屋的猫·2021-05-20 09:30

吴恩达机器学习-5-神经网络学习Neural Networks Learning

公众号：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-5-神经网络学习NeuralNetworksLearning本文是在上节神经网络的基础上，做了进一步的阐述，内容包含：神经网络代价函数反向传播法及解释梯度检验神经网络的小结神经网络代价函数参数解释对几个参数的标记方法进行说明解释

尤尔小屋的猫·2021-05-20 09:19

吴恩达机器学习-4-神经网络基础

公众号：尤而小屋作者：Peter编辑：Peter吴恩达机器学习-4-神经网络基础在本周中主要讲解的是神经网络-NeuralNetworks的基础知识：非线性假设神经元和大脑模型表示特征和直观理解多类分类问题非线性假设

尤尔小屋的猫·2021-05-19 17:38

吴恩达机器学习笔记（六）——过拟合问题

1.过拟合现象对于过拟合现象，这里采用线性回归中预测房价的例子来进行阐述。具体如下图所示：然后我们分别来评价者三个图对于数据的拟合效果。对于第一幅图而言，实际上就是强行用直线来进行拟合，但是这些数据明显不是一个线性的关系。通常我们将第一幅图的效果称为“欠拟合”。对于第二幅图而言，可以看到拟合效果是比较好的，并且也符合房价逐渐增大后会趋于平稳。对于第三幅图而言，虽然对于训练集的数据拟合效果非常好，但

XHHP·2021-05-18 17:30

吴恩达机器学习笔记（五）——逻辑回归

1.分类前面学习的线性回归是针对连续型的，本节学习的逻辑回归则是用来处理分类问题的，也就是得到的结果是离散值｛1，2，3，…｝。之所以叫逻辑回归，是因为历史原因，但是实际上是用来处理分类问题。如果对于分类问题采用线性回归的话，那么拟合曲线就会十分容易受到离群值的影响，造成预测的分类偏差较大。如下图所示：2.假设陈述在进行二分类问题的时候，我们会希望我们的假设函数因此，我们需要提出一个假设，让因变量

XHHP·2021-05-17 17:13

吴恩达机器学习课后作业——线性回归（Python实现）

1.写在前面吴恩达机器学习的课后作业及数据可以在coursera平台上进行下载，只要注册一下就可以添加课程了。所以这里就不写题目和数据了，有需要的小伙伴自行去下载就可以了。

XHHP·2021-05-15 18:28

吴恩达机器学习作业（一）_python实现

必做部分：（主要参考了黄海广老师的文档）importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspddf=pd.read_csv('ex1data1.txt',names=['population','profit'])data=df#defnormalize_feature(df):#returndf.apply(lambdacolumn

挂科难·2021-05-07 19:20

吴恩达机器学习精华总结1-监督学习与非监督学习

吴恩达机器学习-1-监督学习与非监督学习在第一周中讲解的内容包含：监督学习和无监督学习单变量线性回归问题代价函数梯度下降算法监督学习SupervisedLearning利用监督学习预测波士顿房价（回归问题

尤尔小屋的猫·2021-04-29 09:06

吴恩达机器学习课程笔记+代码实现(2)单变量线性回归和梯度下降(Linear Regression with One Variable and Gradient Descent)

2.单变量线性回归和梯度下降(LinearRegressionwithOneVariableandGradientDesce2.1模型表示线性回归算法，根据不同房屋尺寸预测住房价格，如果房子是1250平方尺大小，这房子能卖多少钱？首先可以构建一个模型，可能是条直线，从这个数据模型上来看，大约220000(美元)左右的价格可以卖掉这个房子。对于每个数据来说，我们给出了“正确的答案”，这是一个回归问题

Jorunk·2021-04-29 07:54

吴恩达机器学习笔记

α解释：有一个比较奇怪的问题是：假设你将θ1初始化在局部最低点，它已经在一个局部的最优处或者局部最低点，局部最优点的导数为零，因为导数是切线的斜率，梯度下降法更新θ1的值将什么都不会做。这也就解释了即使学习速率α保持不变，梯度下降法也可以收敛到局部最低点的原因。移动的幅度会越来越小，直到最终幅度非常小，此时已经收敛到局部极小值，所以没必要减小α的值可以用梯度下降法来尝试最小化任何代价函数J，而不只

带刺的小花_ea97·2021-04-28 22:16

吴恩达机器学习笔记-应用机器学习的建议

评估假设我们之前已经学习过一些机器学习的算法，现在我们来谈谈如何评估算法学习得到的假设。当发现预测的结果和实际的数据有误差的时候，我们需要进行一些调整来保证预测的准确性，大部分情况下，有以下几种办法来调整假设函数：获取更多的训练集减少特征的数量尝试使用更多的特征尝试使用多项式特征增大或减小lambda假设函数相对于训练集可能得到的误差很小，比如在过拟合的情况下，这时候就不能肯定假设函数是准确的。因

Carey_Wu·2021-04-28 12:13

吴恩达机器学习练习:SVM支持向量机

1SupportVectorMachines1.1ExampleDataset1%matplotlibinlineimportnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltimportseabornassbfromscipy.ioimportloadmatfromsklearnimportsvm大多数SVM的库会自动帮你添加额外的特征X₀

·2021-04-28 12:55

吴恩达机器学习章节4：多变量线性回归

（注意：在使用下标时，我会在下标前面加上‘_’符号来表示后面为下标项。）4.1多维特征第二章节我们所讲的算法的特征值只有一个，但是在实际应用中我们的特征值有多个。我们先看下图：房价模型上图是房价模型的特征和其值的表。如何表示上图模型中的特征和特征值：n代表特征的数量x^(i)代表第i个训练实例，是特征矩阵中的第i行，是一个向量。例如x^(2)为：x^(2)x_j^(i)代表特征矩阵中第i行的第j个

井上皓·2021-04-19 18:08

吴恩达机器学习——第二章：单变量线性回归

下面就让我们跟着吴恩达老师来学习单变量线性回归这个基础算法啦！！有问题的尽管提出来就好啦！！！在很多朋友们学习统计学或者机器学习时，一般第一个算法都是线性回归算法，在下面的学习中，你将会了解到监督学习过程完整的流程。关于监督学习的简述可以看我之前的文章哦！！一、模型表示先从一个例子入手。这个例子是预测住房价格的，我们要使用一个数据集，数据集包含俄勒冈州波特兰市的住房价格。在这里，我要根据不同房屋尺

Colleen_oh·2021-04-19 11:39

【吴恩达机器学习】第一周—单变量线性回归

31.jpg1.课程回顾例1：房价和面积—预测给定一组房价和房屋面积的数据集，通过机器学习算法(监督学习)来拟合画出一条线，根据这条线来对未知的数据进行判断。1.png假设机器通过这些房价数据学习得到一条房价—面积关系线，如上图中红线，那么如果你朋友的750英尺的房子，就可以通过这条红线来估算出房价，可以看出，大约是在150K美金左右。这是一个典型的回归问题(Regression)，因为结果(房价

Sunflow007·2021-04-18 18:16

私人笔记

已经是很长一段时间没在微信里书写自己的笔记，打开荧幕无意之间点击了情感生活的专栏，那一篇篇的生活纪实无论是真是假，均从不同的角度折射出了当今社会夫妻之间存在的各种各样的矛盾，我不知道是法律的松懈卸下了套在婚姻项上枷锁，还是人类双脚无法跟上潮流的步伐导致了在利益诱惑面前忘记了最初的本性丧失理智。读着一篇篇伤感的文章，听着一段段刻骨铭心的悲伤。网络本是集知识娱乐沟通于一体，却也在无形之中传递出一些错误

封心_beab·2021-04-18 06:17

吴恩达机器学习系列内容汇总

学习机器学习过程中的一些经验与方法吴恩达机器学习（一）——简介吴恩达机器学习（二）——线性回归吴恩达机器学习（三）——ex1：LinearRegression（MATLAB+Python）吴恩达机器学习

大彤小忆·2021-04-17 18:05

吴恩达机器学习（二十三）—— 应用实例：图片文字识别

1.问题描述和流水线2.滑动窗口3.获取大量数据：人工数据合成4.上限分析：流水线的哪个模块最有改进价值学习图片文字识别的应用实例要做的事情：展示一个复杂的机器学习系统是如何组合起来的；介绍机器学习流水线（machinelearningpipeline）的有关概念以及如何分配资源来对下一步的计划作决定；通过介绍photoOCR（photoOpticalCharaterRecognition照片

大彤小忆·2021-04-17 18:53

吴恩达机器学习（二十二）—— 大规模机器学习

1.大型数据集的学习2.随机梯度下降3.小批量梯度下降4.随机梯度下降收敛5.在线学习6.映射化简和数据并行1.大型数据集的学习 "It’snotwhohasthebestalgorithmthatwins.It’swhohasthemostdata."所以说，要想得到一个高效的机器学习系统的最好方式之一，就是用一个低偏差的学习算法，然后用很多数据来训练它。但是用很大的数据集也有自己的问题，

大彤小忆·2021-04-17 12:58

吴恩达机器学习（二十一）—— ex8：Anomaly Detection and Recommender Systems (MATLAB + Python)

一、异常检测1.1高斯分布1.2估计高斯参数1.3选择阈值εεε1.4高维数据集二、推荐系统2.1电影评分数据集2.2协同滤波学习算法2.2.1协同滤波代价函数2.2.2协同滤波梯度2.2.3正则化代价函数2.2.4正则化梯度2.3学习电影推荐2.3.1推荐三、MATLAB实现3.1ex8.m3.2ex8_cofi.m四、Python实现4.1ex8.py4.2ex8_cofi.py 本次练习对

大彤小忆·2021-04-16 16:25

吴恩达机器学习——第四章：多变量线性回归

4.1多维特征目前为止，我们探讨了单变量/特征的回归模型，现在我们对房价模型增加更多的特征，例如房间数楼层等，构成一个含有多个变量的模型，模型中的特征为。如下图在此，引入新的注释。代表特征的数量代表第个训练实例，是特征矩阵中的第行，是一个向量。比方说代表是特征矩阵中的第行代表特征矩阵中第行的第个特征，也就是第个训练实例的第个特征。如上图。支持多变量的假设表示为：此时模型中的参数是一个维的向量，任何

Colleen_oh·2021-04-15 10:17

吴恩达机器学习课程学习记录（2.单变量线性回归）

2020.10.6完成第二章：单变量线性回归（注：文章中的截图均来自于吴恩达老师的课程PPT）吴恩达老师的课程可在网易云课堂或B站进行观看。下面的笔记是按照网易云课堂中的课时来记录的。1、模型描述：讲了线性回归预测模型（一次函数）预测函数（hypothesisfunction）2、代价函数：介绍了代价函数（costfunction）的定义3、代价函数（1）：进一步取不同值计算代价函数的大小4、代价

2016年的夏天·2021-04-13 13:30

吴恩达机器学习——应用机器学习的建议

本章核心思想：在设计机器学习的系统时，怎样选择一条最合适、最正确的道路，来高效地应用我们之前学过的算法，进而在改进学习算法的表现时，来判断哪些途径可能是有帮助的，而哪些方法可能是无意义的。本章内容简介：·10.1决定下一步做什么·10.2评估假设·10.3模型选择和训练、验证、测试集·10.4诊断偏差与方差·10.5正则化和偏差、方差·10.6学习曲线·10.7决定接下来做什么10.1决定下一步做

SCY_e62e·2021-04-07 21:15

吴恩达机器学习（十五）—— ex6：Support Vector Machines（MATLAB+Python）

吴恩达机器学习系列内容的学习目录→\rightarrow→吴恩达机器学习系列内容汇总。

大彤小忆·2021-03-24 11:24

机器学习之路 The Road To Machine Learning

TheRoadtoMachineLearningTheRoadToMachineLearning吴恩达机器学习课程练习Exercise机器学习实战项目Project学习心得Note初学者的福音MachineLearning

Real&Love·2021-03-11 14:22

【吴恩达机器学习笔记】10大规模机器学习、应用实例：图片文字识别

17大规模机器学习(LargeScaleMachineLearning)17.1大型数据集的学习（LearningWithLargeDatasets）如果有一个低方差的模型，增加数据集的规模可以获得更好的结果。应该怎样应对一个有100万条记录的训练集？以线性回归模型为例，每一次梯度下降迭代，都需要计算训练集的误差的平方和，如果学习算法需要有20次迭代，这便已经是非常大的计算代价。首先应该做的事是去

贪钱算法还我头发·2021-02-13 10:23

【吴恩达机器学习笔记】8聚类、降维

13聚类(Clustering)13.1无监督学习简介（UnsupervisedLearningIntroduction）在一个典型的监督学习中，有一个有标签的训练集，目标是找到能够区分正样本和负样本的决策边界，在这里的监督学习中，有一系列标签，需要据此拟合一个假设函数。与此不同的是，在非监督学习中，数据没有附带任何标签。训练集可以写成只有x(1)x^{(1)}x(1),x(2)x^{(2)}x(

贪钱算法还我头发·2021-02-10 21:48

吴恩达机器学习作业4---Neural Networks Learning

NeuralNetworksLearning文章目录NeuralNetworksLearning代码分析数据集ex4data1.matex4weights.mat代码分析首先，下图为本次需要构建的神经网络模型输入为一张20x20的图片，用以识别手写数字该神经网络分为三层，输入层有400+1（biasunit）个单元，隐藏层有25+1个单元，输出层有10个单元训练一个神经网络模型主要分为几个步骤随机

NP_hard·2021-02-09 21:21

吴恩达机器学习——第八章神经网络

这一章主要讲了为什么要研究神经网络、以及神经网络的模型人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型，简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）和之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数（activationfunction）。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重。网络的输出则依网络的

Youngy_·2021-02-07 21:01

吴恩达机器学习作业3---Multi-class Classification and Neural Networks

多元分类和神经网络文章目录多元分类和神经网络代码分析1.Multi-classClassification神经网络数据集ex3data1.matex3weights.mat代码分析首先导入需要的类库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspdimportscipy.io#UsedtoloadtheOCTAVE*.matfil

NP_hard·2021-02-07 18:22

吴恩达机器学习作业2---logistic regression

logisticregression代码分析测试1首先导入将要用到的类库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspdfromscipyimportoptimizefromscipy.specialimportexpit#Vectorizedsigmoidfunction%matplotlibinline#可选读入数据，并进行

NP_hard·2021-02-06 17:10

吴恩达机器学习作业代码（python）

吴恩达机器学习作业Python版主要记录自己学习机器学习的过程，以及自己看别人代码时不懂或者疑惑的地方，代码主要参考Cowry5作者的代码，原作者代码和讲解更为详细，本文章如有不好的地方，还请去浏览大神的原文章

努力学习的西交王嘉尔·2021-02-04 10:32

吴恩达机器学习笔记-神经网络

本文将会介绍一种叫“神经网络”(NeuralNetwork)的机器学习算法。非线性假设我们之前已经学习过线性回归和逻辑回归算法了，为什么还要研究神经网络？我们先看一个例子。下面是一个监督学习分类问题的训练集：如果利用逻辑回归算法来解决这个问题，首先需要构造一个包含很多非线性项的逻辑回归函数。如下所示：这里g仍是sigmod函数，我们能让函数，包含很多像这样的多项式项。事实上，当多项式项数足够多时，

·2021-02-02 23:30

吴恩达机器学习笔记-Logistic回归模型

回归函数在逻辑回归模型中我们不能再像之前的线性回归一样使用相同的代价函数，否则会使得输出的结果图像呈现波浪状，也就是说不再是个凸函数。代价函数的表达式之前有表示过,这里我们把1/2放到求和里面来。$$J(\theta)=\frac{1}{m}\sum_{i=1}^{m}\frac{1}{2}(h_\theta(x^(i))-y^(i))^2$$这里的求和部分我们可以表示为：$$Cost(h_\th

·2021-02-02 23:30

吴恩达机器学习笔记-分类问题陈述

之前的文章中我们讨论过关于线性回归的问题，现在我们来学习一下，当预测的变量y为离散值时候的分类问题。分类下面给出几个分类的例子：邮件：垃圾邮件、非垃圾邮件；在线交易：欺诈、非欺诈；肿瘤：良性（不是恶性）、恶性很显然这几个例子的结果只有两个，是或者不是。那么我们可以假设结果yin{0,1}。这里的0我们可以当做非xx的类型，比如良性肿瘤，而1则可以当做是确认的分类，比如是恶性肿瘤。当然经常我们遇到的

·2021-02-02 23:59

吴恩达机器学习（应用举例与课程总结）

问题描述与OCRpipeline这一章将介绍一种机器学习的应用实例：照片OCR技术，介绍它的原因：（1）首先，展示一个复杂的机器学习系统是如何被组合起来的；（2）接着，介绍一下机器学习流水线的有关概念以及如何分配资源来对下一步计划作出决定；（3）最后，介绍一下照片OCR问题，展现机器学习中有用的想法和概念，其中之一就是应用在计算机视觉问题中，另一个是人工数据合成的概念。照片OCR的全称为照片光学字

qq_38162944·2021-02-01 16:22

吴恩达机器学习ex3 Multi-class Classfication and Neural Networks(python)

ProgrammingExercise3:Multi-classClassficationandNeuralNetworksMachineLearning目录Introduction1Multi-classClassfication1.1Dataset1.2Visualizingthedata1.3VectorizingLogisticRegression1.3.1Vectorizingthere

Real&Love·2021-02-01 14:51

吴恩达机器学习（大规模机器学习）

学习大数据集这一章中将讲述能够处理海量数据的算法。思考：为什么要使用海量数据集呢？要知道获取高性能的机器学习系统途径是采用低偏差的学习算法，并用大数据进行训练。这里拿之前提到过的易混淆词来举例，ForbreakfastIate__eggs，这里填two，而非too或者to，从下面的图中可以明确，只要使用大数据对算法进行训练，它的效果似乎会更好。从这样的结果可以得出，在机器学习中，决定因素往往不是最

qq_38162944·2021-02-01 14:38

吴恩达机器学习——第三章线性代数回顾

Youngy_·2021-01-30 21:02

吴恩达机器学习课程:Gradient Descent For Linear Regression

GradientDescentForLinearRegressionWhichofthefollowingaretruestatements?Selectallthatapply.Tomakegradientdescentconverge,wemustslowlydecreaseαovertime.错误。一般来说越接近局部最低时，曲线的导数越小，梯度下降的幅度就越小（即梯度下降会自动选择较小的幅度

游吟焰火·2021-01-30 11:43

qq_38162944·2021-01-28 12:21

吴恩达机器学习——第七章正则化（Regularization）

7.1过拟合问题到现在为止，我们已经学习了几种不同的学习算法，包括线性回归和逻辑回归，它们能够有效地解决许多问题，但是当将它们应用到某些特定的机器学习应用时，会遇到过拟合(over-fitting)的问题，可能会导致它们效果很差。接下来，我将会解释什么是过度拟合问题，并且会谈论一种称为正则化(regularization)的技术，它可以改善或者减少过度拟合问题。如果我们有非常多的特征，我们通过学习

Colleen_oh·2021-01-26 15:44

吴恩达机器学习——第三章：线性代数

3.1矩阵和向量数学上，一个的矩阵是一个由行（row）列（column）元素排列成的矩形阵列。矩阵里的元素可以是数字、符号或数学式。下面是一个矩阵，如果为行，为列，那么即。4行2列矩阵指第行，第列的元素。向量是一种特殊的矩阵，讲义中的向量一般都是列向量。3.2加法和标量乘法矩阵的加法：行列数相等的可以相加。如下图矩阵加法矩阵的乘法：每个元素都要乘矩阵乘法3.3矩阵向量乘法矩阵和向量的乘法如图：的矩

Colleen_oh·2021-01-26 15:35

【机器学习笔记】《统计学习方法》第五章决策树+ID3算法+C4.5+CART算法(未完结)

有学习需求请绕道，参考吴恩达机器学习或以上书籍，讲得比大多数博客好。概念定义5.1决策树(decisiontree)分类决策树模型时一种描述对实例进行分类的树形结构。

Baolar_Code·2021-01-26 01:48

吴恩达机器学习（异常检测）

（1）问题动机这一章中将介绍异常检测问题，这是机器学习算法的常见应用，那么什么是异常检测问题？举例：比如生产汽车引擎，需要进行质量测试，而作为测试的一部分，需要测量汽车引擎的一些特征变量：（1）引擎运转时产生的热量；（2）引擎的振动；于是就会有一个数据集：，把数据绘制成图，如图。这样，异常检测问题可以定义如下：假设，之后生产了一个新的汽车引擎，而新的汽车引擎有一个特征变量集X(test)，所谓的异

qq_38162944·2021-01-25 16:49

吴恩达机器学习（降维）

目标一：数据压缩这一章中将讨论第二种无监督学习的问题：降维。数据压缩不仅能让我们对数据进行压缩，使得数据占用较少的内存和硬盘空间，还能对学习算法进行加速。（1）二维降到一维：如果能把数据从二维减少到一维，用来减少这种冗余，通过降维，也就说想找出一条线，看起来大多数样本所在的线，所有的数据都投影到这条线上，通过这种做法，能够测量出每个样本在线上的位置。就可以建立新的特征，只需要一个数就能确定新特征。

qq_38162944·2021-01-24 13:43

吴恩达机器学习（无监督学习）

（1）无监督学习这一章中将介绍无监督学习中的聚类算法，那么什么是无监督学习呢？首先，拿监督学习来进行比较，这是一个典型的监督学习的例子，有一个带标签的训练集，目标是找到一条能够区分正样本和负样本的决策边界，如下图：这里的监督学习问题是指有一系列标签，用假设函数去拟合它。而相比于无监督学习中，数据并不带有任何标签，得到的数据如下图：因此在无监督学习中，要将这系列无标签的数据输入到算法中，然后让算法找

qq_38162944·2021-01-23 14:08

推荐频道

吴恩达机器学习私人笔记