吴恩达机器学习:week2 第22页

吴恩达机器学习作业2---logistic regression

logisticregression代码分析测试1首先导入将要用到的类库importnumpyasnpimportmatplotlib.pyplotaspltimportpandasaspdfromscipyimportoptimizefromscipy.specialimportexpit#Vectorizedsigmoidfunction%matplotlibinline#可选读入数据，并进行

NP_hard·2021-02-06 17:10

吴恩达机器学习作业代码（python）

吴恩达机器学习作业Python版主要记录自己学习机器学习的过程，以及自己看别人代码时不懂或者疑惑的地方，代码主要参考Cowry5作者的代码，原作者代码和讲解更为详细，本文章如有不好的地方，还请去浏览大神的原文章

努力学习的西交王嘉尔·2021-02-04 10:32

吴恩达机器学习笔记-神经网络

本文将会介绍一种叫“神经网络”(NeuralNetwork)的机器学习算法。非线性假设我们之前已经学习过线性回归和逻辑回归算法了，为什么还要研究神经网络？我们先看一个例子。下面是一个监督学习分类问题的训练集：如果利用逻辑回归算法来解决这个问题，首先需要构造一个包含很多非线性项的逻辑回归函数。如下所示：这里g仍是sigmod函数，我们能让函数，包含很多像这样的多项式项。事实上，当多项式项数足够多时，

·2021-02-02 23:30

吴恩达机器学习笔记-Logistic回归模型

回归函数在逻辑回归模型中我们不能再像之前的线性回归一样使用相同的代价函数，否则会使得输出的结果图像呈现波浪状，也就是说不再是个凸函数。代价函数的表达式之前有表示过,这里我们把1/2放到求和里面来。$$J(\theta)=\frac{1}{m}\sum_{i=1}^{m}\frac{1}{2}(h_\theta(x^(i))-y^(i))^2$$这里的求和部分我们可以表示为：$$Cost(h_\th

·2021-02-02 23:30

吴恩达机器学习笔记-分类问题陈述

之前的文章中我们讨论过关于线性回归的问题，现在我们来学习一下，当预测的变量y为离散值时候的分类问题。分类下面给出几个分类的例子：邮件：垃圾邮件、非垃圾邮件；在线交易：欺诈、非欺诈；肿瘤：良性（不是恶性）、恶性很显然这几个例子的结果只有两个，是或者不是。那么我们可以假设结果yin{0,1}。这里的0我们可以当做非xx的类型，比如良性肿瘤，而1则可以当做是确认的分类，比如是恶性肿瘤。当然经常我们遇到的

·2021-02-02 23:59

吴恩达机器学习（应用举例与课程总结）

问题描述与OCRpipeline这一章将介绍一种机器学习的应用实例：照片OCR技术，介绍它的原因：（1）首先，展示一个复杂的机器学习系统是如何被组合起来的；（2）接着，介绍一下机器学习流水线的有关概念以及如何分配资源来对下一步计划作出决定；（3）最后，介绍一下照片OCR问题，展现机器学习中有用的想法和概念，其中之一就是应用在计算机视觉问题中，另一个是人工数据合成的概念。照片OCR的全称为照片光学字

qq_38162944·2021-02-01 16:22

吴恩达机器学习ex3 Multi-class Classfication and Neural Networks(python)

ProgrammingExercise3:Multi-classClassficationandNeuralNetworksMachineLearning目录Introduction1Multi-classClassfication1.1Dataset1.2Visualizingthedata1.3VectorizingLogisticRegression1.3.1Vectorizingthere

Real&Love·2021-02-01 14:51

吴恩达机器学习（大规模机器学习）

学习大数据集这一章中将讲述能够处理海量数据的算法。思考：为什么要使用海量数据集呢？要知道获取高性能的机器学习系统途径是采用低偏差的学习算法，并用大数据进行训练。这里拿之前提到过的易混淆词来举例，ForbreakfastIate__eggs，这里填two，而非too或者to，从下面的图中可以明确，只要使用大数据对算法进行训练，它的效果似乎会更好。从这样的结果可以得出，在机器学习中，决定因素往往不是最

qq_38162944·2021-02-01 14:38

吴恩达机器学习——第三章线性代数回顾

Youngy_·2021-01-30 21:02

吴恩达机器学习课程:Gradient Descent For Linear Regression

GradientDescentForLinearRegressionWhichofthefollowingaretruestatements?Selectallthatapply.Tomakegradientdescentconverge,wemustslowlydecreaseαovertime.错误。一般来说越接近局部最低时，曲线的导数越小，梯度下降的幅度就越小（即梯度下降会自动选择较小的幅度

游吟焰火·2021-01-30 11:43

qq_38162944·2021-01-28 12:21

吴恩达机器学习——第七章正则化（Regularization）

7.1过拟合问题到现在为止，我们已经学习了几种不同的学习算法，包括线性回归和逻辑回归，它们能够有效地解决许多问题，但是当将它们应用到某些特定的机器学习应用时，会遇到过拟合(over-fitting)的问题，可能会导致它们效果很差。接下来，我将会解释什么是过度拟合问题，并且会谈论一种称为正则化(regularization)的技术，它可以改善或者减少过度拟合问题。如果我们有非常多的特征，我们通过学习

Colleen_oh·2021-01-26 15:44

吴恩达机器学习——第三章：线性代数

3.1矩阵和向量数学上，一个的矩阵是一个由行（row）列（column）元素排列成的矩形阵列。矩阵里的元素可以是数字、符号或数学式。下面是一个矩阵，如果为行，为列，那么即。4行2列矩阵指第行，第列的元素。向量是一种特殊的矩阵，讲义中的向量一般都是列向量。3.2加法和标量乘法矩阵的加法：行列数相等的可以相加。如下图矩阵加法矩阵的乘法：每个元素都要乘矩阵乘法3.3矩阵向量乘法矩阵和向量的乘法如图：的矩

Colleen_oh·2021-01-26 15:35

【机器学习笔记】《统计学习方法》第五章决策树+ID3算法+C4.5+CART算法(未完结)

有学习需求请绕道，参考吴恩达机器学习或以上书籍，讲得比大多数博客好。概念定义5.1决策树(decisiontree)分类决策树模型时一种描述对实例进行分类的树形结构。

Baolar_Code·2021-01-26 01:48

吴恩达机器学习（异常检测）

（1）问题动机这一章中将介绍异常检测问题，这是机器学习算法的常见应用，那么什么是异常检测问题？举例：比如生产汽车引擎，需要进行质量测试，而作为测试的一部分，需要测量汽车引擎的一些特征变量：（1）引擎运转时产生的热量；（2）引擎的振动；于是就会有一个数据集：，把数据绘制成图，如图。这样，异常检测问题可以定义如下：假设，之后生产了一个新的汽车引擎，而新的汽车引擎有一个特征变量集X(test)，所谓的异

qq_38162944·2021-01-25 16:49

吴恩达机器学习（降维）

目标一：数据压缩这一章中将讨论第二种无监督学习的问题：降维。数据压缩不仅能让我们对数据进行压缩，使得数据占用较少的内存和硬盘空间，还能对学习算法进行加速。（1）二维降到一维：如果能把数据从二维减少到一维，用来减少这种冗余，通过降维，也就说想找出一条线，看起来大多数样本所在的线，所有的数据都投影到这条线上，通过这种做法，能够测量出每个样本在线上的位置。就可以建立新的特征，只需要一个数就能确定新特征。

qq_38162944·2021-01-24 13:43

吴恩达机器学习（无监督学习）

（1）无监督学习这一章中将介绍无监督学习中的聚类算法，那么什么是无监督学习呢？首先，拿监督学习来进行比较，这是一个典型的监督学习的例子，有一个带标签的训练集，目标是找到一条能够区分正样本和负样本的决策边界，如下图：这里的监督学习问题是指有一系列标签，用假设函数去拟合它。而相比于无监督学习中，数据并不带有任何标签，得到的数据如下图：因此在无监督学习中，要将这系列无标签的数据输入到算法中，然后让算法找

qq_38162944·2021-01-23 14:08

吴恩达机器学习（支持向量机）

（1）优化目标支持向量机在学习复杂的非线性方程时能够提供一种更为清晰个更加强大的方式。先回顾Logistic逻辑回归的相关概念，看如何进行改动可以得到支持向量机。Logistic回归的假设函数，以及对应sigmoid激活函数图像如下：Logistic回归中的代价函数为：针对某一项的Cost为：可以看到下图中SVM中对Logistic回归代价函数的改变：Logistic回归总体优化目标到支持向量机的

qq_38162944·2021-01-23 10:05

吴恩达机器学习（机器学习系统设计）

（1）确定执行的优先级这一节中将介绍在实际工作过程中，应该先处理哪些事情。以建立一个邮件分类器为例：给定一组电子邮件，可以为每个电子邮件构造一个向量。这个向量中的每个元素代表一个单词。向量通常包含10,000到50,000个条目，这些条目是在我们的数据集中找到最常用的单词，将它们作为特征向量。当准备好所有的x向量，我们训练我们的算法，最后，我们可以用它来分类电子邮件是否是垃圾邮件。如何在有限的时间

qq_38162944·2021-01-22 12:45

吴恩达机器学习（神经网络参数的反向传播算法）

（1）神经网络结构的代价函数它能在给定训练集时，为神经网络拟合参数（2）让代价函数最小化的算法—反向传播算法反向传播算法，也就是首先计算最后一层的误差，然后再一层一层反向求出各层的误差，直到倒数第二层。这个就是反向传播算法的通俗解释。关于上图的解释假设我们有假设我们的训练集只有一个实例(x(1),y(1))，我们的神经网络是一个四层的神经网络，其中K=4，SL=4，L=4。我们从最后一层的误差开始

qq_38162944·2021-01-20 17:10

吴恩达机器学习（神经网络学习）

（1）神经网络算法模型展示神经网络算法在学习复杂的非线性假设上是一种比较好的算法，即使输入特征空间或者n很大，也能轻松搞定。如何定义神经网络的假设函数Layer1是输入层。Layer2为隐藏层。隐藏层实际上就是一个复杂式子的中间计算过程，除了输入层外，其他的每一个节点表示的就是一个计算过程，计算的具体过程由参数值所决定。所以不论所要求解或者表达的式子多么的复杂，通过增加隐藏层的数目和层中的节点数，

qq_38162944·2021-01-19 16:59

吴恩达机器学习（正则化）

（1）什么是过度拟合问题？在线性回归中的过拟合例子：图1：是一个线性模型，欠拟合或者叫做高偏差，不能很好地适应我们的训练集；我们看看这些数据，很明显，随着房子面积增大，住房价格的变化趋于稳定或者说越往右越平缓。因此线性回归并没有很好拟合训练数据。图2：恰当合适的拟合了数据图3：完美的拟合了训练数据，称之为过拟合或者叫做高方差，过于强调拟合原始数据，而丢失了算法的本质：预测新数据。我们可以看出，若给

qq_38162944·2021-01-19 10:00

吴恩达机器学习（Logistic回归）

Logistic回归Logistic是用来分类的，是一种线性分类器，需要注意的地方有：Logistic回归算法输出值或者是预测值介于0–1之间。为了满足输出值介于0–1之间，因此提出的假设函数与线性回归的函数不同，假设函数1.logistic函数表达式为：g(z)函数的图像如下图所示决策边界的概念让我们更好地理解假设函数在计算什么。决策边界不是训练集的属性，而是假设本身及其参数的属性，只要给定参数

qq_38162944·2021-01-19 10:41

吴恩达机器学习（线性回归）

1.线性回归（1）单变量线性回归线性回归才是真正用于回归的，而不像logistic回归是用于分类，其基本思想是用梯度下降法对最小二乘法形式的误差函数进行优化。假设函数：代价函数：即每一个点的预测值和真实值的差距都要小，故可用求方差的方法，将每一个点的预测值与真实值的差求平方和后再除以数据样本的个数。值越小说明方程越能反映真实情况，把这个方程中的参数看做未知数，则变成了参数的方程，求方程最小值J时，

qq_38162944·2021-01-18 14:06

吴恩达机器学习课程学习记录（3.线性代数回顾）

学过线性代数的朋友们可以略过这节不看，这节老师主要是带着我们复习一下机器学习中涉及到的基本的线性代数知识，笔记嘛，那还是记全好一些。不过解释写的不多，更多还是一些要点的截图和整理。2020.10.9完成第二周章节三：线性代数回顾目录课时14：矩阵和向量课时15：加法和标量乘法课时16：矩阵向量乘法课时17：矩阵乘法课时18：矩阵乘法特征课时19：逆和转置1、矩阵（matrix）和向量（vector

2016年的夏天·2021-01-15 12:12

吴恩达机器学习学习笔记二：Octave编程基础、数据可视化、循环语句、函数定义与调用、定义一个计算代价函数

一、Octave编程基础操作基础的Octave操作1、加法，正常的：直接输入5+6回车2、等、不等（==，！或者~都可以）3、或与非（||、&&、！或者~）（使用PS1(’>>');可以改变输入输出框的样式）（使用%书写注释）4、声明变量（末尾不加分号则会在声明后进行输出，加上分号后不会进行输出）声明之后，输入变量名回车即可查看该变量，也可以以使用disp(变量)进行查看，也可以使用disp(pr

Mxeron·2021-01-12 19:38

吴恩达机器学习学习笔记一：监督与无监督学习、代价函数、梯度下降算法、正规方程算法

一、监督学习（supervisedlearning）与无监督学习（unsupervisedlearning）最常用的两类机器学习算法（Machinelearningalgorithms）：1、supervisedlearning：我们教会计算机做某件事情2、unsupervisedlearning：我们让计算机自己学习学了之后要知道怎么使用这些工具！SupervisedLearning（监督学习）

Mxeron·2021-01-10 16:35

2021年度目标

冰冻三尺go·2021-01-03 08:58

《吴恩达机器学习》笔记：第二章：多维特征，梯度下降和正规方程

多维特征（Multiplefeatures）将线性模型从一维拓展到多维对于上一章房屋定价的例子：其中：n：代表特征的个数m：代表观测的个数（此处与通常习惯不同）x(i)x^{(i)}x(i)：第iii个样本的输入向量xj(i)x_{j}^{(i)}xj(i)：第iii个样本的输入的特征jjj将一元线性模型进行拓展：hθ(x)=θ0+θ1x1+…+θnxnh_{\theta}(x)=\theta_{

量化就是探索生活·2021-01-03 01:30

python将列表变成str_它在Python中很常见，但容易被忽视，用好了却可少写很多行代码...

号内福利精华文章大合集：认真就能打动人：273篇干货资料汇总机器学习入门视频吴恩达机器学习完整系列视频教程今天，介绍一个Python中非常好用的内置函数，它书写简便，却能实现看起来复杂的功能。

谢夫·2021-01-02 08:07

吴恩达机器学习笔记——八、神经网络

吴恩达机器学习笔记——八、神经网络为什么要用神经网络神经网络的表示神经元神经网络符号定义向量化神经网络所使用的特征非线性模型例子能实现“与”功能的神经网络能实现“或”功能的神经网络能实现“非”功能的神经网络能实现

lizhaoxin666·2020-12-30 11:02

吴恩达机器学习笔记——七、过拟合和正则化

吴恩达机器学习笔记——七、过拟合和正则化过拟合什么是过拟合怎么解决过拟合正则化正则化的原理正则化的作用如何在模型中应用正则化在线性回归中使用正则化应用于梯度下降算法应用于正规化方程在Logistics回归中使用正则化总结过拟合什么是过拟合当学习的特征太多

lizhaoxin666·2020-12-29 17:43

吴恩达机器学习笔记——六、分类

吴恩达机器学习笔记——六、分类Logistics回归定义用Logistic函数做二分类决策边界确定参数θ的方法凸函数和凸优化具体操作一些高级优化算法多分类Logistics回归定义Sigmoidfunction

lizhaoxin666·2020-12-29 16:59

吴恩达机器学习笔记——四、多元线性回归

吴恩达机器学习笔记——四、多元线性回归符号定义多元线性回归的定义梯度下降法确定参数θ特征缩放学习率特征合并和多项式回归特征合并多项式回归正规方程步骤优点不足如果矩阵不可逆该如何求解正规方程用向量表达对h

lizhaoxin666·2020-12-29 10:36

吴恩达机器学习笔记——二、线性回归

吴恩达机器学习笔记——二、线性回归符号定义代价函数的定义代价函数的作用梯度下降算法描述：学习率的理解：符号定义m：训练集的样本个数x’s：输入变量/特征y’s：输出变量/特征(x,y)：一个训练样本(x

lizhaoxin666·2020-12-28 10:02

week2 day3基本数据类型及其内置方法（tuple,dict,set）|||所有数据类型基本操作汇总

week2day3基本数据类型及其内置方法（tuple,dict,set）|||所有数据类型基本操作汇总一.元组类型（tuple）1.1基本情况1.2str常用操作1.2.1索引和切片（*****）1.2.2计算长度(*****)1.2.3成员运算in和notin（*****）1.2.4循环(****)1.2.5需要了解的元组内置方法二.字典类型2.1基本情况2.2基本操作2.2.1造字典的三种方

魏森林·2020-12-23 16:31

《吴恩达机器学习》笔记：第一章：机器学习基础

机器学习基础机器学习定义：在没有明确设置的情况下，使得计算机具有学习能力的研究领域。E=theexperienceofplayingmanygamesofcheckersT=thetaskofplayingcheckersP=theprobabilitythattheprogramwillwinthenextgame监督学习和无监督学习监督学习（supervisedlearning)回归问题在监督

量化就是探索生活·2020-12-14 03:42

吴恩达机器学习笔记【课时七】

课时7-1过拟合问题具有高方差，泛化能力不好。过拟合的解决办法：课时7-2代价函数如下图：为了避免过拟合，假如我们再代价函数后面加上两项，要想整体最小，则后两个参数值必须极小，这相当于抹去了这两个参数，假设仍是二次函数。所以我们可以通过在代价函数后面增加正则项避免过拟合：λ是惩罚项，是对不同特征的取舍假如我们给的惩罚项太大了会出现什么问题？会出现欠拟合：课时7-3线性回归的正则化正则化在线性回归的

走过绿意·2020-12-11 15:10

吴恩达机器学习笔记【课时六】

课时6-1分类解决一些输出y时离散值的问题：比如输出0、1是否是垃圾邮件先讨论二分类问题：如果用线性回归的方式设置分类阈值为0.5：可以看出用线性回归解决分类问题并不合适。所以我们现在要介绍LogisticRegression，它的输出一直介于0和1之间。这是一种分类算法，不要因为名字疑惑。课时6-2假设陈述LogisticRegression的假设函数：也就是将输出通过sigmoid函数映射到了

走过绿意·2020-12-11 11:30

吴恩达机器学习笔记【课时二】

课时2-1模型描述训练样本标记含义：训练集通过学习算法输出假设函数，假设函数能够对于输入的x输出相应的y课时2-2代价函数如何选择假设函数的参数呢？通过最小化代价函数：课时2-3代价函数（一）简化了一下：假设函数和代价函数的关系图示：课时2-4代价函数（二）上一节只有一个参数，所以假设函数和代价函数的图示简单，比如下图：如果是两个参数，则代价函数的图为下图所示：可以用二维等高线来表示上图：对于难以

走过绿意·2020-12-05 21:34

python多元线性回归代码_Python实现梯度下降算法求多元线性回归(一)

weixin_39761195·2020-11-29 07:05

2020-11-15 Week2复盘

①这周学习的开始，你带着什么样的期望和疑问？结果如何？压力挺大的，所以设立了只要每天能保证打卡就行，结果因为突然发现课程不是自己要去的方向，因此到发刊词那一节已经写不出任何东西了。②一周学习里最有启发感的瞬间？学到09节标题公式，看到包装前后标题的对比，真的会让自己都有惊艳的感觉。③过程中有遇到什么障碍吗？是如何克服的？障碍：自己的时间追不上学习的节奏，以及自己和小组的作业堆在一起，感觉没有缓冲，

安静安静一下·2020-11-15 17:03

吴恩达机器学习作业一python实现

单变量线性回归参考了黄海广的github：https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes数据处理读入数据path='ex1data1.txt'data=pd.read_csv(path,names=['Population','Profit'])可查看数据的一些统计量图：数据的一些统计量展示数据data.plot(kind='scatt

lyp_1020k·2020-11-07 22:58

吴恩达机器学习markdown目录

第一周一、引言(Introduction)1.1欢迎1.2机器学习是什么？1.3SupervisedLearning1.4UnsupervisedLearning二、单变量线性回归(LinearRegressionwithOneVariable)2.1模型表示2.2代价函数2.3代价函数的直观理解I2.4代价函数的直观理解II2.5梯度下降2.6梯度下降的直观理解2.7梯度下降的线性回归2.8接下

kidling_G·2020-11-02 10:38

【吴恩达机器学习 - 1】利用梯度下降算法与正规方程实现线性回归及多元线性回归（课程练习第一题ex1）

目录1.热身2.线性回归2.1绘制数据图2.2完善梯度下降算法2.3可视化代价函数3.多元线性回归3.1梯度下降法（Gradientdescent）3.1.1特征缩放（Featurenormalization）3.1.2梯度下降3.1.3放假预测3.2正规方程（Normalequation）3.3迭代次数与学习率前言先来几句废话，相信大部分都是在B站看的吴恩达的机器学习视频，寻思着做做练习才有缘在

Beeemo·2020-10-27 16:16

2020-10-15 吴恩达机器学习第四课笔记（一））

检测水平与垂直:通过使用特定的滤波器Xnip2020-10-15_16-25-36.jpg灰度图像：661RGB图像：663卷积核---术语也称之为filterPadding原因：每进行一次卷积，图像都会缩小，卷积越多次，损失的信息越多解决办法：使用Padding，对边缘进行填充，一般用0来填充；比如：原来是66的矩阵，使用33的卷积核卷积之后变成44，损失了部分信息；使用Padding之后66的

滴答大·2020-10-15 20:47

机器学习入门规划

学习内容：1、周志华西瓜书2、机器学习实战3、吴恩达机器学习、深度学习视频4、机器学习基石台大5、数据结构书6、python入门笔记7、java学习手册8、牛

奇葩诗仙·2020-10-11 10:39

前端面试week2

1.html5有哪些新特性？如何处理HTML5新标签的浏览器兼容问题？如何区分HTML和HTML5？转自：https://www.cnblogs.com/wuqilang/p/11366962.htmlh5新特性：语义化标签：新增表单元素：email、month、number、range、search、tel、url、week、time、date、datatime、datetime-local新增

月_YUE·2020-10-11 09:32

吴恩达机器学习（十）—— ex4：Neural Networks Learning（MATLAB+Python）

一、神经网络1.1可视化数据1.2模型表示1.3前馈和代价函数1.4正则化代价函数二、反向传播2.1Sigmoid梯度2.2随机初始化2.3反向传播2.4梯度检验2.5正则化神经网络2.6使用fmincg学习参数三、可视化隐藏层3.1可选的练习四、Python实现本次练习对应的基础知识总结→\rightarrow→神经网络：Learning。本次练习对应的文档说明和提供的MATLAB代码→

大彤小忆·2020-09-30 21:35

吴恩达机器学习课程：编程练习 | (2) ex2-logistic regression

1.logistic-regression"""逻辑回归案例：根据学生的两门学生成绩，预测该学生是否会被大学录取"""importnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltdefget_Xy(data):data.insert(0,'ones',1)X=np.array(data.iloc[:,0:-1])y=np.array(dat

骑鱼钓鸭子·2020-09-23 23:48

推荐频道

吴恩达机器学习:week2