吴恩达机器学习笔记

吴恩达机器学习全课程笔记第二篇

目录前言P31-P33logistics（逻辑）回归决策边界P34-P36逻辑回归的代价函数梯度下降的实现P37-P41过拟合问题正则化代价函数正则化线性回归正则化logistics回归前言这是吴恩达机器学习笔记的第二篇
亿维数组·2024-02-20 21:03

吴恩达机器学习笔记（2）

一.逻辑回归1.什么是逻辑回归？逻辑回归是一种预测变量为离散值0或1情况下的分类问题，在逻辑回归中，假设函数。2.模型描述在假设函数中，，为实数，为Sigmoid函数，也叫Logistic函数。模型解释：，即就是对一个输入，的概率估计。损失函数的理解：所谓最大似然估计，就是我们想知道哪套参数组合对应的曲线最可能拟合我们观测到的数据，也就是该套参数拟合出观测数据的概率最大，而损失函数的要求是预测结果
python小白22·2024-02-09 18:11

吴恩达机器学习笔记十二 Sigmoid激活函数的替代方案 激活函数的选择 为什么要使用激活函数

在需求预测案例中，awareness这个输入可能不是二元(binary)的，或许是一点(alittlebit)、有些(somewhat)或完全(extremely)，此时相比将awareness规定为0、1，不如考虑概率，认为它是一个0-1之间的数。激活函数可以采用ReLU函数(rectifiedlinearunit)三个常用的激活函数使用线性激活函数也可以看作是没有激活函数。激活函数的选择输出层
爱学习的小仙女！·2024-02-02 08:52

吴恩达机器学习笔记十 神经网络 TensorFlow 人工智能

神经网络：说几层的时候是指隐藏层及输出层，不包含输入层。例如下图是一个四层神经网络。前向传播(forwardpropagation)越靠近输出层，该层的神经元数量越少TensorFlow（张量流）实现神经网络的搭建sequential（）把两层顺序连接起来；如果有新的x，用predict()人工智能
爱学习的小仙女！·2024-02-02 08:22

吴恩达机器学习笔记-Logistic回归模型

回归函数在逻辑回归模型中我们不能再像之前的线性回归一样使用相同的代价函数，否则会使得输出的结果图像呈现波浪状，也就是说不再是个凸函数。代价函数的表达式之前有表示过,这里我们把1/2放到求和里面来。这里的求和部分我们可以表示为：很显然，如果我们把在之前说过的分类问题的假设函数带进去，即，得到的结果可能就是上述所说的不断起伏的状况。如果这里使用梯度下降法，不能保证能得到全局收敛的值，这个函数就是所谓的
Carey_Wu·2024-01-18 16:26

吴恩达机器学习笔记（1）

一.初识机器学习1.监督学习在监督学习中，训练数据既有特征又有标签，通过训练，让机器可以自己找到特征和标签之间的联系，在面对只有特征没有标签的数据时，可以判断出标签。监督学习可以分为回归问题和分类问题。回归问题是利用训练出的模型，预测连续的数值输出；分类问题是预测离散值的输出。2.无监督学习无监督学习是给算法大量的数据，要求它找出数据的类型结构。无监督学习的数据没有标签，或是所有数据都是同一种标签
python小白22·2024-01-17 14:59

ML：2-2neural network layer

文章目录1.神经网络层2.更复杂的神经网络3.神经网络的前向传播【吴恩达机器学习笔记p47-49】1.神经网络层【了解神经网络如何完成预测的】input：4个数字的向量。
skylar0·2024-01-10 18:53

吴恩达机器学习笔记（1）——单变量线性回归

上一个笔记，我们大概了解了什么是机器学习以及机器学习的两个重要的分类，本篇笔记将带领大家了解机器学习的第一个模型——线性回归例题为了让大家更加直观的理解这个模型，我们引入一个例题，我们有一组波特兰市的城市住房的价格数据，我们要通过这些数据来找出一个函数，来预测任意面积下的房价，这就是一个简单的线性回归问题。这里给出的数据是一组房子面积对应的房价数据集其中m代表训练集，x是输入，y是输出。我们用（x
机智的神棍酱·2024-01-05 06:35

吴恩达机器学习笔记

吴恩达机器学习笔记第一周基本概念监督学习分为回归算法和分类算法无监督学习事先没有正确答案。
AADGSEGA·2024-01-04 08:23

吴恩达机器学习笔记

一、机器学习1.1机器学习定义1.2监督学习supervisedlearning1.2.1监督学习定义给算法一个数据集，其中包含了正确答案，算法的目的是给出更多的正确答案如预测房价（回归问题）、肿瘤良性恶性分类（分类问题）假如说你想预测房价。前阵子，一个学生从波特兰俄勒冈州的研究所收集了一些房价的数据。你把这些数据画出来，看起来是这个样子:横轴表示房子的面积，单位是平方英尺，纵轴表示房价，单位是千
六本木砍王刀哥·2023-11-20 18:30

吴恩达机器学习笔记26-样本和直观理解1（Examples and Intuitions I）

从本质上讲，神经网络能够通过学习得出其自身的一系列特征。在普通的逻辑回归中，我们被限制为使用数据中的原始特征?1,?2,...,??，我们虽然可以使用一些二项式项来组合这些特征，但是我们仍然受到这些原始特征的限制。在神经网络中，原始特征只是输入层，在我们上面三层的神经网络例子中，第三层也就是输出层做出的预测利用的是第二层的特征，而非输入层中的原始特征，我们可以认为第二层中的特征是神经网络通过学习后
weixin_34221773·2023-11-15 21:58

吴恩达机器学习笔记--第三周-4.解决过拟合问题

week3-4.SolvingtheProblemofOverfitting一、TheProblemofOverfittingunderfitting=highbias；overfitting=highvariance。避免过拟合的方法：二、CostFunction在代价函数J中对每个参数theta加入正则化项（罚函数），从而使所有的参数变小。但是不对theta0增加正则化项。若正则化项中的系数l
Loki97·2023-11-10 17:28

吴恩达机器学习笔记

WhatisMachineLearning?TwodefinitionsofMachineLearningareoffered.ArthurSamueldescribeditas:"thefieldofstudythatgivescomputerstheabilitytolearnwithoutbeingexplicitlyprogrammed."Thisisanolder,informaldef
孙虾米·2023-10-28 03:33

吴恩达机器学习笔记（五）正则化Regularization

正则化（regularization）过拟合问题（overfitting)Underfitting（欠拟合）–>highbias(高偏差)Overfitting（过拟合）–>highvariance(高方差)Overfitting:Ifwehavetoomanyfeatures,thelearnedhypothesismayfitthetrainingsetverywell,butfailtoge
哇哈哈哈哈呀哇哈哈哈·2023-10-24 20:09

吴恩达机器学习笔记---正则化

前言使用正则化技术缓解过拟合现象，使模型更具泛化性1.过拟合问题(Overfit)2.代价函数(CostFunction)3.线性回归的正则化(RegularizedLinearRegression)4.逻辑回归的正则化(RegularizedLogisticRegression)正则化(Regularization)(一)过拟合问题(Overfit)  先看两张图：  两张图分别代表回归问题和分
ML0209·2023-10-24 20:38

吴恩达机器学习笔记（三）

前言我跳过了Octave部分的学习，转而利用这部分时间去研究python如何实现这系列课程的小作业，当作是熟悉一边python的一些常用库及一些好用的工具。关于这系列的python代码参考下面这个大佬的代码：吴恩达机器学习与深度学习作业目录-Cowry-CSDN博客接下来开始第三周的学习，线性回归算法结束，进入下一个算法。视频课简记6、逻辑回归6.1分类问题分类问题在第一周一开始举得例子也曾接触过
yh_y·2023-09-11 09:26

吴恩达机器学习笔记（二）

模型描述：根据房间的大小（平方数）预测其能售卖出的价格1、监督学习（每个例子都有一个正确的输出值）1.1、回归问题，可以预测一个准确的数值输出1.2、分类问题，可以预测离散值输出（只有0和1的离散值输出）2、训练集（trainingset）：在监督学习中提供“参考”的数据集合三个要素：训练集的数量，输入变量，输出变量训练样本（trainingexample）：（x^(i),y^(i)）第i个训练样
五大人·2023-08-12 02:26

吴恩达机器学习笔记（自用）

吴恩达机器学习机器学习的定义什么是机器学习？机器学习算法1.监督学习（SupervisedLearning）2.无监督学习（UnsupervisedLearning）单变量线性回归模型描述（ModelRepresentation）代价函数梯度下降线性回归中的梯度下降凸函数（convexfunction）多变量线性回归多元梯度下降法特征缩放（FeatureScaling）学习率（Learningra
cosθ·2023-08-09 06:02

吴恩达机器学习笔记（3）

多变量线性回归：问题：根据多个属性，如房子面积，房子楼层，房子年龄等估计房子的价格多变量线性回归中的变量多变量线性回归的假设此时有多个特征,i对应不同的特征值，如房子面积，楼层，年龄等，参数为一个n+1维向量多变量线性回归中的梯度下降，对每一个参数求偏导数从而得到不同参数的梯度参数特征缩放——加速梯度下降过程收敛到最优值多变量梯度下降时，参数的取值要尽量小在多多变量梯度下降中，要让不同参数的取值范
魏清宇·2023-07-30 01:52

吴恩达机器学习笔记（5）—— 神经网络

又摸鱼摸了好久，终于开学了，不能再摸鱼了，这学期课都是嵌入式开发方面的，我给自己的电脑买了个新硬盘装了Linux，不再像以前在虚拟机里小打小闹了，折腾了好几天的新系统，现在有时间写新的笔记了。这次给大家带来的是神经网络，比较难，我可能写的也不是太明白，就看看吧。非线性假设其实神经网络是一个很古老的算法，不过在很长的一段时间内受计算机的机能所限，这个算法没有太大的进展。直到了现在，计算机的飞速发展，
机智的神棍酱·2023-07-17 06:15

吴恩达机器学习笔记（一）

概念机器学习是研究计算机模仿人类学习的过程，利用新的数据改善自身的性能，是人工智能的核心。机器学习、人工智能、深度学习之间的关系：AI、ML、DL的包含关系人工智能=机器人；机器学习是实现人工智能的一种方法；深度学习是实现机器学习的一种技术。概念包含关系上：人工智能>机器学习>深度学习。视频课简记:1、引言1.1欢迎1、机器学习很常见，如谷歌搜索（搜出的网站排序算法）、邮箱的垃圾站（无监督）。2、
yh_y·2023-06-12 00:10

正则化(吴恩达机器学习笔记)

文章目录1.过拟合问题2.代价函数3.正则化线性回归1.梯度下降法2.正规方程4.正则化逻辑回归1.过拟合问题如图所示：第一个模型是线性的，属于欠拟合，不能很好的适应数据集，而第3个则是一个高次方的模型，过于拟合原始数据，从而不能很好的预测数据，属于欠拟合。也不难看出，当x的次数越高，训练出来的模型就会对数据集拟合的越好，但是其预测效果就会变差。解决方案：①减少特征的数量，丢弃掉一些非必要的特征。
是忘生啊·2023-03-26 07:02

机器学习正则化ppt_吴恩达机器学习笔记（三） —— Regularization正则化

主要内容：一.欠拟合和过拟合(over-fitting)二.解决过拟合的两种方法三.正则化线性回归四.正则化logistic回归五.正则化的原理一.欠拟合和过拟合(over-fitting)1.所谓欠拟合，就是曲线没能很好地拟合数据集，一般是由于所选的模型不适合或者说特征不够多所引起的。2.所谓过拟合，就是曲线非常好地拟合了数据集(甚至达到完全拟合地态度)，这貌似是一件很好的事情，但是，曲线千方百
希望阳光下·2023-03-25 03:04

【吴恩达机器学习笔记详解】第六章 逻辑回归

第五章主要讲的是编程语言的介绍，因为我们现在用python的比较多，所以就没有再看那一章。但是5.6值得看一下5.6矢量现在的变成语言包含了各种各样的矩阵库，所以通常进行矩阵计算的时候我们直接用命令即可，如果使用了合适的向量化方法，代码会简单很多。下面进行一些例子的讲解。这是线性回归的假设函数，他是从0到j的一个求和，我们也可以把他看作是矩阵的相乘，θ的转置×x，可以写成计算两个向量的内积。前面的
爱冒险的梦啊·2023-03-21 07:04

吴恩达机器学习笔记：逻辑回归分类、神经网络

机器学习笔记：逻辑回归分类、神经网络逻辑回归LogisticRegression(不是很懂)正则化Regularization神经网络NeuralNetworks(也不太懂)建议评估假设算法模型选择和交叉验证集诊断偏差和方差正则化和偏差/方差学习曲线决定下一步做什么机器学习系统的设计(MachineLearningSystemDesign)类偏斜的误差度量（不太懂）机器学习的数据(不太懂)机器学习
流动的时间里找你的旋律·2023-03-21 07:26

逻辑回归(吴恩达机器学习笔记)

1.分类问题 在分类问题中，要预测的变量y是一个离散的值，尝试预测的结果是否属于某一个类，如：判断一封电子邮件是否是垃圾邮箱，区分一个肿瘤是恶性的还是良性的。 我们将因变量可能属于的两个类分别称为负向类和正向类，则因变量y∈0，1，其中0表示负向类，1表示正向类。2.假说表示 ，在逻辑回归中我们引入一个新的模型，该模型的输出变量范围始终在0和1之间。逻辑回归的假设是：hθ(x)=g(θTX)h_{
是忘生啊·2023-03-21 07:48

吴恩达机器学习笔记（3）——Logistic 回归

放假这么久，天天摸鱼，已经好久没更新了，希望后面的更新速度能达到日更吧，这次给大家介绍的是Logistic回归，虽然是名字带有回归，其实是一个分类算法。废话不多说，我们先从例题来引入我们今天的算法。引论我们这次不讨论房价的问题了，这次我们来讨论肿瘤大小判断肿瘤是否是良性的肿瘤。这是一个两项分布问题，输出的结果只可能是两个一个是是另一个是否。我们可以用0,1来表示输出的结果。那么我们如何来区分良性还
机智的神棍酱·2023-03-17 10:29

多元线性回归boston房价（吴恩达机器学习笔记）

目录1.多元线性回归1.梯度下降法2.正规方程2梯度下降法实践1.特征缩放2.学习率（learningrate）3.Boston房价预测1.多元线性回归对房价模型增加更多的特征，如房间数，楼层数等，构成了一个含有多变量的模型，模型中特征为(x1,x2...xn)(x_{1},x_{2}...x_{n})(x1,x2...xn).其中n代表特征数量，m代表训练集中的实列数量。x(i)x^{(i)}x
是忘生啊·2023-02-27 18:15

吴恩达机器学习笔记(一)——线性回归

线性回归学习笔记1.线性回归概述线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。其在金融、医疗等领域有着广泛的应用。y=ax+b一元线性回归可以看作是多元线性回归的一个特例，因此只要分析多元线性回归的特性。2.算法流程（1）选取特征值，设计假设函数。（2）代价函数。（3）进行梯度下降/正规方程。当我们需要用线性回归去解释一个现象或尝试做预测的时候，
tedist·2023-02-21 10:51

吴恩达机器学习笔记（一）

文章目录引言1.1Welcome1.2Whatismachinelearning?1.3Supervisedlearning1.4Unsupervisedlearning引言1.1Welcome参考视频：P1Welcome总结：第一个视频主要讲述了什么是机器学习以及机器学习的一些应用，比如垃圾邮件识别、网页排序、产品推荐等等。1.2Whatismachinelearning?参考视频：P2What
cometsue·2023-02-04 10:22

吴恩达机器学习笔记（自己学的过程进行记录）

吴恩达机器学习笔记（自己学着记）1.机器学习分类1.1监督学习1.1.1回归回归问题是在知道正确答案的基础上进行的，即给定的数据集是真实的一系列连续的值。
xiuyvshu·2023-01-27 02:19

吴恩达机器学习笔记：手搓线性回归(梯度下降寻优)

概念就不介绍了，记录下公式推导和代码实现，以及与最小二乘的比较。吴恩达老师课程中使用一个参数theta保存两个变量，不过我好像没把中间变量的形状对齐，所以最后实现了两个参数的版本。代码：importtimeimportnumpyasnpimportpandasimportmatplotlib.pyplotasplt#随机种子rd=np.random.RandomState(round(time.t
七月是你的谎言..·2023-01-23 15:11

吴恩达机器学习笔记week11——机器学习系统设计 Machine learning system design

吴恩达机器学习笔记week11——机器学习系统设计Machinelearningsystemdesign11-1.确定执行的优先级Prioritizingwhattoworkon:Spamclassificationexample11
Saulty·2023-01-20 17:52

吴恩达机器学习笔记：（三）梯度下降法

梯度下降法知识点：偏导数、微积分、局部最优解概念介绍梯度下降法目的是为了“下降”，下降的方法是按照“梯度”。比如你在一座山上，当前你只能迈出一步，如何走才能使你的高度下降的最多呢，根据梯度的理论，我们沿着当前梯度的反方向走，会让我们的下降幅度最大。上述例子中，山就是一个函数，在山上的你就是函数中待优化的变量，人的坐标表示变量初始值，我们要求的是函数最小值即到达山底，人该如何走即如何迭代变量。所以我
时间之里·2023-01-20 15:56

吴恩达机器学习笔记 多元梯度下降法

之前介绍的梯度下降中只有两个变量，现在考虑有0~n共n+1个变量的时候。与单变量线性回归类似，在多变量线性回归中，我们也构建一个代价函数，则这个代价函数是所有建模误差的平方和，多变量线性回归的批量梯度下降算法为注意多个变量的变化也是要同时计算更新。参数的范围会对梯度下降的算法产生影响，因此常用的梯度下降处理方法有特征缩放和选择合适大小的学习率特征缩放：要保证这些特征都具有相近的尺度，这将帮助梯度下
桃木————·2023-01-20 15:23

吴恩达机器学习笔记：（二）代价函数

代价函数本例中如下图所示：代价函数实际目的是为了通过寻找θ1，θ2两个参数实现拟合的直线最接近数据点。本例中代价函数的定义θ1，θ2寻找θ1，θ2参数最优值寻找θ1的最优解当θ1=1时当θ1=0.5时当θ1=0时如上图右侧所示，寻当θ1的最优解相当于寻找曲线偏导数等于零的点上图为两个参数同时作用时候生成的数据三维图下图为数据对应的等高线：通过实际数据测试发现当在等高线最中央时拟合的直线最接近数据集
时间之里·2023-01-18 12:04

吴恩达机器学习笔记（七）：代价函数

吴恩达机器学习笔记（七）：代价函数Regularizedlinearregression如前言所述，正则化为了让模型更好地切合数据，同时降低过拟合的可能。
BANKA1_·2023-01-18 11:53

【吴恩达机器学习笔记】第1周 - 线性回归与代价/成本函数

机器学习的模式用训练集的数据，匹配一种算法，生成一个函数（h），这个函数可以输入x，产出y所以机器学习的关键在于：1、选择正确的算法，选择算法之后，函数h的形态就确定了，但是参数未知2、确定函数h的参数值：监督学习：通过训练集的x和y，共同确定参数值无监督学习：通过训练集的x，确定参数值（还没搞懂）最简单的算法：一元线性回归(LinearRegression）相同的算法，不同的参数值：代价/成本函
Sun_Weiss·2023-01-17 09:01

吴恩达机器学习笔记41-支持向量机的优化目标（Optimization Objective of Support Vector Machines）...

转载于:https://www.cnblogs.com/sl0309/p/10486958.html
weixin_33806509·2023-01-09 11:59

机器学习——逻辑回归(分类)编程训练

机器学习——逻辑回归(分类)编程训练参考资料：1.黄海广老师：吴恩达机器学习笔记github本文是吴恩达机器学习课程中的第二个编程训练。
苏打水可乐·2023-01-05 19:30

吴恩达机器学习笔记（8）——模型评估与机器学习诊断法

一、如何改进一个机器学习算法假设你已经训练出一个机器学习算法，但是效果不太好，那么有以下几种改进方法：1、获得更多的训练数据2、选用更少的特征3、增加特征量4、增加高次项5、增大或减小正则化参数lambda的值很多人只是随机选择上述方法的一种，即浪费时间又没有效果。所以接下来会介绍模型的评估及机器学习的诊断法。二、模型评估(EvaluatingaHypothesis)1、评估假设：一个训练误差最小
阿尔基亚·2023-01-03 12:04

吴恩达机器学习笔记（6）——Logistic回归

1.Classification我们可以尝试使用线性回归来实现分类，所要做的就是在线性回归拟合数据以后给他一个threshold（阈值），例如在下面的例子中，就可以给一个0.5作为阈值（当hθ(x)的值大于等于0.5时，预测y为1；当hθ(x)小于0.5时，预测y为0）来预测肿瘤的性质（良性或恶性）。在这种情况下，我们所看到的使用线性回归来实现分类任务好像没有问题，但是，当我们多了一个训练样本时，
不跑步就等肥·2023-01-01 13:47

吴恩达机器学习笔记week6——逻辑回归 Logistics Regression）

吴恩达机器学习笔记week6——逻辑回归LogisticsRegression）6-1.分类Classification6-2.假设陈述HypothesisRepresentation6-3.决策界限decisionboundary6
Saulty·2023-01-01 13:44

nlp——机器学习（2）

下面是今天学习笔记：吴恩达机器学习笔记：梯度下降算法：应用于线性回归，还有其他机器学习的应用上思路：开始于0，1，不停改变0，1去减少代价函数J，直到我们找到J的最小值或者局部最小值反复做一步直到收敛:
soobinnim·2022-12-30 22:57

【吴恩达机器学习笔记】第五章 神经网络学习

【吴恩达机器学习笔记】第五章神经网络学习1、神经网络模型我们将一个神经元模拟成一个逻辑单元，下图表示对hθ(x)h_{\theta}(x)hθ(x)进行计算的神经元，黄色圆圈代表一个神经元，蓝色圆圈代表树突或轴突传输的信号
毕君郁·2022-12-28 12:13

吴恩达机器学习手写笔记（持续更新ing）

吴恩达机器学习笔记文章目录吴恩达机器学习笔记1.Introduction2.Linearregressionwithonevariable3.LinearAlgebrareview4.多变量线性回归（Linearregressionwithmultiplevariables
Mrwei_418·2022-12-26 13:02

【吴恩达机器学习笔记】001 什么是机器学习（What is Machine Learning）

一、什么是机器学习机器学习(MachineLearning,ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。二、机器学习的定义Arth
水亦心·2022-12-23 23:57

吴恩达机器学习笔记week1——初识机器学习

吴恩达机器学习笔记week1——初识机器学习1-1.欢迎参加《机器学习》课程1-2.什么是机器学习？
Saulty·2022-12-19 10:55

吴恩达机器学习笔记（1）

1.监督学习的过程将监督学习的数据集分为自变量（x）和因变量（y）。有监督学习算法的任务是，生成一个函数，将预测时需要用到的x输入进去，能输出相应的结果。2.代价函数以回归算法为例，设假设函数为hθ(x)=θ0+θ1∗xh_\theta(x)=\theta_0+\theta_1*xhθ(x)=θ0+θ1∗x,代价函数（costfunction）为J(θ0,θ1)=12m∑i=1m(hθ(x(i))
_晴·2022-12-10 19:58

吴恩达机器学习笔记-01

2022/6/2~2022/6/15文章目录一、单变量线性回归1.1模型表示1.2代价函数1.3梯度下降1.4梯度下降的线性回归二、多变量线性回归2.1多维特征2.2多变量梯度下降2.3梯度下降法实践1-特征缩放2.4梯度下降法实践2-学习率2.5特征和多项式回归2.6正规方程三、逻辑回归(LogisticRegression)3.1分类问题3.2假说表示3.3判定边界3.4代价函数3.5简化的代
Iron Bo·2022-12-10 14:09
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他