《吴恩达机器学习》学习笔记



章节2

课时6 模型描述

学习种类:1.监督学习  又分为回归问题(连续型)和分类问题(离散型)

2.无监督学习

课时7 代价函数

公式源地址
单变量线性回归函数 hθ(x) = θ0 + θ1x 

为了使线性回归函数对数据有较好的预测性,即y(i)到hθ(x(i)) 的距离都很小。

故构造代价函数,也称平均误差公式:


《吴恩达机器学习》学习笔记_第1张图片

上式中m为训练集样本数量,用平方代替绝对值,再将所有样本点求和再求平均

最佳θ0,θ1满足下式:


课时8 代价函数(1)

1.我们希望找到一条与数据拟合的直线,所以我们构造了下面这个假设函数,包括theta0和theta1,随着参数的选择不同,我们会得到不同的直线,和数据相符额直线如下图绿色直线,代价函数是J(theta0,theta1),我们的目标是最小化代价函数

《吴恩达机器学习》学习笔记_第2张图片

  2.为了更好的使得代价函数J可视化,我们使用一个简化的假设函数,如下图中所示,假设函数只包括一个参数theta1,代价函数和之前的类似,这里我们的目标就是尽量优化J的值。

《吴恩达机器学习》学习笔记_第3张图片

  3.假设函数和代价函数是需要我们仔细了解的关键函数

    (1)假设函数是在给定theta1的情况下,是一个关于x的函数

    (2)代价函数J是关于theta1的函数,theta1控制着直线的斜率

    (3)假设threta1等于1,我们要弄清楚的是当theta1=1的时候,J(theta1)的值,接下来计算代价函数的第一个值

《吴恩达机器学习》学习笔记_第4张图片


    这里我们知道J(1)=0

《吴恩达机器学习》学习笔记_第5张图片

    代价函数是三段直线的高度和。然后代价函数的计算如下:

《吴恩达机器学习》学习笔记_第6张图片

     (4)当theta1=0的时候,可以计算绘制下图

《吴恩达机器学习》学习笔记_第7张图片




    (5)当theta1=-0.5的时候,代价函数的值很大,约为5.25

    (6)经过一些列的计算,可以得到下面的值

《吴恩达机器学习》学习笔记_第8张图片

    (7)对于每一个theta1的值,都对应着一个假设函数,对应着不同的直线,同时也可以找到不同的J(theta1)的值

      所以我们学习算法的目的是选择不同的theta1的值,求出最小的J(theta)的值,这就是线性回归的目标函数

美妙!

课时9 代价函数(2)

别人的笔记

你可能感兴趣的:(《吴恩达机器学习》学习笔记)