吴恩达机器学习Deeplearning.ai课程学习笔记(Supervised Machine Learning Regression and Classification---week1)

一、机器学习定义：

机器学习即Machine learning，涉及很多学科，简单点来说，就是使用计算机通过“学习“大量的数据模拟实现人类的行为，也就是让计算机自己学习到一些所谓的”知识与技能“（例如什么是苹果？什么是香蕉？），而且能够通过一些算法组织其实现不断学习不断完善自身的性能与知识架构，换句话说，让计算机越来越”知识渊博“，也就是-----人工智能。

二、机器学习分类：

机器学习一般分为监督学习与无监督学习两大类，吴恩达大佬的这门课程也是按着这个逻辑来讲的。

1. 监督学习：

顾名思义，监督学习就是有监督的学习，也就是我们常说的”打标签“；例如对于我们人类来说，苹果为什么是苹果？香蕉为什么是香蕉？是因为人们对它们的定义就是这样：下面这个红红的圆圆都就叫苹果，在下面这根弯弯的长长的黄黄的就叫香蕉，所以，”苹果“和”香蕉“便成为了下面两个玩意的”标签“，可以把计算机比喻成刚出生的baby，当一个baby见到下面两个玩意的时候肯定不知道是啥，然后亲爱的妈咪会告诉她的孩子：下面这个红红的圆圆都就叫苹果，下面这根弯弯的长长的黄黄的就叫香蕉。从此baby见到这个红红的圆圆的就知道是苹果，见到这根弯弯的长长的黄黄的就知道叫香蕉。

计算机也是如此，当给予某些数据或物体一些标签，计算机便会自动的学习其身上的特征并记住这些特征背后所表达的意义，比如：特征”红红的，圆圆的“，标签”苹果“；特征”弯弯的长长的黄黄的“，标签”香蕉“。 这便是监督学习比较基础的一个原理，当然啦，在真正的监督学习中，这点特征还不足以计算机完全分辨，标签也不可能是这么少，而是一堆一堆的数据啦。

2. 监督学习的例子：回归（Regression)+分类（Classification)

回归如图：

其实，回归相信打过理科高考的亲们都知道是啥。举个例子吧，拿吴恩达大佬的课程例子：一般情况下，房子的价格会对应着它的尺寸大小，150平的肯定跟100平的不一样啦，现在假如我手上有一套250平的房子（我也希望我有哈哈），现在我想要卖出去，但不知道该如何定价，我不太信的过市面上的中介，所以自己收集了很多关于尺寸与房价的数据，例如100平米对应100万等等一堆数据。我想如何定价，自然想要的到房屋尺寸与房价之间的关系，假如尺寸为x,价格为y,那就是想得到x与y之间的映射关系，y就可以叫作这个东西的标签，x可以称为特征。我便可以通过spss或者py或者matlab工具箱对这些数据进行拟合出一个函数关系式，后面将我这套房子的尺寸250平带入即可得到一个价格。

这便是最经典的监督学习---回归的一个最基础的例子，从这里可以看出一点点好玩的东西，简单的机器学习其实本质上也只是学习一些客观世界的一些客观规律，回归作为一种特殊的机器学习就是考虑各种因素对于某一件或者多件结果的影响以及影响程度，也就是所谓的映射。当机器，也就是计算机学会了这些规律，它相对于人类来说，优势在于强大算力以及学习能力，以及无穷无尽的生命与精力，当然关于人工智能取代人类的问题我不想多说也无权无资格多bb。

分类如图：分类其实也差不多，跟前面那个区分苹果和香蕉一样（只不过这个偏向计算机视觉那块），这里的例子就是依靠数据来让机器学习辅助医生判断这姐们有没有患乳腺癌，标签很简单患了就1，没患就0嘛，学习的特征自然就是西医传统的各项检测指标咯什么什么蛋白含量？什么脂含量？，，，

3. 无监督学习：

虽然我目前接触的一些实际的项目都是监督学习，但是我还是打心眼里敬佩和仰望着无监督学习。监督学习需要具有标签（label）的训练数据，你需要先对训练数据做标记，然后才能训练模型将数据分成标记类。无监督学习不需要标签，它只有输入数据，目标是发现数据中的规律。

一个要告诉它你要学啥它才能学啥，典型的应试教育？一个是自学能力极强的孩子，不需要你告诉它，它自己去学习。

从一个辩论的角度去思考，监督学习是人类教计算机学什么，所以计算机永远不可能比人类知道的东西还多（我都没告诉你你学啥？）；而无监督学习，完全脱离了人类的认知水平，自主挖掘学习数据的规律或一些人类尚未掌握清楚的自然现象。很显然的是，目前的技术水平和发展水平，无监督这种没人教它的玩意效果肯定比监督学习差，但是这不妨碍它依旧是未来的主流操作。按极限的思维方式，假设无监督学习未来发展的越来越成熟，人工智能的认知水平必然远超于人类，到时候可能~~终结者诚不欺我哈哈哈。

吴恩达大佬目前也是说，无监督学习目前用的比较经典的就是聚类，异常检测（金融系统中的欺诈检测，，，就是察觉交易异常那些咯，比如一支股最近没啥利好还连续涨停10几天那种哈哈哈），降维（在尽可能保留多的数据信息的前提下将超大数据集压缩成小点的）

三、线性回归模型

1. 线性回归

2. 代价函数（误差函数）cost function( J(w,b) )

y=wx+b

3. 梯度下降（拟合的本质操作）

其实就是cost fuction-----J(w,b)的的求最小值的一个操作啦，多元函数的求导咯。

这就是公式，学过高等数学的孩子应该都知道，这就是一个多元函数求极值的一个偏导数咯，公式中的偏导数就是梯度下降的方向，学习率就是梯度下降的数度，不能太快也不能太慢，见下面就知道了

这就是梯度下降的本质咯