吴恩达机器学习—大规模机器学习

学习大数据集

数据量多，模型效果肯定会比较好，但是大数据也有它自己的问题，计算复杂

如果存在100000000个特征，计算量是相当大的，在进行梯度下降的时候，还要反复求损失函数的偏导数，这样一来计算量更大。

那么有没有简单的方法来应对大量的数据呢？我们可以采取随机抽样，比如，抽取1000个样本进行模型的构建。那么如何决定抽取多少样本呢？可以通过学习曲线获得，随着数据量的增加，无论是偏差和误差，都会趋向于稳定，若在数据量达到1000时趋向稳定，则表示模型取1000个样本和取全部样本的效果差不多。

随机梯度下降

线性回归与梯度下降

梯度下降方法每迭代计算一次参数，就要把数据重新读取一遍，计算量相当复杂，这种利用所有样本进行梯度下降的方法称为批量梯度下降（Batch gradient decent）。

随机梯度下降

随机梯度下降

随机梯度下降首先求出一个样本的损失函数cost，然后计算假设函数在M个训练样本中，每一个样本上的代价函数的平均值。随机梯度下降在进行参数的时候，计算完一个训练样本就可以进行一次更新，而不用遍历所有的样本并求和之后在进行参数更新。

具体的过程如上图蓝笔手写过程：第一步先进行样本打乱，即将样本顺序重新排列；第二步进行循环计算，先进行某一个样本上的梯度下降，找到最好的拟合这个样本数据的参数，然后在进行第二个样本上的梯度下降，这样循环下来就实现了对每一个样本分别进行一次梯度下降，最后实现全局最优。

随机梯度下降的实现过程

Mini-Batch梯度下降

mini-batch梯度下降

批量梯度下降（batch gradient decent）在每一次迭代中使用所有的样本，随机梯度下降（stochastic gradient decent）在每一次迭代中只使用一个样本，而mini-batch 在每次迭代的时候使用b个样本。b的选择可以再2-100之前，取决于训练集样本的数量。具体过程如下：

小批量梯度下降算法

假设b=10,且有1000个样本，那么在进行梯度下降的时候，每次选10个样本计算梯度。在实际中，使用小批量梯度下降，可以利用好的数值代数库进行向量化计算，这样在计算过程中可以进行并行计算，其效果会优于随机梯度下降，即好的参数b+向量化方法>随机梯度下降。小批量梯度下降的缺点是需要找到合适的参数b。

随机梯度下降收敛

在随机梯度下降过程中，如何进行debug，如果确定已经下降到合适的位置。更重要的是，如何调整梯度下降中学习率的选择？

学习率的选择

在随机梯度下降中，可以在没进行1000次迭代以后，求出在当前参数下前1000个样本的平均损失函数的大小，然后画出与迭代次数的图像。如下图所示：

随机梯度下降收敛的检验

若结果如图一蓝线所示，表示结果是趋向于收敛的，红线表示当降低学习率时的结果，由于是进行了一千次迭代以后的平均，所以噪音会很大，图像会有波动；若结果如图二蓝线所示，表示效果较好，趋向于收敛。当样本数量取到5000的时候，曲线会趋向于平滑，如图二红线所示，但是每次取平均的样本数量过多，得出的结果可能会出现延迟（在第2500个样本进行参数估计的时候可能就已经是最优了）；图三蓝线表示1000个样本为一组，洋红色线表示5000个样本为一组，红线表示降低学习率，从图上看这几条线都近似于直线，损失函数没有降低，这就说明算法并没有进行学习，需要调整参数等，查看模型到底哪里出了问题；图四表示结果发散，可能需要降低学习率进行调整。

学习率的选择

在进行随机梯度下降的时候，得到的结果并不是全局最优，而是很接近全局最优的一个结果。学习率通常设定为一个常数，你也可以缓慢的降低学习率，从而达到一个更理想的结果，通常的设定方法如上图所示，常数1/(迭代次数+常数2)。但是通常大家不喜欢是用这种方法，因为这需要大量的事件来设定两个参数，常数1和常数2，但是如果这两个参数设定合理，那么结果会好很多，会更接近于全局最优。

在线学习

针对连续的数据流，我们可以利用在线学习算法从中学习。现在，很多大型的网站从连续不断的用户信息 流中学习用户的特征，帮助网站决策。

在线学习

假设一个提供运输服务的企业，特征x表示输入特征，包括用户要求的起始点，我们提供的价格等，y表示结果，即用户是否使用我们的服务。上面蓝色的字表示在线学习过程，每次只输入对应某一个用户的特定信息（x,y），然后根据信息进行参数的预测，然后将该条数据丢弃。在线学习有连续不断的信息流，一次只处理一个样本，这样可以更好的使用变化的用户偏好。比如当网站涌入新的用户时，或随着经济环境变化时，可能大家对价格变得更敏感，价格升高会显著影响用户是否采用我们的服务。学习算法可以根据变化对用户的偏好进行调整。

CTR点击率学习算法

如果你想提供给用于一个更好的搜索列表。比如你是一个买手机的店铺，当用户登录以后，你想提供一个更好的搜索列表，包括摄像像素等参数。当用户输入参数，将会返回10个搜索结果。我们要学习的就是在所有手机中找到最符合搜索条件的的10个手机，来预测用户点开推荐链接的概率。我们要做的就是在用户进行搜索的时候，推荐给用户手机，看他会点开那些手机，这样每一个用户进行搜索的时候，就可以得到十个样本，对应这十个手机的特征向量x（表示手机特征和搜索项的匹配程度）,和每一个手机对应的y。然后利用学习算法，对这十个样本利用十步梯度下降法预测参数。如果网站有持续的数据流入，那么在进行完以上操作以后，可以将该组数据丢弃，下一步对新用户提供的样本进行学习。通常要先积累一个固定的数据集，在数据集中训练参数，然后在利用持续的数据流更新参数。

减少映射与数据并行

之前讲述的算法，无论是线性回归还是在线学习，都可以在单个机器货单个电脑上运行，但是有的机器学习过于庞大以至于不能单机运行，有可能是数据量太多，不想把数据在一个电脑上跑一遍。

Map-reduce

如果数据集太大，无法再单一机器上进行处理，可以将其分开到几个机器上进行。如上图所示，假设训练集中m=400有400个样本，可以将训练集分成四部分，每部分包含100个样本，分别在4个机器上进行计算，每个机器上计算100个样本，然后再将每个机器上的计算结果加和，这样就能提高计算速度，使速度达到原来的四倍（实际上在进行数据整合的时候也会花费一点时间，实际提速不到四倍）。

map-reduce示意图

map-reduce的适用条件

这种算法只适用于公式可以表示为几个训练集中数据相加的形式。

map-reduce也适用于包含多个CPU的单一电脑上进行。现在很多数值算法库可以并行处理向量化的数据，也能提高计算效率。