python机器学习手写算法系列——RANSAC(随机抽样一致)回归

本文旨在通过在最简单的一元一次方程中运用RANSAC，编写代码，来学习RANSAC算法。

RANSAC算法

RANSAC[1]算法，全程是Random Sample Consensus（随机抽样一致）。它采用迭代的方式从一组包含outliers的数据中估算出回归模型。RANSAC是一个非确定性算法，因为它是“随机抽样”的。

它原来是计算机视觉的算法，后来被用来做线性回归。

RANSAC回归用最少的数据点训练模型，基本算法总结如下：

1. 选取的最少的数据点，作为样本。
2. 用样本和基础回归器训练模型。
3. 根据$ϵ$，选出inliers和outliers
4. 如果inliers的数量达到了阈值$\tau$，用inliers和基础回归器训练模型
5. 判断终止条件。达到，退出。否则，返回1。（最多$N$次）

迭代次数$N$，表示在$N$次迭代以后，至少有一次迭代，任意选取的$m$个点，都是inliers的概率是$p$（通常为0.99）。如果inliers的比例是$u$，我们就有以下公式。
$$1-p=(1-u^m{)}^N$$
变换后得到：
$$N=\frac{log(1-p)}{log(1-u^m)}$$

其实，这里我有个疑问。就算，我选择的两个点都是inliers，也无法保证他们他们组成的直线能够穿过其他的inliers。这个就说到RANSAC的原始用途了

在原始的RANSAC算法里，所谓的样本，是指两张照片上面的相同点。如果找到了这样的样本，当然就可以确定他们之间的向量了。但是回归不是这么回事。如果我的inliers比例是95%，那么
N = l o g ( 1 − 0.99 ) l o g ( 1 − 0.9 5 2 ) = l o g ( 0.01 ) l o g ( 1 − 0.9025 ) = − 2 l o g ( 0.0975 ) = − 2 − 1.01 = 2 N = \frac{log(1-0.99)}{log(1-0.95^2)} = \frac{log(0.01)}{log(1-0.9025)} = \frac{-2}{log(0.0975)}=\frac{-2}{-1.01}=2 N=log(1<