正规方程（normal equation）

其实就是在寻找解析解：

---

最后变为矩阵问题（求θ最优解）：

---

优缺点：

梯度下降法	正规方程法
需要选择α	不需要需要选择α
需要很多迭代	不需要迭代
当n很大的时候，依然工作良好	需要计算 当n很大的时候很慢

---

当

不可逆时，有两种情况：

解决方法：

针对1：因为线性相关的向量（有一个是多余的），只需删除一个就好；

针对2：因为太多特征导致，所以需要删除一些特征，或者使用正则化的方法（regularization）