西瓜书-第1章-绪论

当不具备归纳偏好时，模型给出的判断可能是随机的，这样的结果显然没有意义。
任何一个有效的机器学习算法必有其归纳偏好。

奥卡姆剃刀：若有多个假设和观察一致，则选最简单的一个。

只有在特定情况下，学习算法才有优劣之分。

符号学习：如决策树，能产生明确的概念表示。
连接学习：如神经网络（包括深度学习）产生的是“黑箱”模型。
统计学习：包括“支持向量机”和“核方法”。