机器学习名词解释及初学常见问答

回归：
线性回归：
广义线性模型：在非线性回归当中，有一部分可以用线性回归处理，这些模型叫做广义线性模型，如 logistics 模型
代价函数（Cost Function）：
正规方程（Normal Equation）
过拟合：每个数据项，对于总体而言是带有一点误差的，过拟合就是将误差也拟合进了回归模型里，回归模型就是一个方程，一个表达式。
梯度下降：
降维：
（批量）梯度下降算法：
hθ(x) = g(θTx):这里θ是参数，x是输入的特征向量，g是一个映射函数，例如将θx映射到0到1上，h(x)可以理解为概率（至少在logistic回归中是），以hθx大于或小于某个值作为分类标准。
多重共线性：
Lasso：惩罚项为一范数，可以将较多的系数化为0，将数据稀疏化。
损失函数(Loss Function):度量拟合的程度的函数，用输出的值减去真实值
代价函数(Cost Function):
目标函数(Object Function):
风险函数(risk function):风险函数是损失函数的期望