overfitting

overfitting_第1张图片
当模型复杂度上升时,可控制参数变多,VC dimension变大,
当VC dimension过大时,虽然Ein很小,但是Eout很大,产生overfitting

比喻:开车
开太快                   模型太复杂,VC维上升
路况差                   存在noise
路况了解有限      N有限

overfitting_第2张图片
overfitting_第3张图片





你可能感兴趣的:(over)