维度灾难与采样密度

空间的取样密度与$N^{\frac{1}{p}}$成比例。

其中p为输入空间的维数，N为样本的规模。$N_1=100$的单输入问题和 $N_{10}=100^{10}$十变量输入问题有着相同的取样密度。因此高维空间所有可行的训练样本在输入空间中很稀少。