降维和度量学习(二)

流形学习

“流形”:在局部有欧式空间的性质
虽然样本在高维空间中的分布看起来非常复杂,但只要他们在聚不上仍具有欧式空间的性质,因此可以在局部建立降维映射关系,然后再设法将局部映射关系推广到全局。

等度量映射

保持近邻样本之间的距离,因为测地线距离和高位空间的直线距离是不相等的降维和度量学习(二)_第1张图片
其中,近邻图如何构建

  • k近邻图:指定k个点为近邻点
  • \epsilon 近邻图:定义距离阈值epsilon
    对于新样本如何变换
  • 构建高维坐标和低维坐标的回归器
局部线性嵌入算法

降维和度量学习(二)_第2张图片

度量学习

每个空间其实对应了样本属性上定义的距离度量,寻找合适的空间的本质是寻找一个合适的距离度量。度量学习的基本动机是学习得到一个合适的“度量”。降维和度量学习(二)_第3张图片
降维和度量学习(二)_第4张图片

NCA

前面学习过k近邻以邻居投票的形式决定自身的标签,假设将一邻一票替换成概率投票,降维和度量学习(二)_第5张图片
降维和度量学习(二)_第6张图片

你可能感兴趣的:(机器学习,人工智能)