Abstract
• 在不构造邻接图的情况下,提出了一种基于线性重构约束和 LASSO 最小化的相似度学习方法;
1 INTRODUCTION
• 大部分流形学习算法有一个一致的框架:(1)在样本邻域内构造邻接图;(2)计算邻域内的相似度矩阵来逼近局部流形结构;(3)最小化目标函数获得低维嵌入,可以转化为求解特征值问题。
• No consideration is given to their local environment for similarity learning.
• Neighborhood is only an approximation of local manifold, and there is a deviation between neighborhood and true local manifold.
• 距离度量学习和相似度学习密切相关;
• 方法的基本思想来源于LLE用邻域重构数据点,以及LASSO型最小化产生稀疏;当一个数据点被邻域点凸重构时,重构系数与相似度类似;
• Highlight:
(1)相似度矩阵是在所有样本点之间学习的;
(2)针对混合符号数据和非负数据,分别提出了两种相似度学习算法和对应的求解;
(3)学习到的相似度矩阵可以用于其它流形学习算法。
2 LEARNING NEW SIMILARITY IN LE
A. LE
B. Learning New Similarity Without Constructing Neighborhood
• LLE:
• 模型:
分为三个部分,LLE线性重构、高斯核相似度、LASSO型最小化获得稀疏性。
C. Simple Illustration
用了一些简单的流形数据的例子说明。
3 ALGORITHM AND ANALYSIS
A. Algorithm for Mx-Signed Data
B. Algorithm for Nonnegative Data
4 LEARNING NEW SIMILARITY IN KERNEL SPACES
5 EXPERIMENTS
A. Effects of Tuning Parameters
• α=0时,等价于L1稀疏;β=0时,省略稀疏性,模型不鲁棒。
B. Embedding of Noisy 3-D Manifold Benchmarks
• 模型对噪声和离群点有较强的鲁棒性。
......