论文笔记·图学习：Similarity Learning of Manifold Data

 

Abstract

• 在不构造邻接图的情况下，提出了一种基于线性重构约束和 LASSO 最小化的相似度学习方法；

1  INTRODUCTION

• 大部分流形学习算法有一个一致的框架：（1）在样本邻域内构造邻接图；（2）计算邻域内的相似度矩阵来逼近局部流形结构；（3）最小化目标函数获得低维嵌入，可以转化为求解特征值问题。

• No consideration is given to their local environment for similarity learning.

• Neighborhood is only an approximation of local manifold, and there is a deviation between neighborhood and true local manifold.

• 距离度量学习和相似度学习密切相关；

• 方法的基本思想来源于LLE用邻域重构数据点，以及LASSO型最小化产生稀疏；当一个数据点被邻域点凸重构时，重构系数与相似度类似；

• Highlight：

（1）相似度矩阵是在所有样本点之间学习的；

（2）针对混合符号数据和非负数据，分别提出了两种相似度学习算法和对应的求解；

（3）学习到的相似度矩阵可以用于其它流形学习算法。

2  LEARNING NEW SIMILARITY IN LE

A.  LE 

B.  Learning New Similarity Without Constructing Neighborhood

• LLE：

• 模型：

  分为三个部分，LLE线性重构、高斯核相似度、LASSO型最小化获得稀疏性。

C.  Simple Illustration

   用了一些简单的流形数据的例子说明。

3  ALGORITHM AND ANALYSIS

A.  Algorithm for Mx-Signed Data

 

B.  Algorithm for Nonnegative Data

 

4  LEARNING NEW SIMILARITY IN KERNEL SPACES

 

 

 

5  EXPERIMENTS

A.  Effects of Tuning Parameters

 

• α=0时，等价于L1稀疏；β=0时，省略稀疏性，模型不鲁棒。

B.  Embedding of Noisy 3-D Manifold Benchmarks

• 模型对噪声和离群点有较强的鲁棒性。

......