图因式分解GraphFactorization

Distributed Large-scale Natural Graph Factorization
Graph Embedding Techniques, Applications, and Performance: A Survey

综述里的描述

博客上LLE、拉普拉斯特征图的资料不少，但是Graph Factorization的很少，也可能是名字太普通了。。。只能自己看论文了。。。

主要是实现了分布式计算，以及较低的时间复杂度，做图的降维

这里不关注分布式实现，只看最基本的思路和解法

符号定义

符号	定义
G	图
n=|V|	结点数
m=|E|	边数
(v) N ( v )	结点邻居
Y∈ℝn×n Y ∈ R n × n	边权重
Z∈ℝn×r Z ∈ R n × r	因式分解后
λ λ	正则参数

基本假设，认为通过降维后的结点向量的内积可以表达出边权重 Yij Y i j ，再加上正则项得到如下目标函数

f(Y,Z,λ)=12∑(i,j)∈E(Yij−<Zi,Zj>)2+λ2∑i‖Zi‖2 f ( Y , Z , λ ) = 1 2 ∑ ( i , j ) ∈ E ( Y i j − < Z i , Z j > ) 2 + λ 2 ∑ i ‖ Z i ‖ 2

对 Zi Z i 求偏导得到

∂f∂Zi=−∑j∈(i)(Yij−<Zi,Zj>)Zj+λZi ∂ f ∂ Z i = − ∑ j ∈ N ( i ) ( Y i j − < Z i , Z j > ) Z j + λ Z i

对于每条边有

−(Yij−<Zi,Zj>)Zj−λZi − ( Y i j − < Z i , Z j > ) Z j − λ Z i

最后，用SGD更新参数，整体的算法流程为