全图表征学习算法之无监督学习和基于卷积神经网络的监督学习

https://www.toutiao.com/a6640000238176174600/

 

 2018-12-28 19:12:09

已有的全图表征学习算法包括无监督和有监督两类，其中有监督算法又可以分为基于卷积网络和神经消息通信两种算法，今天一起来看看无监督方法和基于卷积神经网络的监督方法。

基于深度核函数的无监督方法深度图函数算法建立在传统的图核函数方法的基础之上，每个图结构可以分解成为不同的子图结构。但是，与传统的图核函数方法不同，对于深度核函数算法，每个子图结构表示为一个低维连续向量。具体来说，每个图结构首先分解成为一系列子图结构，每个子图结构对应自然语言中的词，整个子图结构集合对应一个句子。通过分解不同的图结构，该算法建立了不同子图结构的共现关系，然后再利用词向量学习模型CBOW或者Skipgram来学习子图结构向量。这类算法是无监督的无须利用任何外部标签信息，只是利用了网络的内部结构。

 

基于卷积神经网络的监督方法卷积神经网络在图像上取得了成功，其核心思想是构造不同的感受野抽取图像的局部特征。为了把卷积神经网络运用于网络结构表征学习，关键问题是如何在网络结构上定义感受野。算法的第一步是在网络上选择一些重要的节点，把每个节点的局部结构作为感受野的输入。由于感受野必须是一个有序的特征序列，但是节点的局部网络拓扑结构是无序的，因此算法的第二步是把每个节点的局部结构变成一个有序的序列。把不同节点的局部结构变成一个有序特征序列之后，可以把标准的卷积网络算法运用到该特征序列上进行特征提取。