One-Shot Relational Learning for Knowledge Graphs——阅读笔记

Background

Problem Formulation

知识图谱$\mathcal{G}$是由一个三元组集合$\{(h,r,t)\}\subseteq \mathcal{E}\times \mathcal{R}\times \mathcal{E}$表示，其中，$\mathcal{E}$ 表示entity set， $\mathcal{R}$表示relation set。知识图谱的实现能够预测两个现有实体$(h,?,t)$之间的不可见关系 r，或者给定头实体和查询关系$(h,r,?)$，预测尾部实体 t 。这一篇文章在只给定一个example triplet $\left(h_0,r,t_0\right)$的条件，使true tail entity $t_{\text{true}}$的序列度高于其他candidate entities $t\in C_{h,r}$。

One-Shot Learning Settings

根据标准one-shot学习的设置，文章假设获取了training tasks。每个training tasks 都对应一个KG relation $r\in \mathcal{R}$, 并拥有training/testing triples:$\left\{D_r^{train},D_r^{test}\right\}$。这一tasks set就是 the meta-training set,${\mathbb{T}}_{\text{meta}-\text{train}}$。
根据one-shot的任务设定，在每个$D_r^{train}$中，采用一个三元组$\left(h_0,r,t_0\right)$。
The $D_r^{\text{test}}=\left\{\left(h_i,r,t_i,{\mathcal{C}}_{h_i,r}\right)\right\}$ consists of the testing triples of r with ground-truth tail entities ti for each query $\left(h_i,r\right)$, and the corresponding tail entity candidates ${\mathcal{C}}_{h_i,r}=\left\{t_{ij}\right\}$ where each $t_{ij}$ is an entity in $\mathcal{G}$。
给定test query$\left(h_i,r\right)$和 $D_r^{train}$中the labeled triple，可对the candidate set ${\mathcal{C}}_{h_i,r}$进行排列测试the metric model。
The meta-training objective: ${\min }_{\theta }{\mathbb{E}}_{T_r}\left[{\sum }_{\left(h_i,r,t_i,{\mathcal{C}}_{h_i,r}\right)\in D_r^{test}}\frac{{\ell }_{\theta }\left(h_i,r,t_i|{\mathcal{C}}_{h_i,r},D_r^{train}\right)}{|D_r^{test}|}\right]$ ,其中，$T_r$是meta-training set ${\mathbb{T}}_{\text{ meta -train }}$, $\left|D_r^{test}\right|$ 表示$D_r^{test}$中的元组的个数。Loss function 表明在只从$D_r^{train}$中采样one-shot数据的条件下，衡量the metric model 在$\left(h_i,r,t_i,{\mathcal{C}}_{h_i,r}\right)$上的性能。
${\ell }_{\theta }\left(h_i,r,t_i|{\mathcal{C}}_{h_i,r},D_r^{train}\right)$表示 an arbitrary ranking-loss function, $\theta$表示metric model的参数。
训练完成后，就可以利用模型来预测新的关系$r^{\prime }\in {\mathcal{R}}^{\prime }$，这也就是 meta-testing。这些meta-testing relation 是meta-training中未出现的，即${\mathcal{R}}^{\prime }\cap \mathcal{R}=\varphi$,每一个meta-testing relation $r^{\prime }$ 也有one-shot training data $D_{r^{\prime }}^{train}$ 和testing data $D_{r^{\prime }}^{test}$，其定义方式与meta-training一样。这些meta-testing relation形成了meta-test set ${\mathbb{T}}_{\text{meta}-\text{test}}$。
文章还从 ${\mathbb{T}}_{\text{ meta -train }}$中留出一小部分关系子集作为meta-validation set ${\mathbb{T}}_{\text{ meta- validation }}$。构造验证集是为了不违反one-shot的假设。
最终，该方法获取了一个 background knowledge graph ${\mathcal{G}}^{\prime }$, 它是$\mathcal{G}$的一个子集，包含了除${\mathbb{T}}_{\text{ meta -train }}$、${\mathbb{T}}_{\text{ meta- validation }}$和${\mathbb{T}}_{\text{meta}-\text{test}}$以外的所有关系。

Model

The matching function的实现涉及两个子问题：
（1）实体对的表示。
（2）两实体对间的对比comparson function。
针对以上两个问题，模型中的两个关键部分可以解决这些问题，即neighbor encoder 和 matching processor。总体模型如下图所示。

Neighbor Encoder

该模块旨在增强每个实体在知识图谱中的局部连接的表示。它将图结构合并到metric model中，且只考虑实体的局部链接，即one-hop neighbor。这可使其从结构信息中获益且保持效率，更易于扩展到现实世界中的大规模KGs。
对于任何给定的实体 e，其局部连接形成元组集合( relation，entity)。这一neighbor set可表示为${\mathcal{N}}_e=\{\left(r_k,e_k\right)|\left(e,r_k,e_k\right)\in {\mathcal{G}}^{\prime }\}$。由于encoding sets 的大小不固定，因此，要求encoding function需满足（1）置换不变，（2）对领集大小不敏感。满足上述属性的函数如下：
$f\left({\mathcal{N}}_e\right)=\sigma \left(\frac{1}{|{\mathcal{N}}_e|}{\sum }_{\left(r_k,e_k\right)\in {\mathcal{N}}_e}{C}_{r_k,e_k}\right)$,$C_{r_k,e_k}$是关系-实体对$\left(r_k,e_k\right)$的特征表示。$\sigma$是激活函数。本文中激活函数采用$\tanh$,因为它在${\mathbb{T}}_{\text{meta}-\text{validation}}$中表现出的性能最好！！！！
利用embedding model获取 $r_k$ 和 $e_k$ 的向量表示，即将每一个元组$\left(r_k,e_k\right)\in {\mathcal{N}}_e$映射到$C_{r_k,e_k}$。
$v_{r_k}=\mathbf{e}\mathbf{m}\mathbf{b}\left(r_k\right),v_{e_k}=\mathbf{e}\mathbf{m}\mathbf{b}\left(e_k\right)$
对向量$v_{r_k},v_{e_k}$进行dropout,以便泛化。同时利用feed-forward layer对元组之间的交互进行encode。
$C_{r_k,e_k}=W_c\left(v_{r_k}\oplus v_{e_k}\right)+b_c$
其中，$W_c\in R^{d\times 2d},b_c\in R^d$都是可学习的参数，$\oplus$表示 concatenation。
为了在训练期间启用批处理，我们手动指定最大邻居数，并将所有零向量用作“虚拟”邻居。Neighbor encoder 与关系图卷积网络类似，都使用共享核$\left\{W_c,b_c\right\}$对不同实体的邻居进行encode。不同的是，该模块只对实体的局部图进行编码并执行一步传播，且使用了pre-trained graph embeddings。

Matching Processor

通过$f\left({\mathcal{N}}_e\right)$对 reference entity pair $\left(h_0,t_0\right)$和任一 query entity pair$\left(h_i,t_{ij}\right)$ 处理,得到两邻向量$\left[f\left({\mathcal{N}}_{h_0}\right);f\left({\mathcal{N}}_{t_0}\right)\right]$和$\left[f\left({\mathcal{N}}_{h_i}\right);f\left({\mathcal{N}}_{t_{ij}}\right)\right]$。为了从候选集中找出与reference entity pair最相似的候选实体，文章利用相似分数解决这一问题。同时考虑模型的扩展性及评测性能，于是选用了基于LSTM的“处理”块进行多步匹配，每步匹配过程如下:
$\begin{array}{rl}{h}_{k+1}^{\prime },c_{k+1}& =LSTM\left(q,\left[h_k\oplus s,c_k\right]\right)\\ h_{k+1}& =h_{k+1}^{\prime }+q\\ {\text{score}}_{k+1}& =\frac{h_{k+1}\odot s}{\Vert h_{k+1}\Vert \Vert s\Vert }\end{array}$
其中，$LSTM(x,[h,c])$ 是一个具有输入为$x$、隐态$h$ 和单元态$c$ 的标准LSTM。$s=f\left({\mathcal{N}}_{h_0}\right)\oplus f\left({\mathcal{N}}_{t_0}\right),q=f\left({\mathcal{N}}_{h_i}\right)\oplus f\left({\mathcal{N}}_{t_{ij}}\right)$ 分别是reference pair和 query pair的连接邻向量。K是一个待调的超参数，采用score_k作为query enetity pair 与 support entity pair间最终similarity score。

Loss Function and Training

对于一个query relation r 及其reference/training triple $\left(h_0,r,t_0\right)$, 本文收集了positive(true)query triplet $\left\{\left(h_i,r,t_i^{+}\right)|\left(h_i,r,t_i^{+}\right)\in \mathcal{G}\right\}$ 并通过填充尾部实体的方式构建了negative（false) query triplet $\left\{\left(h_i,r,t_i^{-}\right)|\left(h_i,r,t_i^{-}\right)\notin \mathcal{G}\right\}$。于是模型可通过下式进行优化。
${\ell }_{\theta }=\max \left(0,\gamma +{\mathrm{score}}_{\theta }^{-}-{\mathrm{score}}_{\theta }^{+}\right)$
其中，${\mathrm{score}}_{\theta }^{+}$ 和 ${\mathrm{score}}_{\theta }^{-}$ 是利用metric model 比较the query triple$\left(h_i,r,t_i^{+}/t_i^{-}\right)$ 与 the reference triple$\left(h_0,r,t_0\right)$得到的标量。$\gamma$是一个待调的超参数。训练细节如算法所示：

Experiments

Datasets

For NELL-One, we use 51/5/11 task relations for training/validation/testing. For WikiOne, the division ratio is 133:16:34.