【论文精读】Counterfactual Explainable Recommendation

Counterfactual Explainable Recommendation

1 定义和符号表示

用户集合$\mathcal{U}=\{u_1,u_2,\cdots ,u_m\}$
商品集合$\mathcal{V}=\{v_1,v_2,\cdots ,v_n\}$

二元矩阵$B\in \{0,1{\}}^{m\times n}$表示用户-商品交互矩阵。

$\mathcal{R}(u,K)$表示对于用户$u$的$\text{top-}K$推荐列表。

使用这篇论文内置的情感分析工具包（链接在这）来提取文本评论的(角度，观点，情感)(Aspect,Opinion,Sentiment)三元组。

商品aspect集合$\mathcal{A}=\{a_1,a_2,\cdots ,a_r\}$

用户-aspect偏好矩阵$X\in {\mathbb{R}}^{m\times r}$，每个元素指示着用户对某个aspect的关心程度。

商品-aspect质量矩阵$Y\in {\mathbb{R}}^{n\times r}$，每个元素表示商品在该aspect上的表现情况。

$$X_{i,k}=\{\begin{array}{ll}0,& \text{如果用户}{u}_i\text{没有提到过}{a}_k\text{这个方面}\\ 1+(N-1)(\frac{2}{1+exp(-t_{i,k})}-1),& else\end{array}$$

$$Y_{j,k}=\{\begin{array}{ll}0,& \text{如果商品}{v}_j\text{的评论中没有被提到过}{a}_k\text{这个方面}\\ 1+\frac{N-1}{1+exp(-t_{j,k}\cdot s_{j,k})},& else\end{array}\text{\hspace{1em}(1)}$$

$N$是系统中的评分规模，一般情况下是五星评分制。

$t_{i,k}$是用户$u_i$在评论中提到$a_k$这个方面的频次，$t_{j,k}$是商品$v_j$被提到$a_k$这个方面的次数，$s_{j,k}$是上述的评论的平均情感表现。$X$和$Y$矩阵都通过sigmoid方法重缩放，使得所有元素归入(1,N)的范围内，从而与系统的评分机制相匹配。

（X？（2-N, N)？）

读者可以通过Explicit Factor Models for Explainable Recommendation based on Phrase-level Sentiment Analysis、Do users rate or review?: boost phrase-level sentiment labeling with review-level sentiment classification来了解更多的矩阵构造过程。

反事实解释推荐

我们反事实解释的目的是为黑盒推荐模型寻找aspect驱动的反事实解释。

对于一个给定的推荐模型，如果商品$v_j$被推荐给用户$u_i$，也就是说$v_j\in \mathcal{R}(u_i,K)$，然后我们寻找一个商品aspect质量（item-aspect quality）向量最小的变化量$\Delta =\{{\delta }_0,{\delta }_1,\cdots ,{\delta }_r\}$，如果这个变化量作用到商品$v_j$的质量向量上，$Y_j+\Delta$，那么这将导致该商品被从推荐列表中移除。在$\Delta$向量中所有元素都是非正的。

如果商品在[aspect(s)]上表现得稍微差一点的话，这个商品将不会再被推荐。

解释的复杂度和力度

解释复杂度（Explanation Complexity, EC）

解释复杂度是来衡量解释的复杂性的。在我们的基于aspect的可解释推荐设定中，复杂性可以定义为

1. 多少aspect被用来产生解释，这对应着$\Delta$里面的非零元素数量，也就是0-范数$||\Delta |{|}_0$。
2. 需要在这些aspects上面做出多少的改变，这里我们使用平方和$||\Delta |{|}_2^2$ 。

最终的复杂度计算，使用上述两个结果的和：

$$C(\Delta )=||\Delta |{|}_2^2+\gamma ||\Delta |{|}_0\text{\hspace{1em}(2)}$$

解释强度（Explanation Strength ES）

解释强度衡量了解释的有效性。在我们的反事实解释推荐设定中，这个强度可以被理解为施加了微小的改变矩阵$\Delta$后可以多大程度上改变商品$v_j$的推荐结果。这个强度可以被定义为商品$v_j$的排序分数在施加了$\Delta$之后的降低量。

$$S(\Delta )=s_{i,j}-s_{i,j_{\Delta }}\text{\hspace{1em}(3)}$$

$s_{i,j_{\Delta }}$是将商品的质量向量$Y_j$施加了$\Delta$之后，即$Y_j+\Delta$的排序结果。

实际生活中，公式(2)和公式(3)来衡量复杂度和强度的方式是不确定的，需要根据我们的项目自己设置。

复杂度和解释强度从概念上来看应该是正交的，即没有太大的关联。复杂不一定强度大，强度大的也不一定复杂。根据奥卡姆剃刀原则，如果两个模型的效率大致相同，我们则选择更加简单的那个。

2 反事实解释

2.1 黑盒推荐模型

假设我们有一个模型$f$，这个模型可以预测用户对商品的排序评分，即：
$$s_{i,j}=f(X_i,Y_j|Z,\Theta )$$

这里的$X_i$和$Y_j$分别是用户aspect向量和商品aspect向量。$\Theta$为模型的参数，$Z$为整个模型预测过程中需要的其它附加信息，例如评分、图像、点击、文字等。

本模型中我们使用了一个非常简单的深度神经模型，包括一个融合层(fusion layer)和三个全连接层。

class BaseRecModel(torch.nn.Module):
    def __init__(self, feature_length):
        super(BaseRecModel, self).__init__()
        self.fc = torch.nn.Sequential(
            torch.nn.Linear(feature_length * 2, 1024),
            torch.nn.ReLU(),
            torch.nn.Linear(1024, 256),
            torch.nn.ReLU(),
            torch.nn.Linear(256, 1),
            torch.nn.Sigmoid()
        )

    def forward(self, user_feature, item_feature):
        fusion = torch.cat((user_feature, item_feature), 1)
        out = self.fc(fusion)
        return out

网络将用户和商品的aspects向量连接起来作为输入，输出一维的商品排序分数，通过sigmoid将输出映射到(0,1)的范围内，训练损失函数使用交叉熵。

$$\begin{array}{rl}L& =-\sum _{i,j,B_{i,j=1}}\log s_{i,j}-\sum _{i,j,B_{i,j}=0}\log (1-s_{i,j})\\ & =-\sum _{i,j}{B}_{i,j}\log s_{i,j}+(1-B_{i,j})\log (1-s_{i,j})\end{array}\text{\hspace{1em}(5)}$$

2.2 反事实解释

本文设计了一种模型来解释topK推荐结果中的每一个推荐商品。

假设商品$v_j\in \mathcal{R}(u_i,K)$，从直觉上来说我们的解释模型的任务是在尽可能保证模型解释强度的同时简化模型的复杂度。

$$\begin{array}{rl}\text{minimize }C(\Delta )& =||\Delta |{|}_2^2+\gamma ||\Delta |{|}_0\\ \text{s.t., }S(\Delta )& =s_{i,j}-s_{i,j_{\Delta }}\ge ϵ\end{array}\text{\hspace{1em}(7)}$$

为了简化，通常可以将$ϵ$定义为商品$v_j$的评分和第$K+1$个商品的评分之差，
$$ϵ=s_{i,j}-s_{i,j_{K+1}}\text{\hspace{1em}(8)}$$

而为了进一步简化模型，可以抛弃$ϵ$的方式，而直接对更改$V_j$后的新的评分与第$K+1$个商品进行比较，

$$\begin{array}{rl}\text{minimize }C(\Delta )& =||\Delta |{|}_2^2+\gamma ||\Delta |{|}_0\\ \text{s.t., }& s_{i,j_{\Delta }}\le s_{i,j_{K+1}}\end{array}\text{\hspace{1em}(9)}$$

2.3 松弛优化

现在的问题是无论目标函数$||\Delta |{|}_2^2+\gamma ||\Delta |{|}_0$还是约束$s_{i,j_{\Delta }}\le s_{i,j_{K+1}}$都是不可微的。

知乎：关于L0、L1、L2范数的凹凸性：一个直观的几何角度

知乎：为什么不用L0范数做正则化？

由于$||\Delta |{|}_0$是非凸的，我们使用它的最优凸近似L1范数来替代。

对于约束来讲，我们使用铰链损失函数来进行松弛：

$$L(s_{i,j_{\Delta }},s_{i,j_{K+1}})=\text{max}(0,\alpha +s_{i,j_{\Delta }}-s_{i,j_{K+1}})\text{\hspace{1em}(10)}$$

最终的优化函数为

$$\underset{\Delta }{\mathrm{minimize}}||\Delta |{|}_2^2+\gamma ||\Delta |{|}_1+\lambda L(s_{i,j_{\Delta }},s_{i,j_{K+1}})\text{\hspace{1em}(11)}$$

这里$\lambda$和$\alpha$都是用来控制解释强度的超参数。使用松弛优化的缺点是很难完全保证$v_j$是真的从top-K中移除出去了，移除该商品的可能性很大程度上依赖于对$L$项的最小化。所以需要后置处理来检测$s_{i,j_{\Delta }}$是否真的比$s_{i,j_{K+1}}$小。只有在移除商品的这个设想是成功的时候，才可以产生反事实解释。

我们将会报告解释模型的保真度（fidelity）来展示我们的方法可以解释多少比例的商品。

通过增加$\lambda$的值，模型可以更加集中于解释强度。

在消融实验中还对解释复杂度和强度之间的关系进行了探索。

3 讨论

3.1 解释复杂度和商品的不同推荐位置之间的关系

当我们获得了top-K的推荐列表，即$v_{j_1},v_{j_2},\cdots ,v_{j_K}$，直觉上来看，$v_{j_1}会比v_{j_K}$更加难从推荐列表中移除出去。越靠前的商品移除出推荐列表的解释复杂度可能越高。

3.2 控制Aspects的数量

通过等式(11)，模型可以自动选择aspects的数量来进行解释。但是如果需要的话，我们的方法也可以产生单aspect的解释。为了产生单aspect解释，我们需要对(11)添加一个可训练的独热码向量$\text{a}$来作为掩码，确保在训练中只有一个aspect是在变化的。

$$\begin{gathered} \underset{\Delta }{\mathrm{minimize}}||\text{a}\odot \Delta |{|}_2^2+\gamma ||\Delta |{|}_1+\lambda L(s_{i,j_{\Delta }},s_{i,j_{K+1}}) \\ \text{s.t. }||\text{a}|{|}_1=1,a_i\in \{0,1\} \\ \text{where, }{s}_{i,j\Delta }=f(X_i,Y_j+\text{a}\odot \Delta |Z,\Theta )\text{\hspace{1em}(12)} \end{gathered}$$

当我们强制模型产生单aspect解释的时候，$C(\Delta )$的$l_0$范数项就会消失，因为$||\Delta |{|}_0=1$，这是一个固定的常量，没有意义。

4 模型评估方法

4.1 面向用户的评估

我们采用用户对商品的评论作为真实的偏好原因，从用户$u_i$对商品的文字评论中，我们提取出用户展示出了积极情绪的aspect，定义为$P_{i,j}=[p_{i,j}^{(0)},p_{i,j}^{(1)},\cdots ,p_{i,j}^{(r)}]$，$p_{i,j}^{(k)}$为1的时候，说明$u_i$对商品$v_j$的$a_k$这个aspect具有正向的情感。

对于我们的模型来说，模型会产生向量$\Delta =\{{\delta }_0,{\delta }_1,\cdots ,{\delta }_r\}$，向量中非零元素对应的aspects将会组成最终的解释。

那么对于任何一个用户-商品对，我们根据真实的情感向量$P_{i,j}$计算准确率和召回率。

$$\text{Precision}=\frac{\sum _{k=1}^r{p}_{i,j}^{(k)}\cdot I({\delta }_k)}{\sum _{k=1}^{r}I({\delta }_k)},\text{Recall}=\frac{\sum _{k=1}^r{p}_{i,j}^{(k)}\cdot I({\delta }_k)}{\sum _{k=1}^r{p}_{i,j}^{(k)}}\text{\hspace{1em}(13)}$$

这里的$I(\delta )$是识别函数，当$\delta \ne 0$时，$I(\delta )=1$，反之则为0。

准确率代表我们产生的解释中，有多少是用户真的喜欢的。
召回率表示用户真正喜欢的aspects有多少是被我们的解释产生了。

我们计算这两个值的调和平均数$F_1$，

$$F_1=2\cdot \frac{\text{Precision}\cdot \text{Recall}}{\text{Precision}+\text{Recall}}$$

最终我们平均所有用户-商品对计算出来的精确度、召回率和调和平均数。

4.2 面向模型的评估

面向用户的评估只回答了模型生成的解释是否与用户的喜好一致。然而，这并未告诉我们这个解释是否正确地解释了模型的行为，也就是说模型为什么要把某个商品推荐给某个用户。

为了检测我们的解释是否正确地解释了推荐系统的内在机制，我们使用两个分数：

必要性（Probability of Neccesity, PN）和充分性（Probability of Sufficiency, PS）。

PN:[34]

在因果推理理论中，必要性衡量了条件的必要程度。假设有一个aspects集合${\mathcal{A}}_{i,j}\subset \mathcal{A}$组成了商品$v_j$推荐给用户$u_i$的解释。
PN的思想是，如果在反事实世界中，${\mathcal{A}}_{i,j}$中的aspects不存在，那么商品$v_j$不会被推荐给用户$u_i$的可能性有多大。

在这个思想下，我们计算生成的解释中符合PN定义的频率。$R_{i,K}$表示用户$u_i$的原始推荐列表。让$v_j\in R_{i,K}$作为模型生成非空解释${\mathcal{A}}_{ij}\ne \varnothing$的一个商品。

对于所有的商品，我们将商品aspect-质量矩阵$Y$中所有出现在${\mathcal{A}}_{i,j}$中的属性设置为0。通过这种方法，我们创造了一种反事实商品集合${\mathcal{V}}^{\ast }$，这为用户$u_i$生成一个反事实推荐列表$R_{i,K}^{\ast }$。

那么PN分数的计算方式如下：

其中$I({\mathcal{A}}_{ij}\ne \varnothing )$为判别函数，如果${\mathcal{A}}_{ij}\ne \varnothing$，则这个函数为1，否则为0。

分母是算法成功生成解释的商品的数量，分子是假设我们移除相关解释涉及的aspects之后，会从商品推荐列表中移除的商品数量。

PS[34]

Probability of Sufficiency，充分性

充分性的思想是，在反事实的世界中，${\mathcal{A}}_{ij}$中的aspect是在系统中仅存的aspects，那么商品$v_j$将仍然被推荐给用户的可能性是多大。

相似的，我们计算生成的解释中符合PS定义的概率。对于集合$\mathcal{V}$中的所有商品，我们将item-aspect矩阵$Y$中的所有不在${\mathcal{A}}_{ij}$中的aspects值改成0。这样我们创造了一个新的反事实商品集合${\mathcal{V}}^{\prime }$来对用户$u_i$生成反事实推荐列表$R_{i,K}^{\prime }$，PS分数的计算方式如下：

分母仍然是成功生成解释的数量，分子是生成的解释满足PS定义的数量。然后我们计算PN和PS的调和平均数来衡量整体表现，$F_{NS}=\frac{2\cdot PS\cdot PN}{PS+PN}$。

5 实现细节

5.1 处理流程

1. 根据用户评论生成user-aspect X，item-aspect Y；
2. 训练基础推荐模型。

基础推荐模型的深度神经网络结构由一个融合层和三个全连接层组成，三个全连接层除了最后一层使用Softmax外，剩下两层之间的激活函数都是ReLU，全连接层的输出维度分别为{512, 256, 1}。

5.2 解释生成

基础推荐模型为用户生成top-K的推荐列表。在实验中，K被设置为5。对于所有的数据集，$\lambda$被设置为100。注意到$l_2\text{-norm}||\Delta |{|}_2^2$和$l_1\text{-norm}||\Delta |{|}_1$的尺度几乎是一致的，所以模型中的$\gamma$总是被设置为1。整个实验中使用的$\alpha$=0.2，分别根据公式（11）和公式（12）生成多aspect解释和单aspect解释。

5.3 Mask

由于数据偏差的存在，所有的baseline模型（EFM，MTER，A2CF）都只在用户曾经在评论中提及过的aspects来构建解释，为了在面向用户的评估中与基线模型保持一致，我们使用了$M_i\in \{0,1{\}}^r$来作为$u_i$的mask向量，如果$X_{i,k}\ne 0$，那么$M_{i,k}=1$