因果推断推荐系统工具箱 - CausCF: Causal Collaborative Filtering for Recommendation Effect Estimation（二）

文章名称

【CIKM-2021】CausCF: Causal Collaborative Filtering for Recommendation Effect Estimation

核心要点

上一节，讲述了问题的定义和建模方法，核心关注的问题是用户是否在平台进行购买，期望在有限的推荐曝光资源下，最大化的是用户进行购买的转化提升量。

本节核心是模型的求解以及因果效应估计准确的评估方法，1）依据张量分解的思路，把非推荐曝光链路下的购买数据当做的potential outcome，把推荐曝光下的购买数据当做的potential outcome，利用交叉熵损失及优化potential outcome的损失学习模型参数；2）利用RDD的方法用观测数据评估估计的因果效应的准确性。

方法细节

问题引入

将推荐场景下的因果推断问题，建模为张量分解模型后，利用什么数据，优化什么目标来学习模型参数呢？同时，因果推断方法的评估一直是难题，通常需要随机试验的数据来进行评估，那么作者又如何进行模型验证的呢？

具体做法

参数求解

定义观测数据为评分（购买）矩阵中所有被观测到的元素的值。由于，因此可以采用优化BCE（binary cross-entropy）的方法进行模型参数的学习，具体损失函数如下图所示。

BCE loss

其中是sigmoid函数，正则项也被加入到损失函数中来防止过拟合。当参数和三组隐向量表示学习完成后，可以利用如下公式进行potential outcome的估计和ITE的估计。

potential outcome

ITE

因果效应验证

如前所述，验证因果推断的方法通常有两种，1）随机实验；2）模拟验证。然而，这两种方法要么影响线上用户体验，要么很难准确评估，因此都不够理想。通常另一种做法是进行近似实验的评估，断点回归（RDD）是经济学中常用的，用于推断人群因果效应的方法。方法可以简述为，寻找一个特征以及一个该特征的断点（cut-off value），可以利用断点两侧的结果值（outcome）近似估计平均因果效应（ATE）。估计过程如下图所示。

Treatment Assigment

RDD

作者举例说明了RDD的研究方法与作用。在研究奖学金的因果效应的场景下（注意不能做随机实验只能利用观测数据），如果直接利用获得奖学金和没有获得奖学金的学生的成绩差异来衡量奖学金对成绩提升的作用是存在偏差的，因为奖学金更多是发给（过往）成绩比较好的学生，他们天然比过往从来没有收到奖学金的学生的学习动力和能力都要强。这样的偏差会夸大奖学金的因果效应。因此，RDD方法在同样学习能力比较优秀的学生里测量因果效应，例如奖学金只发给成绩在top90%以上的学生，那么就比较top 91%和top 89%之间的成绩差异，因为这两群学生是比较相似的（不存在能力的偏差，这个confounder）。

同样的，在推荐系统场景，如果直接比较所有曝光和未被曝光的用户-物品元组的购买率差异肯定也是有偏差的，因为被曝光的都是过去很大概率会有因果效果的元组，而未被曝光里有非常长尾的物品，显然是不公平的。作者利用用户退出推荐曝光浏览的位置作为cut-off value，比较退出位置前后同一个物品的购买概率差异，以此来作为曝光的因果效应的估计值，示意如下图所示。

position cut-off

值得注意的是，这个退出位置（cut-off value)可以是任意取值，例如，所以作者平均了各个位置的因果效应值，具体操作如下图所示。

average different position cut-off

在使用RDD之前，仍然需要验证RDD方法的适用条件是否满足。一个条件是用户具有同质性，即那些几乎不受到干预（几乎没有被曝光的元组）的与那些经常受到干预的（经常被曝光的元组）是类似的。在推荐场景下，可以通过用户特征分布之间的相似度来衡量用户是否同质。然而，用户的特征通常是高维的，特征之间是异质的，并且不服从什么特定的分布。因此，作者采用上述学到的用户向量表示，当做特征进行用户同质程度的衡量。如果在cut-off value附近的用户是同质的，则认为购买概率的差异是由于曝光导致的。

作者利用如下图所示的absolute standardized difference[1]来衡量每一个维度的差异，并利用所有维度的平均值作为整体向量的差异值。其中，分别表示第维元素在treatment群组中的均值和标准差。该值如果在0.2以上，则表示被比较的两者并不相似[2]。

absolute standardized difference

代码实现

文章中给出了RDD分析的伪代码，具体如下图所示。

RDD analysis pseudo code

心得体会

最大化交叉熵

个人感觉，文章只是建立了因果的框架，但是并没有进行显示的matching或者balancing，可能受到confounder的影响。虽然，作者利用用户与treatment和物品与treatment的交互隐式的建模了两者对potential outcome和treatment assignment（用户-物品元组是否被曝光）的影响，但是并没有真正的起到balancing的作用，相似用户和相似物品的协同过滤思想勉强能够做到这一点。

并且，missing counterfactual的问题，作者利用的是没有经由曝光渠道用户进行的购买数据进行代替，这里可能也有其他偏差，比如有其他的促销活动，导致用户经由别的渠道购买，并不是严格意义上的control treatment下的potential outcome。当然，这种细节比较多，可以暂时忽略。

RDD中利用曝光位置

其实，RDD有一个假设，被研究个体不能控制自己是在cut-off value的哪一侧，也不能控制自己的特征变量。这一点在推荐系统中也使用，用户-物品元组中，用户是否被曝光某一个物品是不能自己决定的，也不能决定被曝光的位置，通常离开推荐流的位置也是相对随机的。因此满足RDD的基本使用条件。

文章引用

[1] Paul R Rosenbaum and Donald B Rubin. 1985. Constructing a control group using multivariate matched sampling methods that incorporate the propensity score. The American Statistician 39, 1 (1985), 33–38.
[2] Peter C Austin. 2009. Balance diagnostics for comparing the distribution of baseline covariates between treatment groups in propensity-score matched samples. Statistics in medicine 28, 25 (2009), 3083–3107.