推荐系统----2020会议文章集锦

盘点 | AAAI2020中的四篇推荐系统好文

AAAI中推荐系统的文章并不多，目之所及处仅有四篇。内容上覆盖了评论推荐、多目标推荐以及图神经网络等话题。

本文基于AAAI中的这四篇推荐系统论文，展开瞅一瞅它们都讲了些什么。

第一篇文章：可解释评论的推荐中的非对称层次网络与专注的交互

Asymmetrical Hierarchical Networks with Attentive Interactions for Interpretable Review-Based Recommendation

论文链接: https://arxiv.org/pdf/2001.04346.pdf

关键词：Hierarchical ; Review

基于用户评论的推荐确实是一个非常值得研究的主题。大多数推荐系统都是为了挖掘用户显式行为背后的隐式反馈，试图去Get到用户的意图。与这样的动机相比，评论是用户主动给出的意图，相比之下更加准确。现有的方法通常将给定用户或物品的所有评论合并到一个长文档中，然后以相同方式处理用户和物品文档。

但是，实际上，这两组评论是截然不同的。用户的评论反映了他们购买的各种商品，因此其主题非常不同，而一项商品的评论仅与该单个商品相关，因此在局部上是同质的。看上去怎么像绕口令似的，那么我简单地翻译一下：

我买了一条新的裙子并且对这条裙子给出了评论，我这个评论是只针对我这次买的这条裙子的。你如果拿我这条评论去预测我对其他裙子的偏好，这就有问题了。

在这项工作中，我们开发了一种新颖的神经网络模型，该模型通过非对称的注意力模块正确地解决了这一重要差异。形式上分为两个模块：

• 用户模块学习仅关注与目标物品相关的那些信号

• 物品模块学习有关物品属性的最显著内容

文章中所提出的多层次的范式解释了这样一个事实，就是说并非所有的评论都是同样有用的，也不是每个评论中的所有句子都一样中肯。

本文的贡献是极大的：在这项工作中强调了评论推荐中的不对称的注意力问题。为了解决这个问题，提出了一种灵活的神经结构，即AHN，其特点是它的非对称注意模块来区分用户嵌入和物品嵌入与评论的学习，以及它的层次范式来提取细粒度的句子和评论信号。

• 识别了不对称注意力问题，并提出基于评论的推荐。

• 提出了AHN，一种新的深度学习架构，它不仅捕获了评论数据的不对称和层次特征，同时还支持结果的可解释性。

换言之，这是一个能够”具体评论具体分析“的新颖方法，值得一看~

---

第二篇文章：会话推荐系统的贝叶斯方法

A Bayesian Approach to Conversational Recommendation Systems

论文链接: https://arxiv.org/pdf/2002.05063.pdf

关键词：Bayesian; Conversational RS

本文提出了一个基于贝叶斯方法的会话推荐系统。在与用户进行任何交互之后，将更新物品上的概率质量函数，信息理论标准将优化交互的形状，并确定何时应终止会话并因此推荐最可能的项目。

作者从基本结构判断中得出用于建模交互的参数的先验概率的专用启发技术。这样的先验信息可以与历史数据结合，以区分具有不同推荐历史的物品。

在纯贝叶斯方法的基础上，作者提出了一种新的自动推荐方法。该方法假设系统和用户之间存在动态交互，从而提供自定义和自适应的推荐。本文所介绍的框架为未来的发展奠定了基础，其中问题的动态生成是为了改善系统的会话性质。这可以基于一个自然语言生成系统，与物品属性的结构化概率描述和用户需求的激发交互。

---

第三篇文章：多目标推荐系统的多梯度下降

Multi-Gradient Descent for Multi-Objective Recommender Systems

论文链接: https://arxiv.org/pdf/2001.00846.pdf

关键词：Multi-Gradient Descent; Multi-Objective RS

推荐系统需要反映应用它们的环境的复杂性。我们对可能有益于用户的知识越了解，推荐系统的目标就越多。此外，除了法律和道德约束外，可能还有多个利益相关者-卖方，买方，股东。迄今为止，为具有相关或不具有相同规模的多个目标同时进行优化是非常困难的。

推荐系统的复杂应用场景，使我们又需要多目标模型，但是又很难做好。哎呀，成人的世界就是这么的复杂。

作者为推荐系统（MGDRec）引入了随机的多梯度下降方法来解决此问题。不仅如此，而且通过梯度归一化，将具有不同规模的根本不同的目标组合到一个一致的框架中。文中表明，不相关的目标（如优质产品的比例）可以提高准确性。通过使用随机性，避免了计算完整梯度的陷阱，并为其适用性提供了明确的条件。

该文章的主要思想如下：

• 本文利用多梯度下降法，结合不同的目标，找到一组多目标推荐问题的解决方案。

• 本文将梯度归一化的新思想引入到多梯度推荐中。这允许我们通过使用子梯度来放松单个目标的可微性条件，将根本不同的目标组合到同一个目标函数中。这种灵活性允许我们处理来自多个涉众的目标。

---

第四篇文章：记忆增强图神经网络的序列化推荐

Memory Augmented Graph Neural Networks for Sequential Recommendation

论文链接: https://arxiv.org/pdf/1912.11730.pdf

关键词：GNN; Sequential RS

用户与物品的交互的时间顺序可以揭示许多推荐系统中时间演变和顺序的用户行为。用户将与之交互的项目可能取决于过去访问的项目。但是，用户和项目的大量增加使得顺序推荐系统仍然面临着不小的挑战：

• 1. 短期用户兴趣建模的难度；

• 2. 难以吸引长期用户兴趣；

• 3. 物品共现模式的有效建模。

为了解决这些挑战，提出了一种内存增强图神经网络（MA-GNN），以捕获长期和短期的用户兴趣。

具体来说，作者应用图神经网络在短期内为物品上下文信息建模，并利用共享内存网络捕获物品之间的长期依赖关系。除了对用户兴趣进行建模外，还采用了双线性函数来捕获相关项目的共现模式。结果证明了我们的模型对Top-K序列化推荐任务的有效性。

本文的主要观点概括如下：

• 为了对用户的短期和长期兴趣进行建模，提出了一种记忆增强的图神经网络来捕捉物品的短期上下文信息和长期依赖关系。

• 为了有效地融合短期和长期兴趣，作者在GNN框架中加入了一个闸门机制，以自适应地结合这两种隐藏的表示。

• 为了显式地建模物品共现模式，使用了双线性函数来捕捉物品之间的特征相关性。

MA-GNN的模型架构

 

 

ECAI，全称为 European Conference on Artificial Intelligence，是欧洲主要的人工智能会议:

ECAI2020，第 24 届欧洲人工智能大会，此次会议共收到了 1443 篇有效论文，其中 1363 篇完整论文和 80 篇短论文，最终接收了 365 篇完整论文和 36 篇短文，接受率为 26.8％:

• Joint Modeling of Local and Global Behavior Dynamics for Session-based Recommendation.

一篇建模用户全局与局部行为动态性的基于会话的推荐系统。

• Directional Adversarial Training for Recommender Systems.

这篇论文中，设计了一种对抗训练（DAT）策略，即在适当的限制下，用户和物品的嵌入向量都朝着其相似的邻居方向变化，通过将这种协同过滤信号作为扰动注入推荐系统模型的训练过程中的，使得模型的泛化效果得到了较大提升。

• Shallow Neural Models for Top-N Recommendation.

这篇论文是我比较感兴趣的，因为目前的推荐模型非深即宽，加深结构可以增加泛化能力，加宽结构可以提取交叉特征。因此大部分研究都是基于此展开的，要么加深网络，要么加宽网络。所以看到该论文题目，用于 TopN 推荐的浅神经网络，比较好奇是如何利用这样的浅层结构来打败复杂模型产生 SOTA 性能的，期待一读。

 

国际顶级学术会议WWW2020定在2020年4月20-24日于中国台湾举办。受COVID-19疫情影响(疫情赶紧过去吧)，大会将在线上举行。

本次会议共收到了1129篇论文投稿，录用217篇，录取率仅为19.2%。其中关于推荐系统的论文大约38篇，推荐系统占比17.5%，可见推荐系统的研究受到学术界的广泛关注。另外，值得注意的是，接收的推荐系统论文中大部分都是与工业界合作的产物，因此不管是学术界还是工业界，推荐系统都是研究的热点与重点。

针对这38篇论文，我们进行了梳理分类，如下表所示:

可见，推荐系统应用的文章以及序列化推荐的文章占比较大；随后是提升推荐效率、社会化推荐、常规推荐以及利用强化学习推荐；其次是兴趣点推荐、冷启动问题研究、推荐系统中的安全性、推荐公平性以及可解释推荐的文章；最后是各有一篇跨域推荐、利用知识图推荐、对话推荐系统以及用于点击率预估的推荐。

Practical RS:

• Graph Enhanced Representation Learning for News Recommendation

• Weakly Supervised Attention for Hashtag Recommendation using Graph Data

• Personalized Employee Training Course Recommendation with Career Development Awareness

• Understanding User Behavior For Document Recommendation

• Recommending Themes for Ad Creative Design via Visual-Linguistic Representations

• paper2repo: GitHub Repository Recommendation for Academic Papers

Sequential RS:

• Adaptive Hierarchical Translation-based Sequential Recommendation

• Attentive Sequential Model of Latent Intent for Next Item Recommendation

• Déjà vu: A Contextualized Temporal Attention Mechanism for Sequential Recommendation

• Intention Modeling from Ordered and Unordered Facets for Sequential Recommendation

• Future Data Helps Training: Modeling Future Contexts for Session-based Recommendation

• Keywords Generation Improves E-Commerce Session-based Recommendation

 

Effcient RS:

• Learning to Hash with Graph Neural Networks for Recommender Systems

• LightRec: a Memory and Search-Efficient Recommender System

• A Generalized and Fast-converging Non-negative Latent Factor Model for Predicting User Preferences in Recommender Systems

• Efficient Non-Sampling Factorization Machines for Optimal Context-Aware Recommendation

•  

•   

Social RS:

• Efficient Non-Sampling Factorization Machines for Optimal Context-Aware Recommendation

• The Structure of Social Influence in Recommender Networks

• Few-Shot Learning for New User Recommendation in Location-based Social Networks

•  

Explainability for RS:

•  

• Directional and Explainable Serendipity Recommendation

• Dual Learning for Explainable Recommendation: Towards Unifying User Preference Prediction and Review Generation

•  

•  

POI RS:

• Next Point-of-Interest Recommendation on Resource-Constrained Mobile Devices

• A Category-Aware Deep Model for Successive POI Recommendation on Sparse Check-in Data

•  

•  

General RS:

•  

• Efficient Neural Interaction Function Search for Collaborative Filtering

• Learning the Structure of Auto-Encoding Recommenders

• Deep Global and Local Generative Model for Recommendation

•  

•  

Fairness in RS:

•  

• Hierarchical Visual-aware Minimax Ranking Based on Co-purchase Data for Personalized Recommendation

• FairRec: Two-Sided Fairness for Personalized Recommendations in Two-Sided Platforms

•  

•  

RL for RS:

•  

• Off-policy Learning in Two-stage Recommender Systems

• Hierarchical Adaptive Contextual Bandits for Resource Constraint based Recommendation

•  

•  

Cross-domain RS:

• Exploiting Aesthetic Preference in Deep Cross Networks for Cross-domain Recommendation

•  

Knowledge Graph RS:

•  

• Reinforced Negative Sampling over Knowledge Graph for Recommendation

•  

Conversational RS:

•  

• Latent Linear Critiquing for Conversational Recommender Systems

CTR for RS:

• Adversarial Multimodal Representation Learning for Click-Through Rate Prediction

 

首先，我们来说一说今年的IJCAI。好像一直在被吐槽，从一开始的灭霸操作5147 篇文章直接Summary Reject掉2191篇文章（拒稿率42%）

Sequential RS

•  

• Adversarial Oracular Seq2seq Learning for Sequential RecommendationPengyu Zhao, Tianxiao Shui, Yuanxing Zhang, Kecheng Xiao, Kaigui Bian

• Collaborative Self-Attention Network for Session-based RecommendationAnjing Luo, Pengpeng Zhao, Yanchi Liu, Fuzhen Zhuang, Deqing Wang, Jiajie Xu, Junhua Fang, Victor S. Sheng

• Memory Augmented Neural Model for Incremental Session-based RecommendationFei Mi, Boi Faltings

•  

•  

Cross-Domain RS

•  

• A Graphical and Attentional Framework for Dual-Target Cross-Domain RecommendationFeng Zhu, Yan Wang, Chaochao Chen, Guanfeng Liu, Xiaolin Zheng

• Learning Personalized Itemset Mapping for Cross-Domain RecommendationYinan Zhang, Yong Liu, Peng Han, Chunyan Miao, Lizhen Cui, Baoli Li, Haihong Tang

•  

•  

POI RS

•  

• Contextualized Point-of-Interest RecommendationPeng Han, Zhongxiao Li, Yong Liu, Peilin Zhao, Jing Li, Hao Wang, Shuo Shang

• Discovering Subsequence Patterns for Next POI RecommendationKangzhi Zhao, Yong Zhang, Hongzhi Yin, Jin Wang, Kai Zheng, Xiaofang Zhou, Chunxiao Xing

• An Interactive Multi-Task Learning Framework for Next POI Recommendation with Uncertain Check-insLu Zhang, Zhu Sun, Jie Zhang, Yu Lei, Chen Li, Ziqing Wu, Horst Kloeden, Felix Klanner

•  

Explainable RS

•  

• Explainable Recommendation via Interpretable Feature Mapping and Evaluation of ExplainabilityDeng Pan, Xiangrui Li, Xin Li, Dongxiao Zhu

• Synthesizing Aspect-Driven Recommendation Explanations from ReviewsTrung-Hoang Le, Hady W. Lauw

• Towards Explainable Conversational RecommendationZhongxia Chen, Xiting Wang, Xing Xie, Mehul Parsana, Akshay Soni, Xiang Ao, Enhong Chen

•  

•  

News RS

• User Modeling with Click Preference and Reading Satisfaction for News RecommendationChuhan Wu, Fangzhao Wu, Tao Qi, Yongfeng Huang

• HyperNews: Simultaneous News Recommendation and Active-Time Prediction via a Double-Task Deep Neural NetworkRui Liu, Huilin Peng, Yong Chen, Dell Zhang

•  

•  

Cold-Start in RS 

•  

• Internal and Contextual Attention Network for Cold-start Multi-channel Matching in RecommendationRuobing Xie, Zhijie Qiu, Jun Rao, Yi Liu, Bo Zhang, Leyu Lin

•  

 General RS

• Deep Feedback Network for RecommendationRuobing Xie, Cheng Ling, Yalong Wang, Rui Wang, Feng Xia, Leyu Lin

• Intent Preference Decoupling for User Representation on Online Recommender SystemZhaoyang Liu, Haokun Chen, Fei Sun, Xu Xie, Jinyang Gao, Bolin Ding, Yanyan Shen

• Neural Tensor Model for Learning Multi-Aspect Factors in Recommender SystemsHuiyuan Chen, Jing Li

 

推荐9篇近期社会化推荐论文

 

 

Enhance Social Recommendation with Adversarial Graph Convolutional Networks

作者: Junliang Yu, Hongzhi Yin, Jundong Li, Min Gao, Zi Huang, Lizhen Cui

简介: 目前的社交信息通常在真实的推荐系统中不能充分发挥作用，主要是有以下原因：1）所利用的社交信息邻居数据相当有限；2）存在很多噪声；3）社交关系实际上是多面的，而非单一的。现有的大多数社交推荐模型仅考虑社会网络中的同质性，而忽略了这些缺点。在本文中，提出了一个基于图卷积网络（GCN）的深度对抗框架来解决这些问题。

 

 

 

Trust in Recommender Systems: A Deep Learning Perspective

作者: Manqing Dong, Feng Yuan, Lina Yao, Xianzhi Wang, Xiwei Xu, Liming Zhu

简介: 现有推荐系统的一个主要挑战是，由于缺乏合理的解释和推荐结果不准确，导致用户可能不信任推荐系统。因此，一个值得信赖的推荐系统变得至关重要。 此论文提供了三类信任感知推荐系统的系统摘要：利用用户的社交关系的社交感知推荐系统；鲁棒的推荐系统，可过滤不真实的噪声（例如垃圾邮件发送和虚假信息）或增强抗攻击性；可解释的推荐系统，提供推荐物品的说明。其专注于基于深度学习技术的工作，这是推荐研究中的一个新兴领域。

 

 

Multi-faceted Trust-based Collaborative Filtering

作者: Noemi Mauro, Liliana Ardissono, Zhongli Filippo Hu

摘要: 许多协同推荐系统利用社会相关性理论来提高推荐精度。但是，它们专注于用户之间的显式关系，而忽略了可能有助于确定用户的全球声誉的其他类型的信息。例如，公众认可的素质。我们有兴趣了解这些附加类型的反馈是否以及何时改善Top-N推荐。为此，我们提出了一个多方面的信任模型，将社交链接代表的局部信任与社交网络提供的各种类型的全局信任证据进行集成。

 

 

Modelling High-Order Social Relations for Item Recommendation

作者: Yang Liu, Liang Chen, Xiangnan He, Jiaying Peng, Zibin Zheng, Jie Tang

简介: 在线社交网络的普及使得研究社交关系如何影响用户的选择成为必要。但是，大多数现有方法仅利用一阶社会关系，即连接到目标用户的直接邻居。高层的社会关系，例如，朋友的朋友，在很大程度上被忽略了。在这项工作中，其专注于对社交网络中高阶邻居的间接影响进行建模，以提高商品推荐的效果。与主流社交推荐方法不同，后者通过社交关系对模型学习进行正则化，相反，该工作建议在预测模型中直接考虑社交关系，旨在学习更好的用户嵌入来改进推荐。为了解决高阶邻居随订单大小急剧增加的挑战，我们建议沿社交网络递归“传播”嵌入，以将高阶邻居的影响有效地注入用户表示中。

 

 

Secure Social Recommendation based on Secret Sharing

作者: Chaochao Chen, Liang Li, Bingzhe Wu, Cheng Hong, Li Wang, Jun Zhou

简介: 如今，隐私保护机器学习已经在业界和学术界引起了广泛关注。同时，推荐系统已被许多商业平台（例如，亚马逊）广泛采用，并且它们主要基于用户-项目交互而构建。此外，社交平台（例如Facebook）具有丰富的用户社交信息资源。众所周知，在社交平台（例如Facebook）上丰富的社交信息对于推荐系统很有帮助。将社交信息与用户项目评分结合起来以改善总体推荐性能。现有的大多数推荐模型都是基于社会信息可用的假设而建立的。但是，由于某些原因，不同的平台通常不愿意（或不能）共享其数据。在本文中，首先提出了一个SEcure社会建议书（SeSoRec）框架。然后，提出了一种基于秘密共享的矩阵乘法（SSMM）协议，以优化SeSoRec并从理论上证明其正确性和安全性。通过应用小批量梯度下降，SeSoRec在计算和通信方面都具有线性时间复杂度。

 

 

DiffNet++: A Neural Influence and Interest Diffusion Network for Social Recommendation

作者: Le Wu, Junwei Li, Peijie Sun, Richang Hong, Yong Ge, Meng Wang

简介: 社交推荐，可以利用用户之间的社交联系来预测用户的未知偏好，这可以减轻基于协同过滤的推荐中的数据稀疏性问题。早期的方法依靠利用每个用户的一阶社交邻居的兴趣来进行更好的用户建模，而未能从全局社交网络结构中建模社交影响力扩散过程。最近，提出的用于社交推荐的神经影响力传播网络（即DiffNet）的初步工作，该模型对递归社交传播过程进行建模以捕获每个用户的高阶关系。但是，由于用户在用户-用户社交网络和用户-项目兴趣网络中都扮演着中心角色，因此仅对社交网络中的影响力扩散过程进行建模将忽略用户在用户-项目兴趣中的潜在合作兴趣。在本文中，提出了DiffNet ++，这是DiffNet的改进算法，可以在统一框架中对神经影响扩散和兴趣扩散进行建模。 

 

 

Attentive Geo-Social Group Recommendation

作者: Fei Yu, Feiyi Fan, Shouxu Jiang, Kaiping Zheng

简介: 社交活动在人们的日常生活中起着重要的作用。对于基于社交活动的推荐系统，重要的是不仅要拥有活动信息，而且要拥有个人的社会关系。由于地理社交网络和位置感知移动设备的广泛使用，海量的地理社交数据现在很容易被推荐系统利用。在本文中，提出了一种新颖的组推荐方法，以给目标用户推荐活动位置和有可能加入活动的用户组。 另外，提出一种注意力机制来模拟目标用户在满足社会约束的候选用户组中的影响。它有助于检索最佳的用户组和活动主题候选者，并解释其组决策过程。一旦检索到用户组和主题，就可以使用一种新颖有效的空间查询算法SPA-DF在给定用户组和候选活动主题的约束下确定活动位置。

 

 

Generating Reliable Friends via Adversarial Training to Improve Social Recommendation

作者: Junliang Yu, Min Gao, Hongzhi Yin, Jundong Li, Chongming Gao, Qinyong Wang

简介: 最近有关社交推荐的大多数研究都假设人们与朋友共享相似的偏好，并且在线社交关系有助于改善传统的推荐系统。但是，由于在线社交网络非常稀疏且大多数用户只有少数朋友，因此这种假设通常难以成立。此外，由于建立社交网络过程中的随机性，外显的朋友可能不会共享相似的兴趣。因此，为每个用户发现许多可靠的朋友在推进社交推荐中起着重要的作用。与其他专注于提取有价值的显式社交链接的研究不同，我们的工作注重在观察到的和未观察到的社交网络中识别可靠的朋友。具体而言，在本文中，提出了一个基于生成对抗网络（GAN）的端到端社会推荐框架。

 

Tripartite Heterogeneous Graph Propagation for Large-scale Social Recommendation

作者: Kyung-Min Kim, Donghyun Kwak, Hanock Kwak, Young-Jin Park, Sangkwon Sim, Jae-Han Cho, Minkyu Kim, Jihun Kwon, Nako Sung, Jung-Woo Ha

简介: 图神经网络（GNN）已成为一种有前景的关系表示方法，包括应用在推荐系统中。但是，社交图的各种具有挑战性的问题阻碍了GNN在社交推荐中的实际使用，例如它们复杂的噪声连接和高度的异质性。GNN的过度平滑也是基于GNN的社会推荐的障碍所在。 本文提出了一种新的图嵌入方法异构图传播（HGP）来解决这些问题。  HGP使用group-user-item tripartite graph作为输入，以减少社交图中的边数和路径的复杂性。为了解决过度平滑的问题，HGP将节点嵌入在基于个性化PageRank的传播方案下，分别用于组用户图和用户项目图。 最后使用注意力机制集成来自每个图的节点嵌入。

 

 

第43届国际信息检索研究和发展大会（SIGIR）将于2020年7月25-30日在美丽的中国西安举行。此次大会共收到了555篇长文投稿，录用147篇，长文录取率26.4%；共收到了507篇短文投稿，录用153篇，短文录取率30%。

正因为推荐与搜索是解决信息过载的两种有效途径，因此虽然是关于检索的会议，但通过下图可以看出推荐（Recommendation）占据了很大比例，与搜索（Search+Retrieval）不相上下。另外，图与网络（Graph/Network）数据成为研究的主要对象，毕竟许多待研究的对象都可以表示为图。值得注意的是，神经网络（Neural）仍然排在前列；融合知识（Knowledge）的搜索/推荐系统也被许多研究者研究。除此之外，强化学习也出现在了排行榜中，可见利用强化学习的思想来迭代优化搜索/推荐逐渐成为流行。

 另外，还注意到今年SIGIR开办了一场关于对话推荐/检索的Tutorial，感兴趣的小伙伴可以多多关注。想提前了解对话推荐（Conversational RS，CRS）的朋友，可以公众号后台回复【CRS】获取对话推荐系统最新综述。

推荐论文列表

本次只对大会的长文（Full Papers）进行梳理，因此共整理出63篇关于推荐系统的论文。为了方便查看与了解，我们主要将其分为了以下几类：Sequential RS，Graph-based RS，Cold-start in RS，Efficient RS，Knowledge-aware RS，Robust RS，Group RS，Conversational RS，RL for RS，Cross-domain RS，Explainable RS，POI RS。另外，对于有一些不包含在以上类别的文章，我们统一归为了Others。当然，以上分类仁者见仁，智者见智，目的是给大家一个相对清晰的结构。具体的各个类别所包含的论文数见下表。

可见，序列化推荐的文章占比较大；随后是基于图的推荐、鲁棒的推荐系统；其次是提升推荐效率的文章、基于知识的推荐以及解决冷启动问题的推荐文章、组推荐、对话推荐系统；最后是强化学习推荐、跨域推荐、可解释推荐以及兴趣点推荐。当然其他类别中也包含了许多有意思的研究，比如消除推荐偏置（Bias）的文章、分布式训练推荐系统的文章以及如何retrain推荐系统的文章等。

接下来是分类好的推荐论文列表，大家可以根据自己的研究子方向进行精读。

Sequential RS

• Incorporating User Micro-behaviors and Item Knowledge into Multi-task Learning for Session-based Recommendation.

• GAG: Global Attributed Graph Neural Network for Streaming Session-based Recommendation.

• Sequential Recommendation with Self-attentive Multi-adversarial Network.

• A General Network Compression Framework for Sequential Recommender Systems.

• Next-item Recommendation with Sequential Hypergraphs.

• KERL: A Knowledge-Guided Reinforcement Learning Model for  Sequential Recommendation.

• Time Matters: Sequential Recommendation with Complex Temporal Information.

• Modeling Personalized Item Frequency Information for Next-basket Recommendation.

Graph-based RS

• Learning to Transfer Graph Embeddings for Inductive Graph based Recommendation.

• Joint Item Recommendation and Attribute Inference: An Adaptive Graph Convolutional Network Approach.

• Multi-behavior Recommendation with Graph Convolution Networks.

• Hierarchical Fashion Graph Network for Personalised Outfit Recommendation.

• Neighbor Interaction Aware Graph Convolution Networks for Recommendation.

• Disentangled Representations for Graph-based Collaborative Filtering.

Cold-start RS

• Content-aware Neural Hashing for Cold-start Recommendation.

• Recommending Podcasts for Cold-Start Users Based on Music Listening and Taste.

• Recommendation for New Users and New Items via Randomized Training and Mixture-of-Experts Transformation.

• AR-CF: Augmenting Virtual Users and Items in Collaborative Filtering for Addressing Cold-Start Problems.

Efficient RS

• Lightening Graph Convolution Network for Recommendation.

• A General Knowledge Distillation Framework for Counterfactual Recommendation via Uniform Data.

• Beyond User Embedding Matrix: Learning to Hash for Modeling Large-Scale Users in Recommendation.

• Parameter-Efficient Transfer from Sequential Behaviors for User Modeling and Recommendation.

• Online Collective Matrix Factorization Hashing for Large-Scale Cross-Media Retrieval.

Knowledge-aware RS

• Jointly Non-Sampling Learning for Knowledge Graph Enhanced Recommendation.

• Fairness-Aware Explainable Recommendation over Knowledge Graphs.

• Attentional Graph Convolutional Networks for Knowledge Concept Recommendation in MOOCs in a Heterogeneous View.

• Make It a CHORUS: Context- and Knowledge-aware Item Modeling for Recommendation.

• CKAN: Collaborative Knowledge-aware Attentive Network for Recommender Systems.

Robust RS

• How Dataset Characteristics Affect the Robustness of Collaborative Recommendation Models.

• GCN-Based User Representation Learning for Unifying Robust Recommendation and Fraudster Identification.

• How Dataset Characteristics Affect the Robustness of Collaborative Recommendation Models.

• Certifiable Robustness to Discrete Adversarial Perturbations for Factorization Machines.

• DPLCF: Differentially Private Local Collaborative Filtering.

• Data Poisoning Attacks against Differentially Private Recommender Systems.

Group RS

• GAME: Learning Graphical and Attentive Multi-view Embeddings for Occasional Group Recommendation.

• GroupIM: A Mutual Information Maximizing Framework for Neural Group Recommendation.

• Group-Aware Long- and Short-Term Graph Representation Learning for Sequential Group Recommendation.

• Global Context Enhanced Graph Nerual Networks for Session-based Recommendation.

Conversational RS

• Deep Critiquing for VAE-based Recommender Systems.

• Interactive Recommender System via Knowledge Graph-enhanced Reinforcement Learning.

• Towards Question-based Recommender Systems.

• Neural Interactive Collaborative Filtering.

RL for RS

• Self-Supervised Reinforcement Learning for Recommender Systems.

• MaHRL: Multi-goals Abstraction based Deep Hierarchical Reinforcement Learning for Recommendations.

• Leveraging Demonstrations for Reinforcement Recommendation Reasoning over Knowledge Graphs.

Cross-domain RS 

• Transfer Learning via Contextual Invariants for One-to-Many Cross-Domain Recommendation.

• CATN: Cross-Domain Recommendation for Cold-Start Users via Aspect Transfer Network.

Explainable RS

• Measuring Recommendation Explanation Quality: The Conflicting Goals of Explanations.

• Try This Instead: Personalized and Interpretable Substitute Recommendation.

POI RS

• HME: A Hyperbolic Metric Embedding Approach for Next-POI Recommendation.

others

• Learning Personalized Risk Preferences for Recommendation.

• Octopus: Comprehensive and Elastic User Representation for the Generation of Recommendation Candidates.

• Spatial Object Recommendation with Hints: When Spatial Granularity Matters.

• Agreement and Disagreement between True and False-Positive Metrics in Recommender Systems Evaluation.

• Distributed Equivalent Substitution Training for Large-Scale Recommender Systems.

• The Impact of More Transparent Interfaces on Behavior in Personalized Recommendation.

• MVIN: Learning multiview items for recommendation.

• How to Retrain a Recommender System?

• Measuring and Mitigating Item Under-Recommendation Bias in Personalized Ranking Systems.

• BiANE: Bipartite Attributed Network Embedding.

• ASiNE: Adversarial Signed Network Embedding.

• Learning Dynamic Node Representations with Graph Neural Networks.

• Asymmetric Tri-training for Debiasing Missing-Not-At-Random Explicit Feedback.

 

推荐系统论文列表

这次整理的推荐系统论文列表分为了Research Track和Applied Data Science Track，即面向研究型的学术论文和面向工业界的实践论文。

Research Track Papers

研究赛道的论文主要是按照推荐子领域来划分，比如序列化推荐、对话推荐系统、冷启动问题、协同过滤、推荐效率问题等。从以下比例可以看出，序列化推荐和对话推荐系统是研究的热点问题，这其实也很容易理解，推荐其实是个天然的序列问题，即建模用户的一系列行为同时返回一系列个性化的物品序列；同时，推荐系统也自然的引入对话机制，因为传统的推荐是静态的，用户只能被动的接受着推荐系统返回的结果列表，引入对话交互机制后，能很好的优化推荐系统。

Sequential RS

• Disentangled Self-Supervision in Sequential Recommenders

• Counterfactual Evaluation of Slate Recommendations with Sequential Reward Interactions

• Geography-Aware Sequential Location Recommendation

• Handling Information Loss of Graph Neural Networks for Session-based Recommendation

• On Sampling Top-K Recommendation Evaluation

• Probabilistic Metric Learning with Adaptive Margin for Top-K Recommendation

Conversational RS

• Evaluating Conversational Recommender Systems via User Simulation

• Improving Conversational Recommender Systems via Knowledge Graph based Semantic Fusion

• Interactive Path Reasoning on Graph for Conversational Recommendation

Cold-Start in RS

• MAMO: Memory-Augmented Meta-Optimization for Cold-start Recommendation

• Meta-learning on Heterogeneous Information Networks for Cold-start Recommendation

Collaborative Filtering

• Dual Channel Hypergraph Collaborative Filtering

• Semi-supervised Collaborative Filtering by Text-enhanced Domain Adaptation

Efficient RS

•  

• An Efficient Neighborhood-based Interaction Model for Recommendation on Heterogeneous Graph

• Compositional Embeddings Using Complementary Partitions for Memory-Efficient Recommendation Systems

• FedFast: Going Beyond Average for Faster Training of Federated Recommender Systems

Others

• A Framework for Recommending Accurate and Diverse Items Using Bayesian Graph Convolutional Neural Networks

• BLOB: A Probabilistic Model for Recommendation that Combines Organic and Bandit Signals

• Joint Policy-Value Learning for Recommendation

• On Sampled Metrics for Item Recommendation

Applied Data Science Track Papers

应用数据科学赛道主要是展示工业界中的实践成果，我们按照公司维度整理出了涉及推荐场景的论文，其中包括谷歌、阿里、亚马逊等公司，这些公司由于有着海量的用户数据，因此推荐技术也相对成熟，许多经典模型也是由以下公司所提出的。

Google

• Attribute-based Propensity for Unbiased Learning in Recommender Systems: Algorithm and Case Studies

• Improving Recommendation Quality in Google Drive

• Neural Input Search for Large Scale Recommendation Models

Alibaba

• Controllable Multi-Interest Framework for Recommendation

• M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems

• Maximizing Cumulative User Engagement in Sequential Recommendation: An Online Optimization Perspective

• Privileged Features Distillation at Taobao Recommendations -Alibaba

Amazon

• Temporal-Contextual Recommendation in Real-Time

Pinterest

•  

• PinnerSage: Multi-Modal User Embedding Framework for Recommendations at Pinterest -Pinterest

Bytedance

• Jointly Learning to Recommend and Advertise -Bytedance

DiDiChuxing

• Gemini: A novel and universal heterogeneous graph information fusing framework for online recommendations

Twitter

• SimClusters: Community-Based Representations for Heterogeneous Recommendations at Twitter

•  

前言

第58届国际计算语言学协会年会（ACL，The Association for Computational Linguistics）将于2020年7月6号-8号线上举行。官网公布了ACL2020的论文收录名单，共计收录778篇论文，本次ACL大会共提交了3429篇论文，长文录取率为25%。作为自然语言处理（NLP）领域的顶会，其中有一些涉及NLP技术的推荐系统论文也会投稿于此。

第37届机器学习国际会议（ICML，International Conference on Machine Learning）将于2020年7月12日至18日线上举行。官网公布了ICML2020的论文收录名单，共计收录1088篇论文，本次ICML大会共提交了4990篇论文，录取率为21.8%。

推荐相关论文列表

本次ACL2020大会共整理出5篇关于推荐系统的论文，其中涉及到2篇对话推荐系统和3篇新闻推荐系统。值得注意的是，3篇新闻推荐系统论文均来自于MSRA谢幸老师团队，太强了(●'◡'●)。不难发现，由于ACL为自然语言处理相关的会议，所以推荐系统的比重较小，另外，接收的推荐系统论文中都涉及NLP相关的技术。

另外，本篇文章还整理出了ICML2020中关于推荐系统的论文4篇。其中涉及GCN、非负矩阵分解等技术。

由于在研究推荐系统的时候，也会用到图神经网络以及知识图谱相关的知识，因此后两部分也整理了相关的论文。

 

 

推荐系统-ACL2020

• Dynamic Online Conversation Recommendation

https://www.aclweb.org/anthology/2020.acl-main.305.pdf

https://github.com/zxshamson/dy-conv-rec

• Towards Conversational Recommendation over Multi-Type Dialogs

https://www.aclweb.org/anthology/2020.acl-main.98.pdf

https://github.com/PaddlePaddle/models/

• Fine-grained Interest Matching for Neural News Recommendation

https://www.aclweb.org/anthology/2020.acl-main.77.pdf

• Graph Neural News Recommendation with Unsupervised Preference Disentanglement

https://www.aclweb.org/anthology/2020.acl-main.392.pdf

• MIND: A Large-scale Dataset for News Recommendation

https://www.aclweb.org/anthology/2020.acl-main.331.pdf

https://github.com/zxshamson/dy-conv-rec

推荐系统-ICML2020

 

本文介绍 ICML2020 中 4 篇与推荐系统相关的论文。分别为：

1. 低通协同过滤推荐的图卷积网络

2. 推荐系统中 Pap@k 度量的优化与分析

3. 有序非负矩阵分解在推荐中的应用

4. 推荐系统中的长期社会福利优化：一种约束匹配方法

图卷积网络（GCN）广泛应用于推荐等图数据学习任务中。然而，当面对较大的图时，图卷积计算量很大，因此现有的 GCN 中都进行了简化，但由于过于简化而受到严重影响。为了弥补这一差距，这篇文章利用 GCN 中原有的图卷积，提出了一种低通协同过滤（LCF），使其适用于大型图。LCF 的设计消除了观测数据中曝光和量化带来的噪声，并无损地降低了图形卷积的复杂度。实验表明，LCF 提高了图卷积的有效性和效率，并且提出的 GCN 的性能明显优于现有的 GCN。您可以在 https：//github.com/wenhui-yu/lcfn 上查看代码。

所有模型在两个数据集上的性能（“Imp”表示相对提高，“BB”表示最佳基线）

2. Optimization and Analysis of the pAp@k Metric for Recommender Systems

https://proceedings.icml.cc/static/paper_files/icml/2020/1095-Paper.pdf

现代推荐和通知系统必须稳健地应对数据失衡、建议/通知数量限制以及用户之间的异类接触。Pap@k 度量结合了 partial-AUC 度量和 precision@k 度量，最近被提出用于评估上面所述的推荐系统，并已在实际部署中使用。从概念上讲，Pap@k 衡量正确的将排名靠前的正实例排在排名靠前的负实例前面的概率。由于排名靠前的点所呈现的组合特征，人们对 Pap@k 的特点和优化方法知之甚少，文章中分析了 Pap@k 的学习理论特性，特别是它在评价现代推荐系统中的优势，并提出了在一定的数据规则条件下保持一致的新的替代物。然后，文章提供了基于梯度下降的算法来直接优化替代物。文章的分析和实验评估表明，Pap@k 确实在 partial-AUC 和 precision@k 上表现出了一定的双重行为，而且在各种应用中，所提出的方法都优于所有的基线。综上所述，文章的结果推动了 Pap@k 在具有不同用户参与度的大规模推荐系统中的使用。

在Movielens, Citation 和 Behance 数据集上不同方法的 Micro-Pap@k 增益(以%为单位)。值越高越好。该方法的性能优于基线，尤其是GD-Pap@k-avg

3. Ordinal Non-negative Matrix Factorization for Recommendation

https://proceedings.icml.cc/static/paper_files/icml/2020/4539-Paper.pdf

这篇文章介绍了一种新的有序数据非负矩阵分解（NMF）方法，称为 OrdNMF. 有序数据是类别之间表现出自然排序的分类数据。具体地说，它们可以在具有显式数据（例如评级）或隐式数据（例如量化播放数量）的推荐系统中找到。OrdNMF 是一个概率潜在因子模型，它推广了伯努利—泊松分解（BePoF）和泊松分解（PF）在二值化数据上的应用。与这些方法相反，OrdNMF 避开了二进制化，可以利用更丰富的数据表示形式。文章设计了一种有效的变分算法，该算法基于合适的模型增广，并与变分 PF 相关。特别地，提出的算法保持了 PF 算法的可扩展性，可以应用于海量稀疏数据集。在显式和隐式数据集上的推荐实验表明 OrdNMF 在二值化数据上的性能优于 BePoF 和 PF.

4. Optimizing Long-term Social Welfare in Recommender Systems: A Constrained Matching Approach

https://proceedings.icml.cc/static/paper_files/icml/2020/3138-Paper.pdf

大多数推荐系统（RS）研究假设用户的效用可以独立于其他代理（例如，其他用户、内容提供商）的效用而最大化。在现实环境中，这通常不是真的—— RS 生态系统的动态性耦合了所有代理的长期效用。这项工作将探讨内容提供商除非获得一定级别的用户参与，否则无法继续生存的设定。文章将这一背景下的推荐问题描述为诱导动力系统中的均衡选择问题，并证明了该问题可以作为一个最优约束匹配问题来求解。文中证明，即使在一个简单的、风格化的动态 RS 模型中，标准的短视推荐方法——总是将用户与最好的提供商相匹配——也表现不佳。文章中开发了几种可扩展的技术来解决匹配问题，并将其与用户遗憾和公平的各种概念联系起来，在实用意义上这些结果是更公平的。

当用户/提供商嵌入是倾斜的时，由于不太受欢迎的提供商放弃平台，短视的推荐产生次优的用户福利

 

 

---

---

---

---

---

• Graph Convolutional Network for Recommendation with Low-pass Collaborative Filters

https://arxiv.org/abs/2006.15516.pdf

• Optimization and Analysis of the pAp@k Metric for Recommender Systems

• Optimizing Long-term Social Welfare in Recommender Systems: A Constrained Matching Approach

• Ordinal Non-negative Matrix Factorization for Recommendation

https://arxiv.org/pdf/2006.01034.pdf

网络表示学习&图神经网络相关

• Learning to Ask More: Semi-Autoregressive Sequential Question Generation under Dual-Graph Interaction.

• Every Document Owns Its Structure: Inductive Text Classification via Graph Neural Networks.

• GCAN: Graph-aware Co-Attention Networks for Explainable Fake News Detection on Social Media.

• Integrating Semantic and Structural Information with Graph Convolutional Network for Controversy Detection.

• Line Graph Enhanced AMR-to-Text Generation with Mix-Order Graph Attention Networks.

• Query Graph Generation for Answering Multi-hop Complex Questions from Knowledge Bases.

• A Graph Auto-encoder Model of Derivational Morphology.

• AMR Parsing via Graph-Sequence Iterative Inference.

• Semantic Graphs for Generating Deep Questions.

• A Novel Graph-based Multi-modal Fusion Encoder for Neural Machine Translation.

• Relational Graph Attention Network for Aspect-based Sentiment Analysis.

• Syntax-Aware Opinion Role Labeling with Dependency Graph Convolutional Networks.

• Entity-Aware Dependency-Based Deep Graph Attention Network for Comparative Preference Classification.

• Heterogeneous Graph Neural Networks for Extractive Document Summarization.

• Dependency Graph Enhanced Dual-transformer Structure for Aspect-based Sentiment Classification.

• Document Modeling with Graph Attention Networks for Multi-grained Machine Reading Comprehension.

• Aligned Dual Channel Graph Convolutional Network for Visual Question Answering.

• Multimodal Neural Graph Memory Networks for Visual Question Answering.

• Fine-grained Fact Verification with Kernel Graph Attention Network

• Continuous Graph Neural Networks

知识图谱

• Query Graph Generation for Answering Multi-hop Complex Questions from Knowledge Bases.

• Grounded Conversation Generation as Guided Traverses in Commonsense Knowledge Graphs.

• Can We Predict New Facts with Open Knowledge Graph Embeddings? A Benchmark for Open Link Prediction.

• The Dialogue Dodecathlon: Open-Domain Knowledge and Image Grounded Conversational Agents.

• Knowledge Graph Embedding Compression.

• Orthogonal Relation Transforms with Graph Context Modeling for Knowledge Graph Embedding.

• Breaking Through the 80% Glass Ceiling: Raising the State of the Art in Word Sense Disambiguation by Incorporating Knowledge Graph Information.

• SEEK: Segmented Embedding of Knowledge Graphs.

• SKEP: Sentiment Knowledge Enhanced Pre-training for Sentiment Analysis.

• Improving Multi-hop Question Answering over Knowledge Graphs using Knowledge Base Embeddings.

• Knowledge Graph-Augmented Abstractive Summarization with Semantic-Driven Cloze Reward.

• A Re-evaluation of Knowledge Graph Completion Methods.

• ReInceptionE: Relation-Aware Inception Network with Joint Local-Global Structural Information for Knowledge Graph Embedding.

• Connecting Embeddings for Knowledge Graph Entity Typing.

• Low-Dimensional Hyperbolic Knowledge Graph Embeddings.

 

CIKM2020 | 最新9篇推荐系统相关论文

第29届国际计算机学会信息与知识管理大会CIKM2020将于2020年10月19日-10月23日在线上召开。CIKM是CCF推荐的B类国际学术会议，是信息检索和数据挖掘领域顶级学术会议之一。本届CIKM会议共收到投稿920篇，其中录用论文193篇，录取率约为21%。此次整理的论文大部分来自人大、清华和华为。

 

题目：S3-Rec: Self-Supervised Learning for Sequential Recommendation with Mutual Information Maximization

作者：周昆，王辉，赵鑫，朱余韬，王思睿，张富铮，王仲远，文继荣

概述：近年来，深度学习在序列化推荐领域取得了巨大成功，已有的序列化推荐模型通常依赖于商品预测的损失函数进行参数训练。但是该损失函数会导致数据稀疏和过拟合问题，其忽视了上下文数据与序列数据之间的关联，使得数据的表示学习的并不充分。为解决该问题，本文提出了S3-Rec这一模型，该模型基于自注意力模型框架，利用四个额外的自监督训练函数来学习属性、商品、序列之间的特殊关系。在这里，本文采用了互信息最大化技术来构造这些自监督函数，以此来统一这些关系。在六个数据集上的充分实验表明本文提出的模型能够取得State-of-the-art的效果，其在数据量受限和其他推荐模型上也能带来较大的提升。关于自监督学习可参考Self-Supervised Learning论文整理。

 

 

2

 

题目：Diversifying Search Results using Self-Attention Network

作者：秦绪博，窦志成，文继荣

概述：搜索结果多样化的目标是使得检索得到的结果能够尽量覆盖用户提出问题的所有子话题。已有的多样化排序方法通常基于贪心选择(Greedy Selection)过程，独立地将每一个候选文档与已选中的文档序列进行比较，选择每一个排序位置的最佳文档，生成最后的文档排序。而相关研究证明由于各候选文档的边际信息收益并非彼此独立，贪心选择得到的各个局部最优解将难以导向全局最佳排序。本文介绍了一种基于自注意力网络(Self-Attention Network)的方法，可以同步地衡量全体候选文档间的关系，以及候选文档对不同用户意图的覆盖程度，有效地克服原有方法受限于贪心选择过程的局限性，并在TRECWebTrack09-12数据集上获得更好的性能。

 

 

3

 

题目：PSTIE: Time Information Enhanced Personalized Search

作者：马正一，窦志成，边关月，文继荣

概述：基于深度学习的个性化搜索模型通过序列神经网络（例如RNN）对用户搜索历史进行序列建模，归纳出用户的兴趣表示，取得了当前最佳的效果。但是，这一类模型忽略了用户搜索行为之间细粒度的时间信息，而只关注了搜索行为之间的相对顺序。实际上，用户每次查询之间的时间间隔可以帮助模型更加准确地对用户查询意图与文档兴趣的演化进行建模。同时，用户历史查询与当前查询之间的时间间隔可以直接帮助模型计算用户的重查找（re-finding）行为概率。基于此，本文提出了一个时间信息增强的个性化搜索模型。我们设计了两种时间感知的LSTM结构在连续时间空间中对用户兴趣进行建模，同时直接将时间信息利用在计算用户重查找概率中，计算出了更加准确的用户长短期兴趣表示。我们提出了两种将用户兴趣表示用于个性化排序的策略，并在两个真实数据集上取得了更好的效果。

 

 

4

 

论文：Learning Better Representations for Neural Information Retrieval with Graph Information

作者：李祥圣，Maarten de Rijke, 刘奕群，毛佳昕，马为之，张敏，马少平

概述：目前的检索模型多数基于文本间的匹配。然而，对于一个搜索会话，用户的行为之间是具有联系的，这样的联系可以用图的方式表示出来。例如用户在会话搜索中修改查询的过程可以知道那些查询之间是相似的，用户点击文档后，可以知道查询与文档之间的关联性。利用这样的两个网络，我们可以构建一个由用户行为组成的图网络。在传统的文本匹配模式上，进一步地引入行为图信息帮助检索模型更好地理解用户搜索意图。检索模型可以利用图信息，对输入的查询进行相似节点查询。同理，对于候选文档也可以利用相似节点查询。通过引入邻接节点信息，丰富当前节点的语义表示。

现有的图模型的工作主要分为两种：网络嵌入式表示方法与图神经网络方法。基于这两种方法，我们提出了两种利用图信息改进检索模型的方法，两种方法的示意图如下所示：

 

 

5

 

题目: GraphSAIL: Graph Structure Aware Incremental Learning for Recommender Systems

概述：推荐系统可以帮助用户很方便的从在线服务中获取想要的信息，在提升用户体验方面起着越来越重要的作用，也累计了越来越多的用户数据。随着图神经网络（GNNs）的出现，基于用户-物品二部图来学习用户、物品表达展现出了巨大的优势。但是，GNN模型的训练复杂度很高，难以频繁地更新以提供最新的用户、物品个性化表达。在本研究中，我们提出通过增量的方式更新基于GNN的推荐模型，以大大缩短训练时间，从而可以更频繁地更新模型。我们设计了一种图结构感知增量学习框架GraphSAIL，以克服在增量方式训练模型时常常出现的灾难性遗忘问题。GraphSAIL实现了一种可以保存每个节点的局部结构、全局结构和自信息的图结构信息保存策略，从而在增量更新期间可以更好的保留用户的长期偏好（以及物品的长期属性）。GraphSAIL是首个对基于GNN的推荐模型进行增量更新的框架，在两个公共数据集上与其它增量学习技术的对比展示出了GraphSAIL的优越性。我们进一步在大规模工业数据集上验证了我们的框架的有效性。

图1：GraphSAIL全局结构蒸馏示例

 

 

6

 

题目：Personalized Re-ranking with Item Relationships for E-commerce

概述：在大规模商用推荐系统中，重排序(re-ranking)是一项非常关键的任务。重排序模型在已有初始排序的基础上，进行更精细的排序建模，以提高最终推荐结果的准确性。但是，现有的推荐重排序模型大多忽略了以下两个问题：（1）忽略了列表中商品与商品之间的相互关系和影响，例如拥有可替代(substitutable)或者互补(complementary)关系的商品出现在同一列表中，会影响到用户对于另一商品的满意度；（2）对所有用户使用单一的重排序策略，而忽略了用户个性化的偏好和意图。为了解决这些问题，我们构造了一个异构图来融合初始排序信息和商品关系信息。我们设计了一个基于图神经网络的框架IRGPR，通过递归的方式逐步聚合来自多跳邻域的依赖关系和结构信息。同时，我们还提出了一个新颖的意图嵌入网络，对个性化的用户意图进行显式建模。大量在真实数据集上的实验证实了IRGPR在重排序任务上的有效性。进一步分析表明，对商品关系和个性化意图建模有助于提升重排序的推荐效果。【诺亚推荐与搜索团队自研成果】

图2：IRGPR模型结构

 

 

7

 

题目：TGCN: Tag Graph Convolutional Network for Tag-Aware Recommendation

概述：标签感知推荐系统 (Tag-aware recommender systems)利用了用户对物品的标注标签作为一种辅助信息来提升推荐性能，传统的基于深度学习的标签感知推荐模型单纯依靠基于标签的特征来表征用户和物品，这种方式难以有效解决标签空间的稀疏性、模糊性和冗余性等弊端。为了解决这个问题，我们将用户的标注记录以无向带权异构图的形式进行组织，通过邻居来提供额外的内容信息。在本工作中，我们提出了一个基于图神经网络的模型TGCN。TGCN针对不同类型的邻居节点采用不同的采样和聚合操作，并利用注意力网络来识别邻居和节点类型的重要性。此外，利用卷积神经网络作为类型聚合方式从而建模多粒度的特征交互。我们在公开数据集和产品数据集进行验证，TGCN模型在各个评价指标上均优于现有的标签感知推荐模型。【诺亚推荐与搜索团队自研成果】

图3：TGCN模型结构

 

8

 

题目：U-rank: Utility-oriented Learning to Rank with Implicit Feedback

概述：使用隐式反馈进行排序学习是许多现有信息系统、推荐系统最重要的任务之一。信息系统、推荐系统一般都有特定的优化目标，例如，增加点击量和提高收入。我们泛称该优化目标为收益。很多时候，我们希望有一个算法能够直接最优化收益。然而，现有的排序算法原则并不能够最大化收益。为此，我们提出了一种新型排序框架，U-rank，将期望收益最大化的问题建模为物品和位置的二分图最大权重匹配问题。该框架考虑位置偏置对收益的影响，通过借助位置感知的深度点击率预测模型，计算二分图的权重为在特定query下该物品被放到某个位置的收益。我们借鉴了有效的Lambdaloss框架来最大化该二分图匹配问题，这个框架得到了理论和经验分析的支持。我们在三个benchmark数据集和二个的私有数据集上进行了大量的实验，充分展示了U-rank在优化收益的目标上表现优于许多state-of-the-arts算法。此外，U-rank已经部署到一个商业推荐系统，线上A/B测试中观察到U-rank相对生产基线大幅提升了点击率和转化率。【诺亚推荐与搜索团队，上海交大Apex实验室俞勇/张伟楠老师团队联合研究成果】

图4：将排序问题建模成二分图最大权重匹配问题

 

9

 

题目：AutoFeature: Searching for Feature Interactions and Their Architectures for Click-through Rate Prediction

概述：点击率预测问题是商业推荐系统中一个重要研究课题。而在这个课题中中，如何有效建模特征交互是一个核心研究点。但是，现有的方案要么对于某一阶交互建模了所有可能的特征交互，要么需要人工去选择特征交互。这些模型使用了相同的网络结构或者函数去建模所有的特征交互，从而忽略了不同特征交互之间复杂度的不同。为了解决这些问题，我们提出了一个基于神经网络架构搜索的模型AutoFeature，去自动化的找到潜在有用的特征交互，并且选择合适的神经网络结构去建模不同的特征交互。首先，我们设计了一个灵活的搜索空间，使得覆盖了很多流量的深度推荐模型如PIN，PNN，DeepFM等，并且能够建模高阶特征交互。其次，我们提出了一个高效的神经网络架构检索算法，能够迭代循环的将搜索空间划分成多个子空间，并且从中采样出高质量的神经网络结构。我们在公开数据集上进行了充分的实验，验证了AutoFeature的精度和效率。【诺亚推荐与搜索团队，AI基础理论团队联合研究成果】

图5：AutoFeature的神经网络架构搜索流程图

 

 

 

KDD 2020 推荐系统论文一览

KDD是推荐领域一个顶级的国际会议。本次接收的论文按照推荐系统应用场景可以大致划分为：CTR预估、TopN推荐、对话式推荐、序列推荐等。同时，GNN、强化学习、多任务学习、迁移学习、AutoML、元学习在推荐系统的落地应用也成为当下的主要研究点。此届会议有很大一部分来自工业界的论文，包括Google、Microsoft、Criteo、Spotify以及国内大厂阿里、百度、字节、华为、滴滴等。

CTR Prediction

 

1. AutoFIS: Automatic Feature Interaction Selection in Factorization Models for Click-Through Rate Prediction 【华为诺亚】

简介：本文采用AutoML的搜索方法选择重要性高的二次特征交互项、去除干扰项，提升FM、DeepFM这类模型的准确率。
论文：https://arxiv.org/abs/2003.11235

2. Category-Specific CNN for Visual-aware CTR Prediction at JD.com 【京东】

论文：https://arxiv.org/abs/2006.10337

3. Towards Automated Neural Interaction Discovering for Click-Through Rate Prediction 【Facebook】

论文：https://arxiv.org/abs/2007.06434

 

Graph-based Recommendation

 

1. A Framework for Recommending Accurate and Diverse Items Using Bayesian Graph Convolutional Neural Networks 【华为诺亚】

 

2. An Efficient Neighborhood-based Interaction Model for Recommendation on Heterogeneous Graph 【Amazon】

论文：https://arxiv.org/abs/2007.00216

3. M2GRL: A Multi-task Multi-view Graph Representation Learning Framework for Web-scale Recommender Systems 【阿里】

简介：本文通过关联多个视角的图(item-item图、item-shop图、shop-shop图等)增强item表征，用于item召回。
论文：https://arxiv.org/abs/2005.10110

4. Handling Information Loss of Graph Neural Networks for Session-based Recommendation

 

5. Interactive Path Reasoning on Graph for Conversational Recommendation

论文：https://arxiv.org/abs/2007.00194

6. A Dual Heterogeneous Graph Attention Network to Improve Long-Tail Performance for Shop Search in E-Commerce 【阿里】

 

7. Gemini: A Novel and Universal Heterogeneous Graph Information Fusing Framework for Online Recommendations 【滴滴】

 

Conversational Recommendation

 

1. Evaluating Conversational Recommender Systems via User Simulation

论文：https://arxiv.org/abs/2006.08732

2. Improving Conversational Recommender Systems via Knowledge Graph based Semantic Fusion

论文：https://arxiv.org/abs/2007.04032

3. Interactive Path Reasoning on Graph for Conversational Recommendation

论文：https://arxiv.org/abs/2007.00194

 

CF and Top-N Recommendation

 

1. Dual Channel Hypergraph Collaborative Filtering 【百度】

笔记：https://blog.csdn.net/weixin_42052231/article/details/107710301

2. Probabilistic Metric Learning with Adaptive Margin for Top-K Recommendation 【华为诺亚】

3. Controllable Multi-Interest Framework for Recommendation 【阿里】

论文：https://arxiv.org/abs/2005.09347

4. Embedding-based Retrieval in Facebook Search 【Facebook】

论文：https://arxiv.org/abs/2006.11632

5. On Sampling Top-K Recommendation Evaluation

 

Embedding and Representation

 

1. Compositional Embeddings Using Complementary Partitions for Memory-Efficient Recommendation Systems 【Facebook】

论文：https://arxiv.org/abs/1909.02107

2. PinnerSage: Multi-Modal User Embedding Framework for Recommendations at Pinterest 【Pinterest】

论文：https://arxiv.org/abs/2007.03634

3. SimClusters: Community-Based Representations for Heterogeneous Recommendations at Twitter 【Twitter】

4. Time-Aware User Embeddings as a Service 【Yahoo】

论文：https://astro.temple.edu/~tuf28053/papers/pavlovskiKDD20.pdf

 

Sequential Recommendation

 

1. Disentangled Self-Supervision in Sequential Recommenders 【阿里】

论文：http://pengcui.thumedialab.com/papers/DisentangledSequentialRecommendation.pdf

2. Handling Information Loss of Graph Neural Networks for Session-based Recommendation

 

3. Maximizing Cumulative User Engagement in Sequential Recommendation: An Online Optimization Perspective 【阿里】

论文：https://arxiv.org/pdf/2006.04520.pdf

 

RL for Recommendation

 

1. Jointly Learning to Recommend and Advertise 【字节跳动】

论文：https://arxiv.org/abs/2003.00097

2. BLOB: A Probabilistic Model for Recommendation that Combines Organic and Bandit Signals 【Criteo】

3. Joint Policy-Value Learning for Recommendation 【Criteo】

论文：https://www.researchgate.net/publication/342437800_Joint_Policy-Value_Learning_for_Recommendation

Multi-Task Learning

 

1. Privileged Features Distillation at Taobao Recommendations 【阿里】

论文：https://arxiv.org/abs/1907.05171

 

Transfer Learning

 

1. Learning Transferrable Parameters for Long-tailed Sequential User Behavior Modeling 【Salesforce】

 

2. Semi-supervised Collaborative Filtering by Text-enhanced Domain Adaptation 【阿里】

论文：https://arxiv.org/abs/2007.07085

 

AutoML for Recommendation

 

1. Neural Input Search for Large Scale Recommendation Models 【Google】

论文：https://arxiv.org/abs/1907.04471

2. Towards Automated Neural Interaction Discovering for Click-Through Rate Prediction 【Facebook】

论文：https://arxiv.org/abs/2007.06434

 

Federated Learning

 

1. FedFast: Going Beyond Average for Faster Training of Federated Recommender Systems

 

Evaluation

 

1. Counterfactual Evaluation of Slate Recommendations with Sequential Reward Interactions 【Netflix, Spotify】

论文：https://arxiv.org/abs/2007.12986

2. Evaluating Conversational Recommender Systems via User Simulation

论文：https://arxiv.org/abs/2006.08732

3. On Sampled Metrics for Item Recommendation 【Google】

 

4. On Sampling Top-K Recommendation Evaluation

 

Debiasing

 

1. Debiasing Grid-based Product Search in E-commerce 【Etsy】

论文：http://www.public.asu.edu/~rguo12/kdd20.pdf

2. Counterfactual Evaluation of Slate Recommendations with Sequential Reward Interactions 【Netflix, Spotify】

论文：https://arxiv.org/abs/2007.12986

3. Attribute-based Propensity for Unbiased Learning in Recommender Systems: Algorithm and Case Studies 【Google】

论文：https://research.google/pubs/pub49273/

POI Recommendation

 

1. Geography-Aware Sequential Location Recommendation 【Microsoft】

论文：http://staff.ustc.edu.cn/~liandefu/paper/locpred.pdf

 

Cold-Start Recommendation

 

1. MAMO: Memory-Augmented Meta-Optimization for Cold-start Recommendation

论文：https://arxiv.org/abs/2007.03183

2. Meta-learning on Heterogeneous Information Networks for Cold-start Recommendation

论文：https://ink.library.smu.edu.sg/cgi/viewcontent.cgi?article=6158&context=sis_research

 

Others

 

1. Improving Recommendation Quality in Google Drive 【Google】

论文：https://research.google/pubs/pub49272/

2. Temporal-Contextual Recommendation in Real-Time 【Amazon】

论文：https://assets.amazon.science/96/71/d1f25754497681133c7aa2b7eb05/temporal-contextual-recommendation-in-real-time.pdf

 

 

RecSys2020推荐系统论文集锦

第14届推荐人自己的年会RecSys已在9月22日到26日在线上举行。大会围绕着推荐系统相关问题进行了3场KeyNotes，5场Tutorials，接收了41篇长文，26篇短文。

通过对主题演讲以及教程的总结发现，此次大会主要聚焦在了推荐系统中的Bias问题以及对话推荐系统、对抗机器学习在推荐中的应用等。

主题演讲为以下3个：

• 4 Reasons Why Social Media Make Us Vulnerable to Manipulation.

  by Filippo Menczer.

• Bias in Search and Recommender Systems.

  by Ricardo Baeza-Yates.

• "You Really Get Me": Conversational AI Agents That Can Truly Understand and Help Users. 

  by Michelle Zhou.

大会教程为以下6个：

• Adversarial Learning for Recommendation: Applications for Security and Generative Tasks - Concept to Code.

  by Vito Walter Anelli et al.

• Bayesian Value Based Recommendation: A modelling based alternative to proxy and counterfactual policy based recommendation.

  by David Rohde et al.

• Counteracting Bias and Increasing Fairness in Search and Recommender Systems. 

  by Ruoyuan Gao et al.

• Introduction to Bandits in Recommender Systems.

  by Andrea Barraza-Urbina et al.

• Tutorial on Conversational Recommendation Systems.

  by Zuohui Fu et al.

• Tutorial: Feature Engineering for Recommender Systems.

  by Benedikt Schifferer et al.

另外，大会揭晓了今年的最佳论文奖、最佳论文提名奖、最佳短文奖。具体标题及单位如下：

• Progressive Layered Extraction (PLE): A Novel Multi-Task Learning (MTL) Model for Personalized Recommendations
  by H. Tang, J. Liu, M. Zhao, X. Gong (Best Long Paper)

• Exploiting Performance Estimates for Augmenting Recommendation Ensembles
  by G. Penha, R. L. T. Santos (Best Long Paper Runner-up)

• ADER: Adaptively Distilled Exemplar Replay Towards Continual Learning for Session-based Recommendation
  by F. Mi, X. Lin, B. Faltings (Best Short Paper)

最后，小编为大家收集整理了部分相关主题的论文。其中对论文的总结发现，除了以下列出的大类外，还有一些非常有意思的工作，比如对可复现性和公平对比的思考、多智能体强化学习与推荐系统的结合、对矩阵分解和神经协同过滤方法的思考等等。

一. 序列推荐

• From the lab to production: A case study of session-based recommendations in the home-improvement domain.

• ADER: Adaptively Distilled Exemplar Replay Towards Continual Learning for Session-based Recommendation.

• Exploring Longitudinal Effects of Session-based Recommendations.

• Long-tail Session-based Recommendation.

• Context-aware Graph Embedding for Session-based News Recommendation.

• Investigating the Impact of Audio States & Transitions for Track Sequencing in Music Streaming Sessions.

二. 可解释性推荐

• Explainable Recommendation for Repeat Consumption.

• Explainable Recommendations via Attentive Multi-Persona Collaborative Filtering.

• Providing Explainable Race-Time Predictions and Training Plan Recommendations to Marathon Runners.

三. 无偏的和公平的推荐

• Bias in Search and Recommender Systems

• Debiasing Item-to-Item Recommendations With Small Annotated Datasets.

• Keeping Dataset Biases out of the Simulation: A Debiased Simulator for Reinforcement Learning based Recommender Systems.

• Unbiased Ad Click Prediction for Position-aware Advertising Systems.

• Unbiased Learning for the Causal Effect of Recommendation.

• Unbiased Implicit Recommendation and Propensity Estimation via Combinational Joint Learning.

• The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation.

• Counteracting Bias and Increasing Fairness in Search and Recommender Systems.

• Counteracting Bias and Increasing Fairness in Search and Recommender Systems.

• The Connection Between Popularity Bias, Calibration, and Fairness in Recommendation.

• Fairness-aware Recommendation with librec-auto.

• Ensuring Fairness in Group Recommendations by Rank-Sensitive Balancing of Relevance.