论文阅读:Outer Product-based Neural Collaborative Filtering

论文名字

Outer Product-based Neural Collaborative Filtering

来源

 

年份

2018

作者

Xiangnan He, Xiaoyu Du, Xiang Wang, Feng Tian, Jinhui Tang and Tat-Seng Chua

核心点

提出了一个新的多层神经网络架构执行协同过滤,其使用一个外积运算代替NCF建模,从而对嵌入维数之间成对相关性进行建模。

阅读日期

2021.3.12

影响因子

 

页数

7

引用数

 

引用

 

内容总结

文章主要解决的问题及解决方案:

 

文章的主要工作:

1、提出了一个新的多层神经网络架构执行协同过滤,并将其命名为ONCF(Outer product based Neural Collaborative Filtering)。与现有的通过简单连接或元素方式将用户嵌入和项目嵌入相结合的神经网络推荐模型相比,文中方法在嵌入层之上使用外部操作,产生了语义信息,而非二维交互图。

2、在外积得到的交互图上面,提出使用卷积神经网络来学习嵌入维数之间的高阶相关性。

3、文中的工作中,提出了一种新的神经协同过滤(NCF)的架构,将嵌入维度之间的相关性集成到建模中。

4、文中的贡献:(1)提出一个新的神经网络框架ONCF,其使用一个外积运算代替NCF建模,从而对嵌入维数之间成对相关性进行建模。(2)在ONCF框架下,提出一个名为ConvNCF的新模型,它利用CNN以分层的方式从局部到全局学习嵌入维数之间的高阶相关性。(3)对两个公开的内隐反馈数据进行了实验,验证了ONCF方法的有效性和合理性。(4)这是第一个使用CNN学习用户嵌入和项目(item)嵌入交互功能的作品。

5、模型结构:

论文阅读:Outer Product-based Neural Collaborative Filtering_第1张图片

模型的目的是估计用户和物品之间的匹配分数,进而基于此分数矩阵可以得到将物品推荐给用户的个性化推荐列表。

6、模型的输入和嵌入层中,首先给出用户和物品i的特征,这些特征可以是它们的ID,用户性别,物品种类等等。将他们的特征编码成one-hot向量表示,进而得到分别表示用户和物品的特征向量。进而通过学习可以得到它们的嵌入表示,学习方式如下所示:

,

其中,分别表示用户特征和物品特征的嵌入矩阵。K,M,N分别表示嵌入维度,用户的数量,物品的数量。在纯粹的CF(Collaborative filtering)方法中,只有ID作为特征信息来对用户和物品进行描述。

7、交互映射层(Interaction Map),这里是本文的最重要的部分,也是本文的创新点。本文提出使用外部积来对用户嵌入和物品嵌入进行交互图的建模:

其中,其中的每一个元素可以表示为

8、本文认为使用外积在以下三个方面更有利:

1)它包含了矩阵分解(MF) - CF的主要方法-它只考虑交互图中的对角元素;

2)考虑到不同嵌入维数之间的相关性,编码的信号比MF多;

3)比简单的拼接操作更有意义,简单的拼接操作只保留嵌入的原始信息,不建模任何相关性。此外,最近有研究表明,明确地对特征嵌入的交互进行建模对于深度学习模型在稀疏数据上推广特别有用,而使用连接则不是最优方法。

4)最后,交互映射的另一个潜在好处在于它的2D矩阵格式——与图像相同。在这方面,交互图中编码的两两相关可以被视为“图像”的局部特征。众所周知,深度学习方法在计算机视觉领域取得了最大的成功,许多强大的深度模型,特别是基于CNN 如ResNet和DenseNet已经被开发用于从二维图像数据中学习。构建一个2D交互映射,也可以将这些强大的CNN模型用于学习推荐任务的交互功能。

9、Convolution NCF

文中为解决MLP(多层感知网络)的缺点,提出在交互图上使用CNN来提取信号。CNN使用的参数量比MLP少得多,进而可以构建比MLP更深的网络模型,有利于学习嵌入维度之间的高阶相关性。

论文阅读:Outer Product-based Neural Collaborative Filtering_第2张图片

10、文中采用BPR损失函数:

 

文章内容:

 

 

实验结果:

 

附录:

 

 

参考文献:

 

 

你可能感兴趣的:(论文阅读,神经网络,人工智能,深度学习,推荐系统,算法)