综述:大语言 RDRec:如何利用大语言模型做推荐系统模型在信息抽取上的应用_rdrec 模型

推荐系统

RDRec: Rationale Distillation for LLM-based Recommendation

大型语言模型(LLM)通过文本提示实现用户与物品间的有效语义推理,其推荐模型备受瞩目。然而,多数方法未深入探究交互背后的逻辑,如用户偏好与物品属性,这限制了 LLM 在推荐领域的推理深度。本文创新性地提出了原理蒸馏推荐器(RDRec),一种精简模型,旨在汲取更大语言模型(LM)生成的深层原理。借助用户及物品相关评论中的原理,RDRec 精准描绘了推荐对象的轮廓。实验结果显示,RDRec 在 Top-N 及序列推荐任务中均达到了业界顶尖水平。源代码已公开于https://github.com/WangXFng/RDRec。

https://arxiv.org/abs/2405.10587

背景

众所周知,大语言模型强大的推理能力已经得到了大家的广泛认可,也因此大语言模型在推荐系统领域也取得了一些发展,比如:新闻、商品推荐,可解释性推荐等多方面。另外,在Zero Shot / Few Shot和冷启动推荐等领域也是研究热点。

最直接的方法就是直接把用户信息和商品ID通过提示词进行预测;以及最近提出的P5范式,通过将用户-商品交互、用户行为序列和评论转化为文本到文本的提示,为LLMs推荐系统提供了更深层次的语义理解;还有通过蒸馏技术改进P5方法,提升了性能、缩短了推理时间。

为了解决这个问题,本文作者提出了一种推荐系统框架:RDRec(Rationale Distillation),该框架可以从用户所有有关的评论或关于商品的评论中,派生出更精确的用户和商品档案,用于推荐系统,如下图(cd)所示。

综述:大语言 RDRec:如何利用大语言模型做推荐系统模型在信息抽取上的应用_rdrec 模型_第1张图片

【一一AGI大模型学习 所有资源获取处一一】

①人工智能/大模型学习路线

②AI产品经理入门指南

③大模型方向必读书籍PDF版

④超详细海量大模型实战项目

⑤LLM大模型系统学习教程

⑥640套-AI大模型报告合集

⑦从0-1入门大模型教程视频

⑧AGI大模型技术公开课名额

RDRec 框架

RDRect框架包括两个核心阶段:交互逻辑蒸馏和基于逻辑的推荐。

交互逻辑蒸馏

作者采用了一种简洁的提示模板来从用户评论中提取出用户偏好和商品特征:

你可能感兴趣的:(语言模型,人工智能,自然语言处理,AI大模型,产品经理,大模型,大语言模型)