关注我们,一起学习
参考文献:MELT: Mutual Enhancement of Long-Tailed User and Item for Sequential Recommendation
链接: https://arxiv.org/pdf/2304.08382.pdf
代码: https://github.com/rlqja1107/MELT
会议: SIGIR 2023
1.引言
长尾问题是序列推荐系统(SRS, Sequential Recommender Systems)中一直存在的问题,且同时存在用户的长尾问题和item的长尾问题。现有的针对长尾问题的研究仅仅单方面的关注用户侧或者item侧。然而,本文发现长尾用户和长尾item问题通常会同时存在,二者只处理其一去会导致另一个长尾现象性能次优。因此作者提出长尾用户和长尾item相互增强的框架(MELT, Mutual Enhancement of Long-Tailed user and item),能够从用户和item的角度共同去缓解长尾问题。MELT由双分支组成,每条分支分别响应长尾用户和item,并且分支训练时是相互增强的。MELT与模型无关,可以集成进现有的SRS模型中。
2.方法
2.1 用户分支
为了缓解长尾用户缺乏交互的问题,本文利用基于用户对整体item消费历史获得的头部用户表征与从用户部分交互中获得的用户表征之间的信息差。具体的做法是,将头部用户的整个item序列截断成包含R个最近交互的子序列
代表长尾用户的交互序列,旨在模拟用户交互缺失情况下的数据。接着,模型通过学习头部用户的表征并转换成长尾用户的的表征。正式地,使用序列编码器来编码头部用户的子序列表征:
捕获用户用户的短期兴趣倾向,目标是将包含长尾用户的所有用户表征都近似成头部用户,因此优化损失为:
其中G代表embedding,代表头部用户的表征,即优化目标
2.2 item分支
类似于用户分支,为了缓解长尾item缺乏交互的问题,也利用头部item和长尾item的信息差。定义一组关于项目的交互,表示一个以项目𝑖结尾的用户子序列集合,使得
为了模拟信息差,对序列集合进行随机采样,同理于长尾用户表征,通过序列编码器之后的输出为
于是损失函数也变成
2.3 双分支间相互增强
如上,已经拥有了用户和item的独立分支,需要将分支连接起来以达到它们之间相互增强的作用,从而共同缓解长尾用户和项目问题。首先,用户分支利用从item分支获得的embedding生成表征G中包含的知识(下图中的红色箭头)。需要注意的是,在用户分支中,在将用户u序列(馈送到序列编码器之前,序列中的每个item都被转换到同等的d维度类似地,item分支中利用从用户分支中获取到的embedding生成内容G来丰富item子序列编码后的内容。因此在训练过程中,分支之间的信息传递可以让优化过程兼顾考虑长尾用户和长尾item问题,而不会使单分支的优化导致另一分支不起作用或陷入局部最优
3 实验效果
MELT嵌入其它模型后的提升
交流群:点击“联系 作者”--备注“研究方向-公司或学校”
欢迎|论文宣传|合作交流
往期推荐
[SIGIR'23「华中科技」用提示学习做新闻推荐
2023-04-22
[「亚马逊」GPT4Rec:用于个性化推荐和用户兴趣解释的生成模型框架
2023-04-16
[DiffuRec: 如何使用扩散模型进行序列推荐
2023-04-14
[AAAI'23「人大+华为」Final MLP:一种用于CTR预测的增强型双流MLP模型
2023-04-09
长按关注,更多精彩
点个在看你最好看
