关注我们，一起学习
标题: Multi-Treatment Multi-Task Uplift Modeling for Enhancing User Growth
地址：https://arxiv.org/pdf/2408.12803
学校，公司：佐治亚理工学院，腾讯
- 导读 =======
以往的文章主要考虑的式binary treatment的情况，本文提出了一种multi-treatment方法MTMT。将多干预问题确定为具有分层响应的因果推理问题，包括基础效应（base effect）（来自提供的干预）和增量效应（incremental effect）（来自提供特定类型的干预），其中基础效应在数值上可能远远大于增量效应。
MTMT分别对用户特征和干预进行编码。用户特征编码器使用MMOE对相关用户特征进行编码，从而考虑任务间的关系。产生的嵌入用于衡量每个任务的自然响应（response）。引入了一个干预-用户 特征交互模块来模拟每种干预和用户特征之间的相关性。根据产生的干预感知表征分别得出每个任务的基础和增量干预效果。
alt text
2.1 任务引导的特征编码器
为了建模任务间的关系并学习任务特定的表征，作者采用了经典的MMoE结构来进行特征编码。第i个用户的第k个任务的编码表示，表示如下，其中表示n个专家网络中的第j个，为门控网络。
作者采用ResNet18作为每个专家网络的骨干网络。来自专家网络的嵌入是堆叠的，然后由相应的门过滤，以生成任务的表示。门控网络可以是来自输入的简单线性投影结合softmax得到
每个任务的表示仅包含非干预的信息，可用于通过线性变换预估对照组的自然响应：
对treatment进行one-hot编码，结合可学习权重得到干预的表征，其中表示是干预还是对照，表示是哪种干预
2.2 干预-用户特征交互模块
alt text
为了显式地利用干预特征并模拟它们与用户特征的关系，本节提出了基于自注意力的特征交互模块。如图3所示，将干预嵌入作为query，用户特征嵌入作为key和value。表达如下，
通过MLP对进行处理进一步细化有用信息，对得到的嵌入进行预测，预测干预的基础uplift分和第m个干预的增量uplift分，同理这里的前者表示干预uplift，后者表示具体某种干预的lift。
2.3 多干预多任务uplift估计
给定自然响应度（对照组的响应度），基础uplift分和增量uplift分，则可以得到用于在干预下的响应度
损失函数
分别考虑实验组和对照组的loss得到最终的loss如下
交流群：点击“联系 作者”--备注“研究方向-公司或学校”
欢迎|论文宣传|合作交流
往期推荐
CIKM2024 | LightGODE: 挑战传统图推荐范式, 基于轻量级图ODE推荐算法
CIKM'24 | OptDist: 学习最优分布进行LTV预估
长按关注，更多精彩
点个在看你最好看