关注我们，一起学习~
标题：Transfer Learning on Heterogeneous Feature Spaces for Treatment Effects Estimation
地址：https://arxiv.org/pdf/2210.06183.pdf
代码：https://github.com/vanderschaarlab；https://github.com/ioanabica/HTCE-learners
会议：NIPS 2022
学校：牛津，剑桥，加州大学洛杉矶分校，图灵研究所
-
导读
本文考虑通过利用来自具有不同特征空间的源域的相关信息来改进对感兴趣的目标域的条件平均干预效果（CATE）的估计的问题。这种用于CATE估计的异质迁移学习问题在诸如医疗保健等领域普遍存在，希望在这些领域评估新患者群体治疗的有效性，而对于这些患者群体，数据是有限的。在本文中，通过引入模块来解决这个问题，这些模块使用表征学习来处理异构特征空间，以及具有共享和私有层的灵活多任务架构来跨域在潜在结果函数之间传递信息。
文中提出了一个模块，该模块可用于在源域和目标域之间迁移信息，该模块有三种结合方式分别和现有的因果效应估计方式相对应，分别是单步，两步以及域内。单步即考虑的是slearner，tlearner这种；两步考虑的是类似于DML，DRL这些需要两步计算的方式；域内是类似于TARNet，CFRNet这种直接在一个模型中计算的方式。
-
问题构建
令随机变量为，表示干预，表示离散的或连续的效果。令表示干预机制。不同个体可以有两种输出，即干预和不干预情况下的效果，可以整体表示为。令，。我们的目标是估计CATE，公式如下，
假设源数据集为，目标数据集为，不同域的数据具有不同的特征空间, 。并且源域和目标域具有不同的分布，不同的干预分配机制，以及不同的条件分布。这导致了不同的联合分布。尽管如此，本文隐含地假设跨域的这些条件分布之间存在共享结构，以实现迁移。目标是估计目标域的条件平均干预效果（CATE）：
-
为CATE迁移学习器构建模块
在本节中，提出了为CATE学习器提供灵活迁移方法的模块。有三方面挑战，
- （1）处理源域和目标域之间的异构特征空间
- （2）在跨域间共享信息
- （3）在单个域内共享信息
3.1 处理源域和目标域的异构特征空间
考虑以下源域和目标域协变量，的拆分，这样就有了一组特征专用于自己源域和目标域，和一组共享特征，使用几个编码器来创建一个通用表征，该表征可以用作不同迁移CATE学习器的输入。
令特定域的编码器，将特征映射到相同维度，即。令为共享特征编码器，表示为。如图1所示，源域的特征被编码为，目标域特征被编码为。为了抑制冗余并确保编码出输入特征中的不同信息，作者使用正则化损失来增强它们的正交性，公式如下，其中表示不同的表征矩阵，矩阵的行为一个样本表征。
2.2 跨域潜在效果响应函数中的共享信息
本节提出了一种跨域函数之间共享信息的模块，受到FlexTENet架构和多任务学习的启发，包含每个域的私有层（子空间）以及共享层。如图2所示，对于每个干预，都构建一个如上图的结构，源域和目标域包含L层，然后有共享信息和特定域的信息，即三个分支。第层的输入为，，，经过L层后可以得到最终的输出。
令，分别为源域和目标域中预测潜在效果的函数，,。其中为输入表征，以目标域为例，为线性函数和sigmoid函数。损失函数构建为下式，
并且可以构建正交损失函数为下式，其中m为每一层对应表征矩阵的维度，θ为参数。
-
异构迁移因果效应学习器
基于上面提出的模块，现在为标准meta learner和基于神经网络（NN）的CATE估计器提出了一种迁移学习替代方案，称之为异构迁移因果效应（HTCE）学习器。
3.1 对于meta learner
基于现有的因果效应估计方式，可以将实现方式分为单步和两步两种。
3.1.1 单步
单步的方式，估计和，然后计算CATE为。
对于HTCE-T-Learner（图3a），构建一个模型，其中和之间没有参数共享。考虑异质特征空间的特定干预的编码器，，，然后可以得到相应的表征，，预测函数表示为，。为了实现迁移，使用2.2中的模块进行信息共享。对于HTCE-S-Learner（图3b），将干预w拼接到共享输入特征。这部分得到的表征为，。
3.1.2 两步
两步学习器由第一阶段和第二阶段组成，第一阶段用于估计伪结果。如DRL，DML等。这里以DRL为例，构建HTCE-DR-Learner（图4）。对于估计第一阶段的参数，使用了一种类似于HTCE-T-learner的方法，其中每个分支都有自己的参数。为了处理异质特征空间，考虑了潜在结果函数的特定干预的特征编码器和用于倾向估计的特征编码器，从而得到，，，。同样结合前面的共享参数的模块，可以得到，。从而基于第一步来得到伪输出，公式如下，
第二阶段基于伪输出来拟合，也是同样类似的过程，这里不赘述。
3.2 域内共享信息
这种类型以TARNet为例，这里设计三个编码器，在不同域的不同干预中共享信息。然后，构建另一个模块，该模块使用多层神经网络表示特定于域的编码器，。这些特定于域的表征层用于共享信息。然后可以得到，
-
结果
image.png
交流群：点击“联系作者”--备注“研究方向-公司或学校”
欢迎|论文宣传|合作交流
往期推荐
[深度点击率预估模型的过拟合现象剖析
2022-10-22
[「阿里」SCI：基于子空间学习的个体干预效果（ITE）估计方法
2022-10-15
[NIPS 2022 推荐系统，因果效应论文集锦
2022-10-04
[CIKM 2022 推荐系统，因果推断论文整理
2022-09-24
长按关注，更多精彩
动动小手吧