如果我们要阐明因果关系, 且对照实验不可行, 我们可以考虑观察性实验.

1 潜在结果下的因果效应和选择偏差

对单元 ${\displaystyle i(i=1,\cdots ,n)}$, 我们有处理前协变量 ${\displaystyle X_i}$, 指示是否处理的变量 ${\displaystyle Z_i}$, 观测结果 ${\displaystyle Y_i}$ (${\displaystyle Y_i(1),Y_i(0)}$). 假设 $$\{X_i,Z_i,Y_i(1),Y_i(0){\}}_{i=1}^n\stackrel{\mathrm{i}.\mathrm{i}.\mathrm{d}}{\sim }\{X,Z,Y(1),Y(0)\}.$$ 这样我们去掉下标 ${\displaystyle i}$, 定义 ${\displaystyle \tau =\mathbb{E}[Y(1)-Y(0)]}$, 以及两个组$$\begin{array}{rl}& {\tau }_{\mathrm{T}}=\mathbb{E}[Y(1)-Y(0)|Z=1],{\tau }_{\mathrm{C}}=\mathbb{E}[Y(1)-Y(0)|Z=0].\end{array}$$
根据 (1.1), $$\begin{array}{rl}{\tau }_{\mathrm{T}}& =\mathbb{E}(Y|Z=1)-\mathbb{E}(Y(0)|Z=1),\\ {\tau }_{\mathrm{C}}& =\mathbb{E}(Y(1)|Z=0)-\mathbb{E}(Y|Z=0).\end{array}$$ ^[1]

定义简单均值之差^[2] $$\begin{array}{rl}{\tau }_{\mathrm{PF}}& =\mathbb{E}(Y|Z=1)-\mathbb{E}(Y|Z=0)\\ & =\mathbb{E}(Y(1)|Z=1)-\mathbb{E}(Y(0)|Z=0).\end{array}$$
这样,$$\begin{array}{rl}{\tau }_{\mathrm{PF}}-{\tau }_{\mathrm{T}}& =\mathbb{E}[Y(0)|Z=1]-\mathbb{E}[Y(0)|Z=0],\\ {\tau }_{\mathrm{PF}}-{\tau }_{\mathrm{C}}& =\mathbb{E}[Y(1)|Z=1]-\mathbb{E}[Y(1)|Z=0]\end{array}$$ 通常不是 ${\displaystyle 0}$, 它们可以用来量化选择偏差.

在 2.7节 中, 我们在 CRE 中假定 ${\displaystyle Z\perp \perp \{Y(1),Y(0)\}}$, 则 $$\begin{array}{}\text{(1.1)}& {\tau }_{\mathrm{PF}}={\tau }_{\mathrm{T}}={\tau }_{\mathrm{C}}=\tau .\end{array}$$
从上面的讨论看出, 随机化最主要的好处是平衡潜在结果在两个组中的分布, 这比起观测协变量的平衡要远远更强. 如果没有随机化, 选择偏差可能会很大. 这便是观察性实验本质的难点所在.

2 因果效应非参数检验的充分条件

2.1 可识别性

观察性实验的因果推断很有挑战, 它依赖很强的假设. 我们可以用处理前协变量的信息, 假设$$\begin{array}{rl}\mathbb{E}[Y(0)|Z=1,X]& =\mathbb{E}[Y(0)|Z=0,X],\\ \text{(2.1)}& \mathbb{E}[Y(1)|Z=1,X]& =\mathbb{E}[Y(1)|Z=0,X].\end{array}$$
这个假设说明, 两个组潜在结果的差别, 完全源于观察到协变量的差别. 所以如果协变量的值给的是一样的, 潜在结果在两组的均值应该一样. 数学上看, 这说明了 (1.1) 的条件版本是一样的: $$\tau (X)={\tau }_{\mathrm{T}}(X)={\tau }_{\mathrm{C}}(X)={\tau }_{\mathrm{PF}}(X),$$ 这里$$\begin{array}{rl}\tau (X)& =\mathbb{E}[Y(1)-Y(0)|X],\\ {\tau }_{\mathrm{T}}(X)& =\mathbb{E}[Y(1)-Y(0)|Z=1,X],\\ {\tau }_{\mathrm{C}}(X)& =\mathbb{E}[Y(1)-Y(0)|Z=0,X],\\ {\tau }_{\mathrm{PF}}(X)& =\mathbb{E}[Y|Z=1,X]-\mathbb{E}[Y|Z=0,X].\end{array}$$ 特别地, ${\displaystyle \tau (X)}$ 经常被叫成 条件平均因果效应 (CATE).

例如

• ${\displaystyle \theta =\mathbb{E}[Y]}$ 是非参数可识别的, 如果我们的 ${\displaystyle Y_i}$ 是 IID 采样的.
• Pearson 相关系数 ${\displaystyle \theta ={\rho }_{YX}}$ 是非参数可识别的, 如果 ${\displaystyle (X_i,Y_i)}$ 采样是 IID 的.

可识别性在观察性实验中是至关重要的. 特别地, ${\displaystyle \tau =\mathbb{E}[Y(1)-Y(0)]}$ 本身无法判断是否可识别. 但是在假设 (2.1) 下, 它是非参数可识别的.

接下来如果不加特别说明, 我们关注 ${\displaystyle \tau }$.

对于离散的协变量, 可以写成$$\begin{array}{rl}\tau =& \sum _x\mathbb{E}[Y|Z=1,X=x]\mathbb{P}(X=x)\\ & -\sum _x\mathbb{E}[Y|Z=0,X=x]\mathbb{P}(X=x),\end{array}$$ 以及 $$\begin{array}{rl}{\tau }_{\mathrm{PF}}=& \sum _x\mathbb{E}[Y|Z=1,X=x]\mathbb{P}(X=x|Z=1)\\ & -\sum _x\mathbb{E}[Y|Z=0,X=x]\mathbb{P}(X=x|Z=0).\end{array}$$
我们通常会给出一个更强的假设:

有时候还会有一个更强的假设:

2.2 可忽略性假设的合理性

可忽略性要求, 找到 ${\displaystyle X}$ 之后, 剩下实验单元的分组就不会存在混杂变量了, 也即随机性造成的影响可忽略. 我们可以基于数据生成的流程来解释这个假设: 如果 $$\begin{array}{rl}Y(1)& =g_1(X,V_1),\\ Y(0)& =g_0(X,V_0),\\ Z& =\mathbf{1}\{g(X,V)\ge 0\},\end{array}$$ 这里 ${\displaystyle (V_1,V_0)\perp \perp V}$, 则 可忽略性、 强可忽略性 就都成立. 这里 "通常的诱因" ${\displaystyle X}$ 和结果都被观测到了, 剩下的随机的部分彼此独立. 而如果是 $$\begin{array}{rl}Y(1)& =g_1(X,U,V_1),\\ Y(0)& =g_0(X,U,V_0),\\ Z& =\mathbf{1}\{g(X,U,V)\ge 0\},\end{array}$$ 这里 ${\displaystyle (V_1,V_0)\perp \perp V}$, 则那两个假设一般不成立, 因为 ${\displaystyle U}$ 是个没有被测量到的诱因

3 两个简单的估计策略和它们的缺陷

3.1 基于离散协变量的分层或标准化

如果协变量 ${\displaystyle X_i\in \{1,\cdots ,K\}}$ 是离散的, 则 可忽略性 表示为 $$Y(z)\perp \perp Z|X=k,(z=0,1;k=1,\cdots ,K),$$ 这本质上假设观察性研究是一个在 超总体 下的 SRE. 因此我们用估计量 $$\hat{\tau }=\sum _{k=1}^K{\pi }_{[k]}\{{\hat{\bar{Y}}}_{[k]}(1)-{\hat{\bar{Y}}}_{[k]}(0)\},$$ 这和之前讲的 分层/后分层 一样.
这个方法依然广泛在实践中被采用.

3.2 结果回归

结果回归中最常用的方法是如下的回归: $$\mathbb{E}[Y|Z,X]={\beta }_0+{\beta }_{z}Z+{\beta }_x^{\mathrm{T}}X.$$ 如果这个线性模型正确, 则$$\begin{array}{rl}\tau (X)& =\mathbb{E}(Y|Z=1,X)-\mathbb{E}(Y|Z=0,X)\\ & =({\beta }_0+{\beta }_z+{\beta }_x^{\mathrm{T}}X)-({\beta }_0+{\beta }_x^{\mathrm{T}}X)={\beta }_z,\end{array}$$ 这表明因果效应的值与协变量无关. 再结合可忽略性, 就有 $$\tau =\mathbb{E}[\tau (X)]={\beta }_z.$$ 因此如果可忽略性成立、结果模型是线性的, 则平均因果效应就是 ${\displaystyle Z}$ 的系数.
当然这两个条件也是比较强的. 这个结果其实即使在 CRE 中也不是最优的. 如果我们假设 $$\mathbb{E}[Y|Z,X]={\beta }_0+{\beta }_{z}Z+{\beta }_x^{\mathrm{T}}X+{\beta }_{zx}^{\mathrm{T}}XZ,$$ 则 $$\begin{array}{rl}\tau (X)& =\mathbb{E}(Y|z=1,X)-\mathbb{E}(Y|Z=0,X)\\ & =({\beta }_0+{\beta }_z+{\beta }_x^{\mathrm{T}}X+{\beta }_{zx}^{\mathrm{T}}X)-({\beta }_0+{\beta }_x^{\mathrm{T}}X)\\ & ={\beta }_z+{\beta }_{zx}^{\mathrm{T}}X,\end{array}$$ 再结合可忽略性 $$\tau =\mathbb{E}[\tau (X)]={\beta }_z+{\beta }_{zx}^{\mathrm{T}}\mathbb{E}[X],$$ 可以用 ${\displaystyle {\hat{\beta }}_z+{\hat{\beta }}_{zx}^{\mathrm{T}}\bar{X}}$ 来估计 (这里用了回归的系数和样本均值). 如果我们让 ${\displaystyle \bar{X}=0}$, 则估计量就是 ${\displaystyle Z}$ 的系数.

一般地, 我们可以用更复杂的模型来估计因果效应, 比如基于实验和对照数据构造预测量 ${\displaystyle {\hat{\mu }}_1(X),{\hat{\mu }}_0(X)}$, 则 $$\hat{\tau }(X)={\hat{\mu }}_1(X)-{\hat{\mu }}_0(X)$$ 可以估计条件平均因果效应, 有时也称为 结果回归估计量; 以及 $${\hat{\tau }}^{\mathrm{reg}}=\frac{1}{n}\sum _{i=1}^n\{{\hat{\mu }}_1(X_i)-{\hat{\mu }}_0(X_i)\}$$ 估计平均因果效应.