因果推断与机器学习

课程来源：中国人民大学商学院陈志远 · 课程网站 · 第一讲讲义

第一讲｜课程导论

1. 相关性与因果性

有药物售卖点的城市康复时间更长，并不说明药物无效：药物优先在疫情严重的地区销售，这些地区本来就可能康复更慢。

• 相关性：X 与 Y 在数据中存在关联。
• 因果性：改变 X 会导致 Y 改变。
• 混淆变量：同时影响处理分配与结果的变量。例如，气温同时影响冰淇淋销量和溺水风险。

反向因果：以为是 X → Y，实际可能是 Y → X。例如，犯罪多促使当地部署更多警察。

选择偏差（选择性偏误）：两组人本来就存在系统差异。例如，名校生入学前的能力、家庭资源可能就不同，收入差距不能全部归因于名校。

遗漏变量偏误：分析中漏掉了必要的混淆变量。例如，讨论“戴眼镜与聪明”时，阅读习惯可能是需要考虑的共同因素。

2. 潜在结果框架

Yᵢ(1) 表示接受处理时的结果，Yᵢ(0) 表示未接受处理时的结果。个体因果效应为：

$$\tau_i=Y_i(1)-Y_i(0)$$

同一个人只能观察到其中一种结果，另一种是反事实。

• ATE：总体的平均处理效应。
• ATT：实际接受处理者的平均处理效应。

观察差异 = ATT + 选择偏误

$$\begin{aligned} E[Y\mid D=1]-E[Y\mid D=0] &=\underbrace{E[Y(1)-Y(0)\mid D=1]}_{\mathrm{ATT}}\\ &\quad+\underbrace{E[Y(0)\mid D=1]-E[Y(0)\mid D=0]}_{\text{选择偏误}} \end{aligned}$$

选择偏误指：即使两组都不接受处理，平均结果仍有差异。它可以为正，也可以为负。

3. 随机实验与因果识别

随机分配使两组在平均意义上可比，消除系统性的选择偏误，但有限样本仍存在随机误差。

例如 A/B 测试：将用户随机分配到旧版与新版页面，比较转化率差异。

识别因果的关键是：找到可信的对照，判断处理组如果没有接受处理，结果本来会怎样。

第二讲｜概率论

1. 随机变量与分布

随机变量：把随机结果映射为数值的函数。例如，抛两次硬币，X 表示正面次数，可能取 0、1、2。

分布：描述随机变量取不同值或落在不同区间的概率。每个随机变量都有分布，但不一定是正态分布，也不一定有概率密度函数。

• 离散型：如骰子点数，可以逐个列出可能取值。
• 连续型：如身高，用落在某个区间的概率描述；曲线下的面积表示概率，高度是概率密度。

累积分布函数统一表示“不超过 x 的概率”：

$$F_X(x)=P(X\le x)$$

2. 正态分布

$$X\sim N(\mu,\sigma^2)$$

钟形、左右对称，取值集中在均值 μ 附近。μ 决定中心，方差 σ² 决定分散程度，标准差 σ 越大，曲线越宽。

落在 μ ± σ、μ ± 2σ、μ ± 3σ 内的概率，分别约为 68%、95%、99.7%。

3. 期望与方差

期望：按概率加权的平均值，表示随机变量的平均水平。公平骰子的期望为 3.5，期望不一定是实际能取到的值。

$$E[X]=\sum_x xP(X=x)$$

连续型则用积分：

$$E[X]=\int_{-\infty}^{\infty}xf(x)\,dx$$

方差：偏离期望的距离，平方后取平均，衡量分散程度。平方避免正负偏差抵消。

$$\operatorname{Var}(X)=E[(X-E[X])^2]=E[X^2]-(E[X])^2$$

标准差是方差的平方根，与原变量单位相同。正态分布中的 μ 就是期望，σ² 就是方差。

4. 大数定律与中心极限定理

大数定律（LLN）：对独立同分布、期望有限的样本，样本量越大，样本均值越趋近总体期望。

$$\bar X_n=\frac1n\sum_{i=1}^nX_i\xrightarrow{p}\mu$$

中心极限定理（CLT）：对独立同分布、方差有限且非零的样本，标准化后的样本均值趋近标准正态分布。

$$\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\xrightarrow{d}N(0,1)$$

也就是样本量足够大时，样本均值近似服从均值为 μ、方差为 σ²/n 的正态分布。趋近正态的是反复抽样得到的“样本均值的分布”，不是原始数据的分布。

5. 条件概率与条件期望

条件概率：已知 B 发生时，A 发生的概率。

$$P(A\mid B)=\frac{P(A\cap B)}{P(B)},\quad P(B)>0$$

条件期望：限定某一群人后，求 Y 的平均值。E[Y] 是总体平均值，E[Y ∣ D = 1] 是参加培训者的平均值。

条件期望函数（CEF）：不同的 x 对应不同的组内平均值，形成一个函数。

$$m(x)=E[Y\mid X=x]$$

迭代期望定律：先求各组平均值，再按各组占比加权，就得到总体平均值。

$$E[Y]=E[E[Y\mid X]]$$

例如，参加培训者占 30%，平均收入 12,000 元；未参加者占 70%，平均收入 8,000 元。

$$E[Y]=0.3\times12000+0.7\times8000=9200$$

与因果的区别：两组条件期望的差，可能包含两群人原本的差异，即选择偏误。因此，观察差异不一定等于因果效应。

6. 预测和因果

预测可以是黑箱，而因果必须是白箱。

回归的因果解释需要条件独立等识别假设：给定合适的控制变量 X 后，D 与潜在结果独立。

$$(Y(0),Y(1))\perp D\mid X$$

意思是同一 X 水平下，两组在潜在结果上可比；不是说 D 不影响实际结果 Y。

预测关注相关性，因果需要识别策略

第三讲｜有向无环图（DAG）

混淆变量可能导致选择偏误，相当于没有考虑混淆变量对结果的影响。

遗漏变量可能导致估计有偏，相当于使得估计的均值有偏移。

用节点表示随机变量，用有向边表示直接的因果效应，无环相当于因果只沿时间向前不能构成循环。

中介变量与“阻断”

链式结构：D → Z → Y。例如，上大学 → 获得技能 → 收入提高。Z 是中介，传递了 D 对 Y 的一部分或全部作用。

总效应：改变 D，让技能等后续变化自然发生，最终 Y 改变多少。直接效应：把 Z 固定在同一水平，改变 D 对 Y 的影响。在这里的简单模型中，总效应 = 直接效应 + 经 Z 的间接效应。

为什么叫阻断？控制 Z 是在 Z 相同的条件下比较，不再把“D 改变 Z，Z 再改变 Y”带来的差异算进去。不是现实中的因果关系消失了，而是这条路径的作用不再计入控制后的比较。

• 只有 D → Z → Y：控制 Z 后，唯一的因果路径被阻断，没有直接效应。
• 还有 D → Y：只阻断经过 Z 的路径，直接路径仍然保留。

例如，假设上大学通过技能使月收入增加 2,000 元，其他途径增加 1,000 元，总效应为 3,000 元。固定技能后，只剩不经过技能的 1,000 元。

估计总效应时，不应控制这个中介；估计直接效应时，需要额外的识别条件，不能仅凭加入中介的回归系数判断。

混淆变量与分叉结构

分叉结构：D ← Z → Y。Z 同时影响 D 和 Y，是两者的共同原因。

例如，上大学 ← 入学前能力 → 收入。能力强的人更可能上大学，也可能在不上大学时就获得更高收入。因此，大学生收入更高，既可能有教育的作用，也可能有原有能力差异。

为什么要控制 Z？在能力相同的人之间比较，排除“能力同时影响教育与收入”带来的关联。这里阻断的是 D ← Z → Y 这条非因果路径，不是教育本身对收入的作用。若还有其他混淆因素，也需要适当调整。

与中介变量的区别：

• 混淆变量是 D 与 Y 的共同原因。控制它，是去掉原有差异。
• 中介变量是 D 影响 Y 的中间环节。控制它，是去掉经过该环节的作用。

同样是技能，入学前技能可能是混淆变量，上大学后提升的技能可能是中介变量。关键看因果关系与发生时间。

后门准则

后门路径：从处理 D 到结果 Y 的路径中，第一条边的箭头指向 D。沿路径走时，不要求一直顺着箭头。

典型结构：D ← Z → Y。比如“冰淇淋销量 ← 气温 → 溺水事故”，气温让两者相关，但这不代表冰淇淋导致溺水。

混淆变量是共同原因这个“节点”，后门路径是由边连接起来的“通道”，两者不是同一个概念。路径也可以更长，例如 D ← A ← B → Y。

后门准则：控制变量集合 X 满足以下两点，就可以用于后门调整，识别 D 对 Y 的总效应：

• 阻断所有从 D 到 Y 的后门路径。
• 不包含 D 的后代，也就是由 D 直接或间接导致的变量。

例子：研究教育对收入的总效应，控制“入学前能力”，堵住“教育 ← 能力 → 收入”；不控制“教育后获得的技能”，保留“教育 → 技能 → 收入”。

满足准则后，在相同 X 的人中比较，再按总体中 X 的分布加权：

$$\mathrm{ATE}=\sum_x\left(E[Y\mid D=1,X=x]-E[Y\mid D=0,X=x]\right)P(X=x)$$

还需要重叠条件：所比较的 X 水平下，既有接受处理的人，也有未接受处理的人。连续型 X 用积分代替求和。

注意：阻断所有后门路径，不是控制路径上的所有变量。碰撞节点会使路径自然关闭，控制它或它的后代反而可能打开路径。后门准则是充分条件，并非所有因果识别方法都必须依赖后门调整。

碰撞节点与碰撞偏误

碰撞节点：两个箭头指向同一个变量，例如 D → X ← Y。X 是 D 和 Y 的共同结果，与混淆变量的“共同原因”相反。

例子：才华 → 成为明星 ← 颜值。假设总体中才华与颜值独立，且两者都能提高成为明星的机会。

只观察明星，相当于控制“成为明星”这个碰撞节点。在这种筛选机制下，颜值较低的人可能需要更高的才华才能入选，于是明星群体中可能出现才华与颜值的负相关。这不代表颜值会降低才华，而是筛选造成了关联。

为什么控制后反而有偏？

• 不控制 X：D → X ← Y 这条路径在 X 处关闭，不通过它传递统计关联。
• 控制 X：包括只选 X = 1 的样本，会打开这条路径，可能引入原本没有的关联。
• 控制碰撞节点的后代，也可能打开这条路径。

这里的 D → X ← Y 是碰撞路径，不是后门路径，因为第一条边的箭头从 D 向外。碰撞节点也可能出现在更复杂的后门路径中。

第四讲｜匹配与分层

1. 条件独立假设与重叠条件

条件独立假设（CIA）：给定合适的处理前特征 X 后，处理分配 D 与潜在结果独立。同一 X 水平下，两组在潜在结果上可比。

$$(Y(0),Y(1))\perp D\mid X$$

重叠条件：同类人中，既有机会接受处理，也有机会不接受处理，否则找不到可比的对照。

$$0<P(D=1\mid X=x)<1$$

在上述假设及一致性条件下，组内观察差异等于组内平均因果效应：

$$\tau(x)=E[Y\mid D=1,X=x]-E[Y\mid D=0,X=x] =E[Y(1)-Y(0)\mid X=x]$$

2. 分层

按 X 分组，先算各层的处理组与对照组均值差，再加权汇总。例如按性别和是否本科，可分成四层。

• ATE：按总体中各层的占比加权。
• ATT：按处理组中各层的占比加权。

$$\mathrm{ATE}=\sum_x\tau(x)P(X=x),\qquad \mathrm{ATT}=\sum_x\tau(x)P(X=x\mid D=1)$$

维度灾难：20 个二元特征就有超过 100 万种组合，样本容易分得太细、找不到对照。有限样本的空层不一定说明总体违反重叠条件，但会让实际估计困难。

3. 匹配

给处理组个体找特征相似的未处理者，用对方的结果估计其未接受处理时的结果。匹配提供的是反事实的估计，无法观察个人真正的反事实。

$$\widehat{\mathrm{ATT}} =\frac{1}{N_T}\sum_{i:D_i=1}\left(Y_i-Y_{j(i)}\right)$$

• 精确匹配：要求特征相同；维度高时难实现。
• 最近邻匹配：选距离最近的对照。标准化欧氏距离消除量纲影响；马氏距离还考虑特征间相关性。
• 卡尺匹配：差距超过阈值就不匹配，避免强行配对。
• 一对多匹配：通常能降低方差，但加入较远的对照可能增加偏差。
• 有放回匹配：允许重复使用同一对照，可能提高匹配质量；推断时需考虑重复使用。

近似匹配仍可能留下特征差异，可结合回归作偏差修正。

4. 倾向得分与逆概率加权

倾向得分：具有特征 X 的人接受处理的概率。

$$e(X)=P(D=1\mid X)$$

真实倾向得分具有平衡性质：给定 e(X)，处理组与对照组的 X 分布相同。若给定 X 满足 CIA，则给定 e(X) 也满足 CIA。

• PSM：按估计的倾向得分匹配，把多维匹配转为一维匹配。
• IPW：给接受处理者权重 1/e(X)，未处理者权重 1/[1−e(X)]，调整两组的特征构成。

$$\mathrm{ATE} =E\left[\frac{DY}{e(X)}-\frac{(1-D)Y}{1-e(X)}\right]$$

例如某类人参加培训的概率只有 10%，参加者权重就是 10。极端倾向得分会产生很大的权重，导致估计不稳定；修剪样本会改变所研究的人群。

5. 匹配后的平衡性

看匹配后两组的特征差异是否缩小。标准化均值差（SMD）的绝对值越接近 0 越好，0.1 常作经验参考；图中蓝点整体比红点更靠近 0。

平衡性好只能说明观测到的特征更可比，不能证明没有未观测混淆。匹配与加权的因果解释仍依赖 CIA 等假设。

第五讲｜线性回归、控制变量与工具变量

1. 线性回归与条件期望

$$Y=\beta_0+\tau D+X'\gamma+\varepsilon$$

回归描述控制 X 后，D 与 Y 的关系。线性回归也是条件期望函数的最佳线性近似，但系数具有因果含义，还需要合适的控制变量与识别假设。

与分层加权的区别：在二元处理、CIA 成立且对 X 做饱和分层控制的设定下，共同斜率回归更重视层内处理比例接近一半的人群：

$$\tau_{\mathrm{OLS}} =\frac{\sum_x P(X=x)\operatorname{Var}(D\mid X=x)\tau(x)} {\sum_x P(X=x)\operatorname{Var}(D\mid X=x)}$$

因此，异质性效应下的回归系数未必等于 ATE。这个公式不能直接套用于任意线性控制模型。

2. FWL 定理：回归如何控制 X

1. 将 D 对 X 回归，得到残差。
2. 将 Y 对同一组 X 回归，得到残差。
3. 用 Y 的残差对 D 的残差回归，所得系数等于原多元回归中 D 的系数。

$$\hat\tau=\frac{\sum_i\widetilde D_i\widetilde Y_i} {\sum_i\widetilde D_i^2}$$

这里去掉的是 X 所解释的线性部分，不保证去除所有关于 X 的信息，也不自动保证因果识别。

3. 遗漏变量偏误与坏控制

设长回归为：

$$Y=\beta_0+\tau D+\gamma W+u$$

若漏掉 W，短回归系数满足：

$$\tau_{\mathrm{short}}-\tau =\gamma\frac{\operatorname{Cov}(D,W)}{\operatorname{Var}(D)}$$

这是长短回归系数的关系；把 τ 解释为因果效应，还需长模型的外生性等假设。

例如能力既提高教育水平，又提高收入，遗漏能力就可能高估教育回报。

• 混淆变量：控制它可阻断后门路径。
• 中介变量：估计总效应时控制它，会去掉经过中介的作用。
• 碰撞节点：控制它可能打开原本关闭的路径，引入偏误。

4. 工具变量与 2SLS

当关键混淆因素 U 无法观测时，可寻找工具变量 Z，利用它带来的处理变化识别效应。

工具变量需要：

• 相关性：Z 能影响 D。
• 外生性：Z 的分配与影响 Y 的未观测因素无关，可在给定控制变量后成立。
• 排除限制：Z 只能通过 D 影响 Y。

两阶段最小二乘（2SLS）：第一阶段用 Z 和控制变量 X 预测 D；第二阶段用预测值和同一组 X 解释 Y。标准误应使用正规的 IV/2SLS 方法计算。

一个工具、无其他控制变量时：

$$\hat\tau_{\mathrm{IV}} =\frac{\widehat{\operatorname{Cov}}(Z,Y)} {\widehat{\operatorname{Cov}}(Z,D)}$$

Z 为二元变量时，就是“Z 导致的 Y 均值差”除以“Z 导致的处理概率差”，即 Wald 估计量。

弱工具变量：Z 对 D 的影响太弱，会使估计不稳定、推断失真。第一阶段 F>10 只是常用经验参考，也不能证明外生性或排除限制。

5. LATE：识别的是谁的效应

例如随机抽签获得培训资格 Z，会提高实际参加培训 D 的概率；还需假设资格本身不会通过其他途径影响收入 Y。

在二元 Z、二元 D、有效工具与单调性等条件下，IV 识别的是依从者的平均效应：因为获得资格才参加培训的那群人。

$$\mathrm{LATE}=E[Y(1)-Y(0)\mid D(1)>D(0)]$$

单调性指不会有人“没资格时参加，有资格反而不参加”。LATE 未必等于全体人的 ATE。

第六讲｜面板数据、双重差分与合成控制

1. 面板数据与固定效应

面板数据：持续观察同一批个体在多个时期的表现。

$$Y_{it}=\alpha_i+\lambda_t+\tau D_{it}+X_{it}'\beta+\varepsilon_{it}$$

• 个体固定效应：控制不随时间变化、以固定加性形式影响结果的个体差异。
• 时间固定效应：控制各个体共同面对的时间冲击。

固定效应不能自动解决随时间变化的混淆、反向因果等问题，因果解释仍需要外生性等条件。

2. 双重差分（DID）

比较两组各自的前后变化，再求差：

$$\widehat{\mathrm{ATT}}_{\mathrm{DID}} =(\bar Y_{T,\mathrm{post}}-\bar Y_{T,\mathrm{pre}}) -(\bar Y_{C,\mathrm{post}}-\bar Y_{C,\mathrm{pre}})$$

例如处理组收入增加 3,000 元，对照组增加 1,000 元；若对照组的变化能代表处理组不受政策时的变化，则政策效应估计为 2,000 元。

平行趋势：假如没有处理，两组的平均结果变化应相同；不要求两组原本水平相同。

$$E[Y_{\mathrm{post}}(0)-Y_{\mathrm{pre}}(0)\mid G=1] =E[Y_{\mathrm{post}}(0)-Y_{\mathrm{pre}}(0)\mid G=0]$$

还需考虑提前反应、政策溢出、样本构成变化等问题。经典两组两期回归中，交互项系数就是 DID：

$$Y_{it}=\beta_0+\beta_1G_i+\beta_2\mathrm{Post}_t +\tau(G_i\times\mathrm{Post}_t)+\varepsilon_{it}$$

讲义例子：新泽西州提高最低工资，宾夕法尼亚州作为对照，比较两州快餐店就业的前后变化；其因果解释依赖上述假设。

3. 事件研究与安慰剂检验

事件研究：把政策前后各期的相对变化分别画出来，观察处理前趋势和处理后的动态效应，通常以处理前一期为基准。

处理前系数接近 0、统计上不显著，为设计提供支持，但不能证明处理后的反事实平行趋势成立，也可能是检验能力不足。

安慰剂检验：使用虚假的政策时间或不该受影响的结果。若仍估出明显效应，就需要检查设计；没发现效应也不等于识别一定正确。

面板数据常存在组内相关，标准误通常需按政策分配层级聚类。

4. 三重差分与交错 DID

三重差分（DDD）：再引入一个比较维度，对两个 DID 结果作差。例如地区、政策前后、受影响与不受影响人群。它需要额外的趋势假设，不能自动修复任意平行趋势问题。

交错 DID：不同地区在不同时间接受处理。传统双向固定效应可能把已处理地区当作后来处理地区的对照，动态或异质性效应会使比较失真。

Bacon 分解将传统估计拆成多组两期 DID 的加权平均。这些分解权重本身非负；把估计进一步写成各组各期处理效应的加权平均时，可能出现负权重。可使用 Callaway–Sant’Anna、Sun–Abraham 等适合交错处理的方法。

5. 合成控制

找不到单个合适对照时，用多个未处理单位加权，构造一个处理前走势接近处理单位的“合成对照”。

$$\widehat Y_{1t}(0)=\sum_{j=2}^{J+1}w_jY_{jt}, \qquad w_j\ge0,\quad\sum_jw_j=1$$

$$\hat\tau_t=Y_{1t}-\widehat Y_{1t}(0)$$

把差距解释为政策效应，需要合成对照能够代表无政策时的走势，并排除其他同期特有冲击及溢出影响。可把其他地区轮流当作“处理地区”做安慰剂比较，同时检查其处理前拟合质量。