Causal Shapley 不是因果识别

在前面推文（ SHAP解释边界：从“模型归因”到“因果识别” 三篇 Nature 论文看 SHAP 的三重边界：归因、机制解释与因果识别 ）中，我强调： SHAP 不直接提供 causality 。

但在真实研究中，我们并不满足于知道“变量在模型里重不重要”，而是会进一步追问：它是不是 driver ，它是否对结果产生了 effect ？也正因为如此，许多研究转向一些带有因果色彩的方法，例如 Causal Shapley 。因为名称中带有 causal ，我们很容易默认 Causal Shapley 已经完成了 因果识别（causal identification） 。但是，这个默认其实是很危险的。

首先需要清楚什么是因果识别。 因果识别要回答的是 ： 我们究竟能不能有根据地说，变量 X 对结果 Y 的因果效应（causal effect） 是成立的？这里真正要解决的是，观测到的关系究竟是因果效应（causal effect），还是混杂（confounding）、代理依赖（proxy dependence）、选择偏差（selection bias），或者别的替代解释。换句话说，它做的是效应识别（effect identification）。

Causal Shapley要回答的则是 ： 如果我们接受某一套因果结构（causal structure），那么整体效应（total effect）应当如何分到不同变量上？哪些是direct contribution，哪些是indirect contribution？因此，它做的是 效应分解（effect decomposition） 。

这也是为什么说， Causal Shapley 依赖因果前提（causal assumptions），但并不生产这些前提。它可以建立在因果图（causal graph）、因果顺序（causal order）或干预语义（intervention semantics）之上，但 并不负责证明这些前提本身是否成立。 所以，使用 Causal Shapley时需要谨慎。它不是因果识别工具，而是在显式因果承诺（explicit causal commitments）约束下，对effect进行归因分解的工具。