从https://en.wikipedia.org/wiki/Shapley_value可以理解，使用通用公式很难直接计算 Shapley 值：

$$\varphi_i(v) = \frac{1}{\text{number of players}} \sum_{\text{coalitions excluding }i} \frac{\text{marginal contribution of }i\text{ to coalition}}{\text{number of coalitions excluding } i \text{ of this size}}$$

基本上是因为不包括 i 的联盟的数量随着复杂性的增加而增加$\sum_{k=1}^{n-1} k!$，其中 n 是变量的数量。在使用 Monte-Carlo 技术（如https://christophm.github.io/interpretable-ml-book/中提到的）评估这个总和的方向上已经取得了一些进展，但这些计算仍然很密集。

在他们的文章（http://papers.nips.cc/paper/7062-a-unified-approach-to-interpreting-model-predictions）中，Lundberg 和 Lee 提出了两种新方法，依赖于 SHAP——（这些是 Shapley 值原始模型的条件期望函数）：

• 与模型无关的方法基本上将问题重写为线性回归问题，直观上计算成本更低。基本上说SHAP是模型权重的函数并试图近似它。
• 一种特定于模型的方法。假设输入独立（这很少是真的......）他们展示了如何直接从模型权重计算 SHAP 值。从线性模型开始，他们使用通常的传播技术为 NN 设计了类似的关系。

至于究竟哪种方法用于 MLP，我不确切知道，但第二种方法似乎更合适（特定于模型，精确方法）。