我知道的一些是：

排列重要性，python包就是这个ELI5

您已经涵盖了石灰、Shap、PDP 和依赖图。

要了解 AI 的可解释性，我强烈建议您阅读：

1. https://www.bankofengland.co.uk/working-paper/2019/machine-learning-explainability-in-finance-an-application-to-default-risk-analysis

2. 在 Kaggle 上学习这门课程：https ://www.kaggle.com/learn/machine-learning-explainability

在不完全了解您要解决的问题的情况下，请参阅下面的一些可解释性包和/或方法，我在过去发现它们非常有用，尤其是对于 DL 和 NLP 任务。

套餐：

• https://github.com/pair-code/lit
• https://github.com/mruberry/captum
• https://www.tensorflow.org/tensorboard/what_if_tool

论文和论文：

• https://proceedings.neurips.cc/paper/2019/file/567b8f5f423af15818a068235807edc0-Paper.pdf
• https://arxiv.org/pdf/1512.02479.pdf

具体到表格数据，

我发现使用 TabNet 模型中每一步生成的掩码非常有见地。Tabnet 还可以在与 Shap 相同的上下文中产生聚合重要性。掩码可以告知这些重要特征如何组合以提高模型性能。

您可以使用纯 pytorch 或 fast.ai 中的 dreamquark-ai 实现轻松地对此进行试验。

• TabNet 论文：https ://arxiv.org/abs/1908.07442
• TabNet pytorch 实现：https ://github.com/dreamquark-ai/tabnet
• TabNet 快速 ai：https ://github.com/mgrankin/fast_tabnet

希望这可以帮助。

编辑：标签网