里贝罗的“我为什么要相信你？” 论文和博客文章提供了一种解释黑盒模型的方法

• 论文https://arxiv.org/abs/1602.04938
• 博客文章https://www.oreilly.com/learning/introduction-to-local-interpretable-model-agnostic-explanations-lime

该模型称为“LIME”：本地可解释的模型无关解释。

它的工作方式是：

• 创建一组“可解释”特征，可能是也可能不是原始输入特征：也可能是两者之间的映射
  • 例如，对于图像，“可解释的特征”可能是连续的像素块，而黑盒模型的输入特征可能是像素值
• 示例输入/可解释的输入特征靠近一个希望解释的示例
• 在这些本地样本上拟合一个简单的、可能是线性的本地模型
• 使用此局部模型来获得对希望解释的示例进行分类时哪些特征最重要的近似值