我已经训练了 fastText 模型，并在其嵌入的基础上构建了一些完全连接的网络。我想出了如何在上面使用 Lime：完整的例子可以在Natural Language Processing Is Fun Part 3: Explaining Model Predictions中找到

这个想法很明确 - 将 1 个句子放入 Lime，它会删除单词并从 my 中生成一些新句子并检查分数如何变化。

我的下一个想法 - 为此使用 SHAP 值。SHAP 值可用于任何深度模型，使用DeepExplainer. 这是一个使用示例：Keras LSTM for IMDB Sentiment Classification

但我不能将它用于我的合奏，因为DeepExplainer需要张量作为输入，但我想输入句子。我不想为此使用 BoW 或 TF-IDF - 在这种情况下我失去了 fastText 的能力。我想要达到的目标 - 在我的句子的单词上建立一些 shap-plots。是否可以？