可解释的 AI 中的空 SHAP 图是什么意思?

数据挖掘 机器学习 神经网络 可解释的ai
2022-03-02 21:09:43

使用 Python,我创建了一个神经网络来对二进制类数据集执行预测(例如,乘客能否在泰坦尼克号上幸存下来?)。我正在使用 SHAP 包来解释个人预测。对于该数据集中的所有实例,SHAP 输出的可视化的输出值为 0,上图/下图为空(未列出任何特征)。

shap.force_plot(k_explainer.expected_value[0], k_shap_values[0], label_test_X.iloc[0])

当我使用不同的数据集并运行上面的行时,SHAP 会输出一个图表并列出特征。

空 SHAP 图是什么意思,尤其是在这种情况下,数据集的每个实例都有一个空图?我正在阅读文档以帮助理解这种情况,但我很感激对此的任何见解。

预先感谢您的帮助!

1个回答

这意味着 shap 值是 nan.Model 无法计算 shap 值。