根据我的模型,如果我因为某人的分数而拒绝某人,它应该能够提供一些关于哪些变量主要促成了拒绝的决定的推理。
通常在逻辑回归模型中,这是一个简单的练习,您可以计算每个变量的 (Beta * X),然后选择 1 或 2 个导致最大分数下降的变量。
然而,这对于非线性模型来说并不是很简单。我将不胜感激有关处理此类事情的任何想法。谢谢。
根据我的模型,如果我因为某人的分数而拒绝某人,它应该能够提供一些关于哪些变量主要促成了拒绝的决定的推理。
通常在逻辑回归模型中,这是一个简单的练习,您可以计算每个变量的 (Beta * X),然后选择 1 或 2 个导致最大分数下降的变量。
然而,这对于非线性模型来说并不是很简单。我将不胜感激有关处理此类事情的任何想法。谢谢。
试试石灰。换句话说,计算给定观察的全局高度非线性模型的局部表示。这个本地代理应该足够简单,也可以解释。决策树或简单的线性回归是不错的选择。
试试 Eli5
from eli5 import show_weights,show_prediction
show_weights(model)
show_prediction(model,data_point)
另一种方法是石灰和 SHAP