我有好消息和坏消息。

坏消息是，由于神经网络的非线性特性，相同的特征会根据其他特征做出不同的贡献。

这是一个简单的非线性函数：f(a,b,c) = y = ba^3 + bc + c。有人可能会争辩说，“a”对这个函数的贡献最大，但是当 b 为负数时，更正的 a 可能会使事情变得更糟。当 b 为零时，c 贡献最大。当 b 为负时，非常负的 a 将贡献最大。

好消息是，您也许能够可视化一些简单的单层网络。在深度学习中使用了一个有趣的技巧。

假设您的示例有 x，权重有 W，结果有 y，请将要在 y 中显示的特征设置为 1，其余设置为零，然后乘以 W-transpose。您应该得到一些 x 的输出值，这些值向您展示一切是如何连接的。这不是一个完美的解决方案，但如果在乘法后得到一些巨大的值，则可以说这些值与 y 高度相关。（通常。）